TL;DR
Utah se ha convertido en el primer estado de EE. UU. en permitir que un chatbot de inteligencia artificial, Doctronic, renueve recetas sin un médico, a través de un entorno de pruebas regulatorio que renuncia a las leyes de licencia. La junta de licencias médicas del estado, sorprendida por el lanzamiento de enero, pidió en abril que se detuviera el piloto por riesgos de seguridad, pero el estado se negó. El caso expone un vacío regulatorio federal-estatal en torno a la IA en la medicina.
Utah se ha convertido silenciosamente en el primer estado de EE. UU. en permitir que un chatbot con inteligencia artificial renueve recetas sin un médico. según la prensa asociada. El programa, dirigido por una empresa llamada Doctronic, se lanzó en enero y ha desatado un intenso debate médico.
Los residentes pueden saltarse el consultorio del médico y surtir recetas en línea a través del chatbot. Pregunta sobre su medicación e historial, verifica una base de datos de farmacias nacional y renueva el guión o deriva a un médico humano.
El lanzamiento sólo fue posible a través de un “zona de pruebas regulatoria” que permite a los funcionarios de Utah renunciar a las leyes por una IA prometedora. De lo contrario, las reglas estatales y federales restringen la prescripción a profesionales médicos autorizados.
«Hemos cruzado un umbral en términos de otorgar una licencia médica a algo que no es humano, queramos llamarlo así o no», dijo a la AP el doctor Eric Bressman, de la Universidad de Pensilvania. Él y otros dicen que no se oponen a la prescripción de IA, pero quieren que se cumplan estándares tan rigurosos como los de los médicos humanos.
El tablero que quedó fuera
La junta de licencias médicas de Utah dice que sólo se enteró del programa cuando el lanzamiento de enero fue noticia. En una carta de abril, 11 miembros pidió que se detuviera el pilotocitando los riesgos de los medicamentos que se renuevan automáticamente con efectos secundarios o interacciones.
«Básicamente nos dijeron: ‘Sí, esto está sucediendo. Y no, ustedes no tienen voz y voto'», dijo el Dr. Alan Smith, un médico de familia que preside la junta pero habló por sí mismo.
el estado se negó a suspenderloseñalando que los médicos humanos aún revisan cada reabastecimiento en esta primera fase.
Actualmente, el programa está supervisado por una junta de cinco miembros de especialistas en IA, ninguno de ellos médico. Doctronic espera pasar pronto a recargas totalmente automatizadas.
Smith advierte que los riesgos son reales y señala que los aproximadamente 190 medicamentos recargables de Doctronic incluyen anticoagulantes, que se vuelven peligrosos si un paciente desarrolla una hemorragia interna. La Asociación Médica Estadounidense se ha hecho eco de la preocupación de que “las renovaciones de recetas no son casillas de verificación de rutina”.
Un vacío regulatorio por diseño
El caso expone un enredo jurisdiccional, ya que la tecnología médica está regulada a nivel federal mientras que los profesionales médicos son supervisados por los estados. Doctronic enmarca su IA como parte de la práctica médica regulada por el estado, aunque algunos expertos sostienen que ha cruzado al territorio de la FDA.
La compañía no dijo si solicitó permiso a la FDA. La agencia dijo a la AP que no ha autorizado chatbots de inteligencia artificial, pero quiere fomentar la innovación, una postura de no intervención que se adapta a una Una mayor flexibilización de la supervisión de las herramientas de salud de la IA..
Los críticos ven la historia rimando, y Bressman compara el momento con la medicina desordenada de principios del siglo XX, antes de que existieran las juntas y los puntos de referencia. El modelo para otorgar licencias de servicios médicos de IA en otros estados proviene del Instituto Cicero, un grupo de expertos pro-IA fundado por el cofundador de Palantir, Joe Lonsdale.
Lo que está en juego no es abstracto, ya que los investigadores de seguridad han advertido que Los chatbots médicos pueden parecer autoritarios al mismo tiempo que brindan consejos peligrosos.. Otros advierten que Sacar a los seres humanos de la atención puede socavar los resultados que promete..
Los rivales también están luchando por mapear esos modos de falla. Meta llegó tan lejos como Haciéndose pasar por adolescentes para probar cómo los chatbots de la competencia manejan temas delicados..
Doctronic planea realizar estudios revisados por pares a finales de este año, aunque su único artículo publicado hasta ahora fue escrito por sus propios científicos y no fue revisado de forma independiente. Como lo expresó un profesor de derecho de Utah, las empresas corren el riesgo de dejar que la tecnología carrera más allá de la evidenciay traicionar la confianza pública en el proceso.