Utah deja que una IA recete medicamentos sin médicos — y los expertos estan aterrados

Imaginate que te quedas sin tu medicamento para la presion y no hay quien te atienda. Abres una app, chateas con un "medico IA", pagas cuatro dolares y en minutos tienes la receta renovada. Sin consultorio. Sin doctor. Sin nadie que revise el expediente.

Eso ya no es un experimento de laboratorio. Es una realidad en Utah, el primer estado de Estados Unidos que permite que una inteligencia artificial renueve recetas de forma autonoma, segun reporto Ars Technica.

El "sandbox" que salto todas las bardas

El programa funciona bajo el marco de "sandbox regulatorio" del estado: un mecanismo donde las empresas prueban productos "innovadores" con las regulaciones suspendidas temporalmente.

El Departamento de Comercio de Utah se asocio con Doctronic, una startup de telesalud cuyo chatbot se presenta como un "doctor IA". El detalle incomodo: los pacientes deben pasar primero por el bot para siquiera agendar una cita con un medico real, que cuesta 39 dolares.

En Utah, el bot da un paso mas. Renueva recetas sin ningun doctor de por medio, por 4 dolares.

Las cifras que presumen (y las que esconden)

Doctronic publico un preprint, o sea sin revision de pares, con 500 casos de telesalud. Afirma que su diagnostico coincidio con el de un clinico real en el 81% de los casos, y que el plan de tratamiento fue "consistente" con el de un doctor en el 99%.

Suena bien hasta que te detienes a pensarlo: si uno de cada cinco diagnosticos no coincide con un humano, eso no es un margen de error. Es una loteria con tu salud.

El sistema solo cubre 190 medicamentos comunes para condiciones cronicas. Quedan fuera los analgesicos, los tratamientos para el deficit de atencion (ADHD) y todo lo que se inyecta. Los primeros 250 tramites de cada clase de farmaco los revisa un doctor real; despues de eso, la IA queda sola.

"Un primer paso peligroso"

Adam Oskowitz, cofundador de Doctronic y profesor en la Universidad de California en San Francisco, asegura que el sistema esta disenado para pecar de precavido y escalar a un humano cualquier caso dudoso. Margaret Woolley Busse, del Departamento de Comercio de Utah, lo vendio como un "equilibrio vital" entre innovacion y seguridad del consumidor.

Del otro lado, la condena fue sin matices. Robert Steinbrook, director del grupo de investigacion en salud del vigilante Public Citizen, lo dijo directo: "La IA no deberia estar renovando recetas de forma autonoma, ni identificandose como un 'doctor IA'".

Y remato: "El programa piloto de Utah es un primer paso peligroso hacia una practica medica mas autonoma. La FDA y las demas agencias federales no pueden mirar hacia otro lado".

El limbo regulatorio que nadie quiere resolver

La pregunta incomoda: quien vigila esto? Recetar es practica de la medicina, y eso cae en manos de los estados. Pero la FDA ha dicho que tiene autoridad sobre los dispositivos medicos usados para diagnosticar, tratar o prevenir enfermedades. Un chatbot con IA entra justo en el hueco entre ambos.

Por ahora, la FDA no ha definido si intervendra. Utah tampoco tiene prisa. Y mientras los abogados se acomodan, una IA ya esta firmando renovaciones.

Que significa esto para Latinoamerica

En America Latina, donde la mitad de los pacientes cronicos abandona su tratamiento por falta de acceso, el atractivo es obvio: un "doctor" disponible 24/7 por una fraccion del costo, sobre todo en zonas rurales o de alta demanda donde faltan especialistas.

Pero el riesgo se multiplica. Nuestros sistemas de salud no tienen la infraestructura de auditoria de Utah, ni registros electronicos unificados, ni agencias que fiscalicen un algoritmo que receta solo. Una IA que renueva recetas sin supervision en un consultorio sin expediente confiable no es eficiencia: es ruleta rusa.

La tecnologia no es el problema. La falta de reglas claras, si.

La pregunta que nadie quiere contestar

Utah acaba de abrir una puerta que no se cierra facil. Si el piloto funciona en 190 farmacos, el siguiente paso son 400. Luego los diagnosticos. Luego todo. Y cada paso lo van a vender igual: "balance entre innovacion y seguridad".

El problema es que nadie ha demostrado todavia que un algoritmo sepa cuando tiene que decir "esto no lo puedo resolver yo".

Mientras eso se aclara, la pregunta queda sobre la mesa: dejarias que una IA te recetara tu medicamento sin que ningun humano revise?

Comparte esto con alguien que todavia cree que la IA en salud es solo un gadget. Porque esto no es un experimento: es la primera puerta abierta.