Una farmacia puso una IA a atender llamadas — y les dio dosis equivocadas a los pacientes

Una farmacia estadounidense reemplazó a sus operadores telefónicos por una inteligencia artificial. El resultado no fue eficiencia: un paciente recibió una dosis equivocada de su medicamento por teléfono.

Kinney Drugs, una cadena con más de 100 locales en Nueva York y Vermont, lanzó en mayo un asistente de voz llamado "Burt" — en honor al fundador de la compañía — para gestionar recetas y recordatorios. Cuatro meses después, cientos de pacientes se quejaron y la cadena tuvo que dar marcha atrás.

Qué salió mal con la IA de la farmacia

Según reportó el medio local WCAX, los pacientes reportaron llamadas incoherentes, dosis equivocadas y notificaciones de recetas que nunca llegaban. El problema fue tan grave que la cadena decidió volver al sistema clásico de tonos telefónicos para las llamadas entrantes.

"Que la privacidad y la seguridad estén bien no significa que la experiencia haya salido bien. No lo logramos, y lo asumimos", admitió el presidente de Kinney Drugs, John Marraffa.

Los clientes también expresaron preocupación por sus datos de salud: ¿qué pasa con tu información médica cuando la maneja un modelo de IA? Kinney asegura que Burt es compatible con HIPAA, que no es open-source y que no genera ni manipula datos. Pero el daño de confianza ya estaba hecho.

El patrón: la IA ahorra costos, el paciente paga

Esto no es un caso aislado. En las últimas semanas vimos farmacias, aerolíneas y bancos lanzando asistentes de IA para reemplazar humanos — y cada vez más empresas tienen que desactivarlos tras quejas masivas.

El problema de fondo es simple: la IA se implementa para recortar costos de personal, pero cuando la decisión equivocada afecta un medicamento, el error no se mide en dólares ahorrados. Se mide en la salud de un paciente.

Lo más preocupante: las quejas no llegaron a la dirección de la empresa hasta que los medios locales (VTDigger primero, luego WCAX) publicaron la historia. ¿Cuántas dosis equivocadas se dieron antes de que alguien escuchara a los pacientes?

¿Qué pasa en LATAM?

En América Latina, las cadenas de farmacia y los servicios de salud privados ya están experimentando con asistentes de voz y chatbots para recetas y citas. La lección de Kinney Drugs aplica directo: en salud, un fallo de IA no es un bug — es un riesgo para tu vida.

Si una farmacia o clínica te atiende con una IA y algo suena raro, haz lo mismo que hicieron estos pacientes: quejate, documentá y escalá. Ellos lograron que una cadena entera volviera a los humanos.

La IA en salud tiene futuro, pero primero tiene que demostrar que no te va a dar una dosis mal calculada.

Comparte esto con alguien que todavía cree que poner IA en farmacias es "solo eficiencia".

¿Te atendió alguna vez una IA de una farmacia o un banco y falló? Cuéntanos en los comentarios.