Escribió en su diario y la detuvieron: Anthropic lo reportó a la policía

Escribió en su diario. Nunca lo apretó. Y aun así la detenieron.

Carli Michelle Heller, una mujer de Bonita Springs (Florida), está acusada de un delito grave porque el 26 de septiembre escribió en Claude que planeaba "dispararle" a la oficina del Sheriff del Condado de Lee. Eso fue todo.

No fue una amenaza pública. No fue una publicación. Fue una entrada en un chat privado que, según ella misma explicó después, usaba como diario.

Los sistemas de seguridad de Claude marcaron la nota, un revisor humano decidió que era creíble y la empresa la reportó a la policía.

La consecuencia: fue detenida sin incidentes y ahora responde ante la justicia por el Estatuto 836.10 de Florida, un delito de segundo grado por amenaza escrita de violencia.

El mensaje de fondo es claro: lo que escribes en un chatbot no es un diario privado. Es evidencia que puede acabar en manos de un juez.

Lo que pasó exactamente

Según el reporte de arresto, la nota del 26 de septiembre contenía un plan para atacar la oficina del Sheriff. El sistema de Claude la marcó automáticamente y la escaló a un revisor humano, que decidió que la amenaza era creíble. La evidencia llegó al Sheriff's Office.

Los alguaciles identificaron a Heller y fueron a su casa. No hubo resistencia. Un detective de inteligencia del Sheriff's Office tomó el caso.

La posición de Anthropic: la empresa puede compartir información de usuarios "en emergencias limitadas" si cree que la divulgación es necesaria para prevenir muerte o lesión física grave.

⚠️ Esto NO es un caso aislado

Lo de Florida es la punta de un patrón que ya tiene demasiados frentes:

• Columbia Británica demandó a OpenAI y a Sam Altman alegando que la compañía pudo evitar un tiroteo masivo en la provincia. La atacante, de 18 años, ya había sido marcada por el equipo de seguridad de OpenAI en conversaciones sobre violencia con armas, pero nunca se avisó a la policía porque las conversaciones no superaron el umbral legal de referencia.
• Florida demandó a OpenAI y Altman en junio, alegando que ChatGPT había contribuido a daños reales, incluido el tiroteo de la Florida State University en 2025.

• Texas: arrestado por decirle a un chatbot que quería "dispararle a los niños" de una escuela primaria.
• Copilot de Microsoft: los contratistas humanos ven tus prompts, tus fotos subidas y tus ediciones con IA. Documentos revelados el mes pasado confirman que algunas asignaciones contienen material sexual, perturbador o potencialmente ilegal.

Puedes leerlo como "el sistema funciona". También puedes leerlo como cientos de miles de personas que le escriben sus peores pensamientos a un modelo y confían en que nadie los va a leer. Las dos cosas son ciertas.

🔒 Qué puedes hacer para protegerte (5 pasos)

La pregunta ya no es "si reportan" sino "cuándo". Estos son los pasos concretos:

1. Trata el chat como un canal público, no privado. Todo lo que escribes puede ser leído por una persona. Asume que existe la posibilidad, aunque la interfaz te diga lo contrario.

2. Nunca escribas planes, intenciones ni ubicaciones concretas. "Voy a disparar a X" es la frase más cara que puedes teclear. Los detectores están entrenados específicamente para ese patrón.

3. Usa un modelo local si necesitas pensar en serio. Si necesitas un diario o un cuaderno de notas privado de verdad, que nadie más que tú pueda leer, la única solución es ejecutarlo en tu propia máquina.

4. Revisa los ajustes de privacidad y borra el historial. En algunos servicios, borrar el chat no borra la copia del servidor ni la copia de los revisores.

5. Si estás en crisis real, habla con una persona. No con un modelo. Un chatbot no tiene nada que perder si te reporta.

Mi opinión: la pregunta es quién decide

No estoy en contra de que Anthropic reporte amenazas reales. Una amenaza de muerte creíble contra una estación de policía tiene que escalarse. El problema es que el criterio de "creíble" lo decide una empresa que responde a sus usuarios, no a ti. No hay tribunal, no hay apelación, no hay notificación previa, no hay registro público de cuántos casos hay cada mes.

En una democracia, cuando escribes algo que una institución considera peligroso, lo mínimo es que sepas que fue leído y por qué. Aquí no existe tal cosa.

Un mes entero entre la nota y el arresto

Que nadie haya intentado una verificación del contexto me parece la parte más preocupante. Las prisiones se llenan de gente que dijo algo en el contexto equivocado. La diferencia aquí es que el contexto se lo llevó la máquina.

La verdadera pregunta para 2026 no es si la IA puede contener amenazas. Ya lo puede. La pregunta es qué más va a contener mientras cree que te está protegiendo.

Comparte esto con alguien que le escribe sus pensamientos más oscuros a un chatbot. Y si crees que un modelo local resuelve el problema, te explico cómo ejecutarlo en tu propio PC en el blog.

💬 ¿Tú sabes si lo que escribes en una IA puede acabar en manos de la policía?

Déjamelo en los comentarios. Y si crees que el diario privado es un derecho, este es el artículo para compartir.