En resumen
- Los investigadores dicen que Carli Michelle Heller escribió el 26 de septiembre que "dispararía" a la Oficina del Sheriff del Condado de Lee, y dijo al día siguiente que tenía una nueva arma.
- Según el informe de arresto, los sistemas de seguridad de Anthropic marcaron las entradas y un equipo de revisión humana las reportó a las autoridades.
- Los términos de consumo de Anthropic se reservan el derecho, a su entera discreción, de reportar las entradas de un usuario a las autoridades.
Una mujer de Florida dijo que usa la IA como un diario. Ahora enfrenta un cargo por delito grave, y el lector que la llevó allí fue alguien a quien nunca pretendió mostrárselo.
Carli Michelle Heller, de Bonita Springs, fue arrestada después de que los investigadores descubrieran que escribió el 26 de septiembre que "dispararía" a la Oficina del Sheriff del Condado de Lee, según el medio local WINK News. Según las investigaciones, su cuenta de Claude mostraba conversaciones que decían que había conseguido una nueva arma al día siguiente.
El informe de arresto dice que la plataforma de Anthropic monitorea frases clave y contenido amenazante. Debido a la gravedad de las declaraciones, fueron a un equipo de revisión humana, que las reportó a las autoridades.
Los agentes identificaron a Heller, fueron a su casa y la detuvieron sin incidentes. Se le acusa de hacer una amenaza de violencia por escrito.
Los documentos de Anthropic no ocultan nada de esto. Sus términos de consumo se reservan el derecho, a la "entera discreción" de la empresa, de informar a las autoridades policiales sobre las entradas, salidas o acciones de un usuario. Su política de privacidad, vigente a partir del 10 de septiembre de 2026, también permite compartir datos con la policía cuando la empresa tiene la creencia de buena fe de que la divulgación es razonablemente necesaria para prevenir daños graves.
En efecto, incluso optar por no permitir el manejo de tus datos para el entrenamiento de modelos le da a Anthropic el derecho de usar tus datos durante tres meses en lugar de cinco años, por lo que tus chats nunca son privados.
BitcoinBTC · USD
$85,804+3.11%
Sep 28Sep 30Oct 2Oct 4Oct 5
$86.8k$85.5k$84.2k$83.0k
24h HighHigh$86,949
24h LowLow$85,010
VolVol$1.5B
Market projectionsOdds by Myriad
→Buy Bitcoin with USDT
Powered by Jupiter
La misma política establece que las conversaciones marcadas para revisión de seguridad todavía se utilizan para mejorar la capacidad de Anthropic de detectar contenido dañino. Una entrada de diario marcada puede terminar como material de entrenamiento para los detectores.
Heller no es el primero. El San Francisco Standard informó en septiembre que Anthropic remitió a un usuario a la policía después de que supuestamente escribiera que había comprado un AR-15 y tenía al CEO Dario Amodei en su punto de mira. Un empleado dijo a los agentes que no estaba preocupado de inmediato por la seguridad, y se negó a mostrar los mensajes, citando la política de la empresa.
El usuario dijo al Standard que estaba bromeando, y no había sido arrestado ni acusado cuando se publicó la historia. Un portavoz de Anthropic calificó el episodio como "nuestro proceso de salvaguardas funcionando según lo previsto". La empresa se negó a decir si trata de manera diferente las amenazas contra sus propios empleados.
Esto no es solo un problema de Anthropic. Después del tiroteo escolar de febrero en Tumbler Ridge, Columbia Británica, que mató a ocho personas, OpenAI dijo que había sopesado alertar a la policía canadiense en junio de 2025, pero concluyó que la cuenta no mostraba un riesgo inminente y creíble de daño físico grave.
La propia publicación de política de agosto de 2025 de OpenAI dirige las amenazas contra otros a revisores humanos que pueden remitirlas a las autoridades.
Heller tiene una fecha de comparecencia fijada para noviembre.
