Кратко
- Следователи утверждают, что Карли Мишель Хеллер написала 26 сентября, что она «расстреляет» офис шерифа округа Ли, и на следующий день сказала, что у неё новое оружие.
- Согласно отчёту об аресте, системы безопасности Anthropic пометили эти записи, и команда проверки людьми сообщила о них правоохранительным органам.
- Потребительские условия Anthropic оставляют за собой право по своему усмотрению сообщать о вводимых пользователем данных правоохранительным органам.
Жительница Флориды сказала, что использует ИИ как дневник. Теперь ей предъявлено обвинение в тяжком преступлении, и читателем, который отправил её туда, был тот, кому она никогда не собиралась это показывать.
Карли Мишель Хеллер из Бонита-Спрингс была арестована после того, как следователи обнаружили, что она написала 26 сентября, что «расстреляет» офис шерифа округа Ли, согласно местному изданию WINK News. По данным расследования, её аккаунт Claude показал разговоры о том, что на следующий день у неё появилось новое оружие.
В отчёте об аресте говорится, что платформа Anthropic отслеживает ключевые фразы и угрожающий контент. Из-за серьёзности заявлений они были переданы команде проверки людьми, которая сообщила о них правоохранительным органам.
Заместители опознали Хеллер, пришли к ней домой и задержали её без происшествий. Ей предъявлено обвинение в письменной угрозе насилия.
Документация Anthropic ничего из этого не скрывает. Её условия для потребителей оставляют за собой право по «единоличному усмотрению» компании сообщать правоохранительным органам о вводимых пользователем данных, выводимых результатах или действиях. Её политика конфиденциальности, вступающая в силу 10 сентября 2026 года, также разрешает передавать данные полиции, когда компания добросовестно полагает, что раскрытие разумно необходимо для предотвращения серьёзного вреда.
Фактически, даже отказ от обработки ваших данных для обучения моделей даёт Anthropic право использовать ваши данные в течение трёх месяцев вместо пяти лет, так что ваши чаты никогда не являются конфиденциальными.
BitcoinBTC · USD
$85,804+3.11%
Sep 28Sep 30Oct 2Oct 4Oct 5
$86.8k$85.5k$84.2k$83.0k
24h HighHigh$86,949
24h LowLow$85,010
VolVol$1.5B
Рыночные прогнозыКоэффициенты от Myriad
→Купить Bitcoin за USDT
Работает на Jupiter
Та же политика гласит, что разговоры, помеченные для проверки безопасности, по-прежнему используются для улучшения способности Anthropic обнаруживать вредоносный контент. Помеченная запись в дневнике может стать обучающим материалом для детекторов.
Хеллер не первый. San Francisco Standard сообщила в сентябре, что Anthropic передала пользователя полиции после того, как он, как утверждается, написал, что купил AR-15 и держит генерального директора Дарио Амодеи на прицеле. Сотрудник сказал офицерам, что он не был немедленно обеспокоен безопасностью, и отказался показать сообщения, сославшись на политику компании.
Пользователь сказал Standard, что он шутил, и на момент публикации истории он не был арестован или обвинён. Представитель Anthropic назвал этот эпизод «нашим процессом защиты, работающим как задумано». Компания отказалась сказать, обращается ли она с угрозами против своих собственных сотрудников иначе.
Это не только проблема Anthropic. После февральской стрельбы в школе в Тамблер-Ридж, Британская Колумбия, в результате которой погибли восемь человек, OpenAI заявила, что рассматривала возможность предупреждения канадской полиции в июне 2025 года, но пришла к выводу, что аккаунт не демонстрировал неизбежный и достоверный риск серьёзного физического вреда.
Собственный августовский политический пост 2025 года OpenAI направляет угрозы против других к людям-проверяющим, которые могут передать их правоохранительным органам.
У Хеллера назначена дата суда на ноябрь.
