Жительницу американского штата Флорида арестовали после того, как она использовала чат-бот Claude как личный дневник и написала о намерении атаковать офис шерифа. Как сообщает TechSpot, система безопасности Anthropic отметила сообщение, после чего его проверил сотрудник компании и передал информацию правоохранителям.
Согласно отчету об аресте, Карли Мишель Хеллер из Бонита-Спрингс 26 сентября написала в Claude, что планирует атаковать офис шерифа. Позже она объяснила следователям, что использовала чат-бот Anthropic как «дневник».
Система безопасности Claude автоматически отметила запись как потенциально опасную и передала её на проверку человеку. После анализа сообщений сотрудник компании пришёл к выводу, что угроза может быть реальной, и сообщил о ней правоохранительным органам.
Правоохранители установили личность Хеллер и прибыли к её дому. Женщину задержали без инцидентов, после чего расследованием занялся детектив разведывательного подразделения офиса шерифа округа Ли.
Хеллер предъявили обвинение в создании письменной угрозы насилием. В соответствии со статьёй 836.10 законодательства Флориды, передача, публикация или распространение письменного или электронного сообщения с угрозой убийства или причинения вреда, совершение массовой стрельбы или террористического акта является тяжким преступлением второго уровня. Закон также предусматривает, что сообщение должно быть создано таким образом, чтобы его мог увидеть другой человек.