Жительница Флориды была арестована после разговора с чат-ботом на основе искусственного интеллекта, в котором она рассуждала о нападении на местное управление шерифа
Полицию об этом уведомила система компании, разработавшей чат-бот. Эта история напоминает, что разговоры с ИИ могут быть менее приватными, чем предполагают многие пользователи.
Инцидент произошёл в конце сентября. 30-летняя жительница Бонита-Спрингс в чате с «Claude» написала, что собирается напасть на офис шерифа округа Ли.
На следующий день она отправила ещё одно сообщение, в котором говорилось о покупке нового оружия.
По данным полиции, женщина воспринимала чат-бот как личный дневник и не осознавала возможных последствий.
Разговоры с «Claude» проверяют автоматические фильтры, которые выявляют опасный контент.
Сообщения женщины сработали как сигнал тревоги и были переданы сотрудникам Anthropic для проверки.
Они сочли угрозу реальной и сообщили об этом правоохранительным органам.
Политика конфиденциальности компании допускает передачу данных полиции в исключительных случаях, когда существует непосредственная угроза жизни или здоровью.
Женщину задержали у неё дома 30 сентября, и она не оказала сопротивления.
Ей предъявили обвинение в письменной угрозе насилием.
Согласно законодательству Флориды, это тяжкое преступление второй степени, за которое предусмотрено до 15 лет лишения свободы и штраф до 10 тысяч долларов.
Шериф Кармайн Марсено подчеркнул, что пользователям чат-ботов не следует рассчитывать на полную анонимность.
Это не единичный случай: с августа полиция получила сообщения ещё как минимум о двух инцидентах, связанных с разговорами в «Claude», в том числе об угрозах в адрес начальной школы в Техасе и руководителя «Anthropic».





