Во Флориде задержали женщину, которая в переписке с чат-ботом Anthropic угрожала расстрелять управление шерифа. Об этом сообщил Telegram-канал Incrypted. Ей предъявлено обвинение в письменной угрозе насилия, заседание суда назначено на ноябрь.[1][2]
Как пишет Incrypted со ссылкой на следствие, система безопасности отметила сообщения как потенциальную угрозу. Сотрудники платформы проверили их и передали информацию полиции. На следующий день после угроз женщина написала чат-боту, что купила оружие.[3][4]
Канал «Машинное обучение» описывает этот путь подробнее. По его данным, автоматические фильтры безопасности Anthropic эскалировали сессию на внутреннюю команду ручной проверки Safeguards Team. Немецкое издание Golem.de сообщает, что сотрудники Anthropic отдали полиции записи из «дневника».[5][6]
Сама обвиняемая, по данным Incrypted, заявила, что использовала ИИ как «личный дневник». Как она объясняет покупку оружия и чем закончится дело в суде, пока неизвестно.[7]
По материалам
Текст составлен ИИ по материалам ниже и не содержит фактов, которых нет в источниках.
По данным следствия, система безопасности отметила сообщения как потенциальную угрозу. Сотрудники платформы проверили их и передали информацию полиции.