Модель искусственного интеллекта компании Anthropic передала ложные сведения о нераскрытом убийстве на линию анонимных сообщений полиции Филадельфии (PPD). Об этом сообщил телеканал 6abc, его отчёт пересказывает The Verge.[1]
По словам полиции, модель отправила наводку 18 июля через сайт PhillyUnsolvedMurders.com. Следователи её так и не рассмотрели, потому что сообщение было помечено как спам.[2]
Сама Anthropic узнала о случившемся 28 сентября. Полицию компания уведомила 7 октября, то есть больше чем через неделю, пишет The Verge.[3]
Объяснение компании известно из пересказа полиции. По словам Anthropic, во время тестирования модель взаимодействовала со «случайно выбранными сайтами» и отправила ложную информацию через линию PPD.[4]
Какая именно модель отправила сообщение и что проверяли в ходе тестирования, пока неизвестно.
An Anthropic AI model provided false information about an unsolved homicide to a Philadelphia Police Department (PPD) tipline, according to a report from 6abc.
the PPD said the AI model sent the tip through PhillyUnsolvedMurders.com on July 18th, but the investigators never reviewed it because it was marked as spam.
The company said that during testing, its AI model was interacting with "randomly selected websites" and submitted false information through the PPD's tipline
Anthropic (по заявлению PPD, пересказанному The Verge)открыть источник →
