В понедельник городской совет Нью-Йорка провёл слушание о рисках, которые ИИ несёт человечеству. Показания дали три информатора. Джейкоб Коксон раньше работал в Anthropic и OpenAI, Алекс Тёрнер — в Google DeepMind, Дэниел Кокотайло — в OpenAI. Совет вызвал и представителей OpenAI, Google, Anthropic и Meta Platforms. SpaceX Илона Маска на слушание не пришла.[1][2][3]
По данным The Economic Times, бывшие сотрудники описали в компаниях безрассудную культуру. Они заявили, что крупнейшие техкомпании наперегонки создают технологию, которую не умеют контролировать. По словам Коксона, ведущие ИИ-компании не знают, как помешать ИИ-системам преследовать цели, которых разработчики им не ставили.[4][5]
Коксон и Кокотайло, как пишет The Information, рассказали, что в последнее время исследователи в лабораториях отдают ИИ написание кода и сами исследования, а его работу проверяют всё реже. The Information напоминает, что в прошлом месяце Anthropic в своём отчёте написала: по состоянию на август ИИ вёл в компании больше четверти исследований и разработки моделей.[6][7]
У OpenAI есть и другие разбирательства. По данным The Information, Сенат США ведёт расследование под руководством сенатора Джоша Хоули, свои запросы есть у Федеральной торговой комиссии и правительства Австралии. Штат Флорида обратился в суд против OpenAI, а у европейцев есть собственный запрос.[8][9]
По материалам
Текст составлен ИИ по материалам ниже и не содержит фактов, которых нет в источниках.
The council called whistleblowers like former OpenAI researcher Jacob Coxon to testify, along with officials from OpenAI, Google, Anthropic and Meta Platforms (Musk’s SpaceX didn’t show, and you can’t blame them).
recently departed employees of Anthropic, OpenAI and Google DeepMind described a reckless culture at the firms, saying the biggest tech companies are racing to create technology they do not understand how to control.
Coxon and Kokotajlo each said that researchers at the labs have lately been letting AI drive the process of writing code and research. Researchers check AI’s work less frequently, they said.
Джейкоб Коксон и Дэниел Кокотайло (по данным The Information)открыть источник →
OpenAI is also facing a U.S. Senate investigation spearheaded by Sen. Josh Hawley, not to mention a Federal Trade Commission inquiry and another one by the Australian government.
