Разработчик ChatGPT распустил команду, занимавшуюся вопросами безопасности искусственного интеллекта

Компания-разработчик чат-бота ChatGPT – OpenAI – распустила свою команду, занимавшуюся долгосрочными рисками искусственного интеллекта. Это произошло менее чем через год после его создания. Об этом пишет CNBC, передает AIN.UA.

Это решение было принято после того, как руководители группы Илья Суцкевер и Ян Лейке сообщили о своем уходе из компании.

Команда Superalignment была создана в 2023 году с целью разработки “научных и технических прорывов для управления системами искусственного интеллекта, значительно умнее нас”.

OpenAI заявила, что в течение четырех лет выделит 20% своих вычислительных мощностей на эту инициативу. Некоторых членов команды переведут в другие отделы компании.

Лейке поделился более подробной информацией о причинах своего решения: он пояснил, что большая часть ресурсов компании должна быть сосредоточена на безопасности, мониторинге, подготовленности, защищенности, конфиденциальности и влиянии на общество.

В свою очередь, отметил Лейке, культура безопасности и процессы OpenAI отошли на второй план.

В чем причина

Отмечается, что подобные шумные отставки произошли на фоне прошлогодних проблем с руководством OpenAI.

В ноябре 2023 года Сэма Альтмана временно отстранили от должности гендиректора OpenAI. Суцкевер тогда сообщил Альтману, что тот должен покинуть компанию, потому что он “не всегда был откровенен в общении с советом директоров”.

Однако западные СМИ начали писать, что проблема более сложная. Сообщалось, что Суцкевер сосредоточил свое внимание на безопасности, чтобы искусственный интеллект не повредил людям, тогда как Альтман стремился продвинуть вперед новую технологию.

После давления со стороны сотрудников и инвесторов Альтмана восстановили в должности. Тогда он сказал, что не испытывает к Суцкеверу “никакой неприязни”. Однако, как писали The Information, по возвращении Альтмана Суцкевер покинул совет директоров и фактически не появлялся в компании.

Источник