Розробник ChatGPT розпустив команду, яка займалася питаннями безпеки штучного інтелекту

Компанія-розробник чат-боту ChatGPT – OpenAI – розпустила свою команду, яка займалася довгостроковими ризиками штучного інтелекту. Це сталося менше ніж через рік після її створення.

Про це пише CNBC, передає AIN.UA.

Це рішення ухвалили після того, як керівники групи Ілля Суцкевер і Ян Лейке повідомили про свій відхід із компанії.

Команда Superalignment була створена у 2023 році з метою розробки “наукових і технічних проривів для керування системами штучного інтелекту, значно розумнішими за нас”.

OpenAI тоді заявила, що протягом чотирьох років виділить 20% своїх обчислювальних потужностей на цю ініціативу. Деяких членів команди переведуть до інших відділів компанії.

Лейке поділився детальнішою інформацією про причини свого рішення: він пояснив, що значно більша частина ресурсів компанії має бути зосереджена на безпеці, моніторингу, підготовленості, захищеності, конфіденційності та впливі на суспільство.

Натомість, зазначив Лейке, культура безпеки та процеси OpenAI відійшли на другий план.

У чому причина

Зазначається, що подібні гучні відставки відбулися на тлі минулорічних проблем із керівництвом OpenAI.

У листопаді 2023 року Сема Альтмана тимчасово відсторонили від посади гендиректора OpenAI. Суцкевер тоді повідомив Альтману, що той має покинути компанію, бо він “не завжди був відвертим у спілкуванні з радою директорів”.

Однак західні ЗМІ почали писати, що проблема складніша. Так, повідомлялося, що Суцкевер зосередив свою увагу на безпеці, щоб штучний інтелект не зашкодив людям, тоді як Альтман прагнув просунути вперед нову технологію.

Після тиску з боку співробітників та інвесторів Альтмана поновили на посаді. Тоді він сказав, що не відчуває до Суцкевера “жодної неприязні”. Проте, як писали The Information, після повернення Альтмана Суцкевер покинув раду директорів і фактично не з’являвся в компанії.

Джерело