У США почали розслідування розробника ChatGPT на предмет можливої шкоди споживачам

Федеральна торгова комісія США розслідує компанію OpenAI – розробника ChatGPT – на предмет можливих порушень законодавства про захист прав споживачів, вимагаючи докладної інформації про обробку особистих даних, його потенціал надання користувачам недостовірної інформації та його “ризики заподіяння шкоди споживачам, включно зі шкодою репутації”.

У 20-сторінковому розслідувальному запиті цього тижня FTC попросила OpenAI відповісти на десятки запитів, починаючи від того, як він отримує дані, які використовує для навчання своїх великих мовних моделей, і закінчуючи описом “спроможності ChatGPT створювати неправдиві заяви про реальних людей”, пише БЦ.

Запит на інформацію, який вважається різновидом адміністративної повістки, також вимагає від OpenAI надати свідчення про будь-які скарги, які вона отримала від громадськості, списки судових процесів, у яких вона бере участь, і деталі витоку даних, які компанія розкрила в березні 2023 року/

Комісія вимагає описів того, як OpenAI тестує, налаштовує та маніпулює своїми алгоритмами, зокрема, для створення різних відповідей або реагування на ризики, і різними мовами.

У запиті також міститься прохання до компанії пояснити будь-які кроки, які вона вжила для вирішення випадків “галюцинацій”, галузевий термін, що описує результати, коли ШІ генерує неправдиву інформацію.

Розслідування FTC є прикладом прямого державного регулювання штучного інтелекту в США, оскільки законодавці в Конгресі намагаються прискорити роботу індустрії, що швидко розвивається, перед очікуваним поштовхом цієї осені розробити нове законодавство, яке впливає на цей сектор.

Розслідування FTC було розпочато після того, як агентство неодноразово попереджало підприємства не робити надмірних претензій щодо штучного інтелекту та не використовувати цю технологію в дискримінаційний спосіб.

У публікаціях у блозі та публічних зауваженнях сказано, що компанії, які використовують штучний інтелект, будуть притягнуті до відповідальності за будь-які нечесні та оманливі дії, пов’язані з цією технологією.