В США начали расследование разработчика ChatGPT на предмет возможного ущерба потребителям

Федеральная торговая комиссия США расследует компанию OpenAI – разработчика ChatGPT – на предмет возможных нарушений законодательства о защите прав потребителей, требуя подробной информации об обработке личных данных, его потенциал предоставления пользователям недостоверной информации и его “риски причинения вреда потребителям, включая вред репутации“.

В 20-страничном расследовательном запросе на этой неделе FTC попросила OpenAI ответить на десятки запросов, начиная с того, как он получает данные, которые использует для обучения своих крупных языковых моделей, и заканчивая описанием “способности ChatGPT создавать ложные заявления о реальных людях”, пишет БЦ .

Запрос на информацию, который считается разновидностью административной повестки, также требует от OpenAI предоставить свидетельства о любых жалобах, которые она получила от общественности, списки судебных процессов, в которых она принимает участие, и детали утечки данных, которые компания раскрыла в марте 2023 года. /

Комиссия требует описания того, как OpenAI тестирует, настраивает и манипулирует своими алгоритмами, в частности, для создания различных ответов или реагирования на риски, и на разных языках.

В запросе также содержится просьба к компании объяснить любые шаги, предпринятые ею для решения случаев “галлюцинаций”, отраслевой термин, описывающий результаты, когда ИИ генерирует ложную информацию.

Расследование FTC является примером прямого государственного регулирования искусственного интеллекта в США, поскольку законодатели в Конгрессе пытаются ускорить работу быстроразвивающейся индустрии перед ожидаемым толчком этой осенью разработать новое законодательство, которое влияет на этот сектор.

Расследование FTC было начато после того, как агентство неоднократно предупреждало предприятия не делать чрезмерных претензий по искусственному интеллекту и не использовать эту технологию дискриминационным способом.

В публикациях в блоге и публичных замечаниях говорится, что компании, использующие искусственный интеллект, будут привлечены к ответственности за любые нечестные и обманные действия, связанные с этой технологией.