OpenAI ограничивает доступ подростков к ChatGPT и запускает для них отдельную версиюOpenAI ограничивает доступ подростков к ChatGPT и запускает для них отдельную версиюOpenAI ограничивает доступ подростков к ChatGPT и запускает для них отдельную версию

OpenAI с 18 августа начала внедрять по всему миру специальную версию ChatGPT для подростков от 13 до 17 лет с усиленными ограничениями на чувствительный контент, дополнительными инструментами родительского контроля и функциями для обучения.

Об этом сообщает Financial Times. Запуск происходит на фоне усиления внимания к влиянию ИИ на детей и подростков и судебных претензий к OpenAI.

ChatGPT for Teens будет автоматически применять дополнительные меры безопасности к пользователям, которых система определит в качестве несовершеннолетних. Для этого будут учитываться как возраст, указанный самим пользователем, так и сигналы системы оценки возраста. Если система не сможет определить возраст, она будет применять более безопасные настройки.

Что изменится для подростков

В подростковой версии ChatGPT будут действовать более строгие правила по материалам, связанным с самоповреждением, насилием, расстройствами пищевого поведения, сексуальным и другим неприемлемым для несовершеннолетних контентом. Усиленные ограничения будут также распространяться на генерацию изображений.

Отдельный упор OpenAI делает на использовании чатбота для обучения. Подростков будут чаще направлять к образовательным инструментам, которые помогают самостоятельно находить решение вместо простого получения готового ответа. Предусмотрены обучающие подсказки, тесты и специальный Study Mode.

Также ChatGPT будет чаще напоминать молодым пользователям делать перерывы. Родители смогут устанавливать часы тишины, в течение которых доступ к сервису для подростка будет ограничен, а также настраивать отдельные параметры использования.

Родительский контроль предполагает и предупреждение в ситуациях повышенного риска. К уже предусмотренным сигналам по поводу возможного самоповреждения или суицидальных намерений добавлены предупреждения, связанные с насилием и расстройствами пищевого поведения.

«Это баланс между правом подростка на конфиденциальность и серьезностью самого ущерба», — объяснила руководительница направления работы с молодежью и семьями OpenAI Лорен Джонас.

OpenAI усиливает защиту на фоне судебных исков

Запуск отдельного режима происходит на фоне дискуссии о потенциальном влиянии ИИ на психическое здоровье молодых пользователей и судебных дел, в которых семьи обвиняют компанию в недостаточности предыдущих мер безопасности.

В частности, против OpenAI подала иск семья 16-летнего Адама Рейна из Калифорнии, скончавшегося в результате самоубийства после длительного общения с ChatGPT. Семья утверждает, что взаимодействие подростка с чатом сыграло роль в трагедии.

OpenAI ранее усиливала работу ChatGPT с чувствительными разговорами. Компания сообщала о сотрудничестве с более чем 170 специалистами в сфере психического здоровья для улучшения распознавания признаков эмоционального дистресса и ответов в таких ситуациях.

В компании заявляют, что пока не видят системной проблемы чрезмерного использования ChatGPT подростками. Однако из-за нехватки исследований долгосрочного влияния ИИ на молодых пользователей OpenAI решила применять более консервативный подход к их доступу и взаимодействию с чатом.