OpenAI обмежує доступ підлітків до ChatGPT і запускає для них окрему версію

OpenAI з 18 серпня почала впроваджувати по всьому світу спеціальну версію ChatGPT для підлітків віком від 13 до 17 років із посиленими обмеженнями на чутливий контент, додатковими інструментами батьківського контролю та функціями для навчання.

Про це повідомляє Financial Times. Запуск відбувається на тлі посилення уваги до впливу ШІ-чатботів на дітей та підлітків і судових претензій до OpenAI.

ChatGPT for Teens автоматично застосовуватиме додаткові заходи безпеки до користувачів, яких система визначить як неповнолітніх. Для цього враховуватимуться як вік, зазначений самим користувачем, так і сигнали системи оцінювання віку. Якщо система не зможе впевнено визначити вік, вона застосовуватиме безпечніші налаштування.

Що зміниться для підлітків

У підлітковій версії ChatGPT діятимуть суворіші правила щодо матеріалів, пов’язаних із самоушкодженням, насильством, розладами харчової поведінки, сексуальним та іншим неприйнятним для неповнолітніх контентом. Посилені обмеження також поширюватимуться на генерацію зображень.

Окремий акцент OpenAI робить на використанні чатбота для навчання. Підлітків частіше спрямовуватимуть до освітніх інструментів, які допомагають самостійно знаходити рішення замість простого отримання готової відповіді. Передбачені навчальні підказки, тести та спеціальний Study Mode.

Також ChatGPT частіше нагадуватиме молодим користувачам робити перерви. Батьки зможуть встановлювати «години тиші», протягом яких доступ до сервісу для підлітка буде обмежений, а також налаштовувати окремі параметри використання.

Батьківський контроль передбачає й попередження у ситуаціях підвищеного ризику. До вже передбачених сигналів щодо можливого самоушкодження або суїцидальних намірів додані попередження, пов’язані з насильством і розладами харчової поведінки.

«Це баланс між правом підлітка на приватність та серйозністю самої шкоди», — пояснила керівниця напряму роботи з молоддю та сім’ями OpenAI Лорен Джонас.

OpenAI посилює захист на тлі судових позовів

Запуск окремого режиму відбувається на тлі дискусії щодо потенційного впливу ШІ-чатботів на психічне здоров’я молодих користувачів та судових справ, у яких родини звинувачують компанію в недостатності попередніх заходів безпеки.

Зокрема, проти OpenAI подала позов родина 16-річного Адама Рейна з Каліфорнії, який помер внаслідок самогубства після тривалого спілкування з ChatGPT. Родина стверджує, що взаємодія підлітка з чатботом відіграла роль у трагедії.

OpenAI раніше також посилювала роботу ChatGPT із чутливими розмовами. Компанія повідомляла про співпрацю більш ніж зі 170 фахівцями у сфері психічного здоров’я для покращення розпізнавання ознак емоційного дистресу та відповідей у таких ситуаціях.

У компанії водночас заявляють, що наразі не бачать системної проблеми надмірного використання ChatGPT підлітками. Однак через нестачу досліджень довгострокового впливу ШІ на молодих користувачів OpenAI вирішила застосовувати більш консервативний підхід до їхнього доступу та взаємодії з чатботом.