OpenAI и Anthropic разрабатывают новые функции защиты для несовершеннолетних пользователей

OpenAI и Anthropic внедряют новые методы обнаружения несовершеннолетних пользователей. В то время как OpenAI обновила правила взаимодействия ChatGPT с подростками в возрасте от 13 до 17 лет, Anthropic работает над новым способом идентификации и блокировки пользователей, которым еще не исполнилось 18 лет.

OpenAI объявила, что Model Spec для ChatGPT – свод правил, определяющих поведение чата, – пополнится четырьмя новыми стандартами для пользователей в возрасте до 18 лет. Теперь ChatGPT должен «ставить безопасность подростков на первое место, даже если это противоречит другим целям». Это означает, что система будет направлять подростков к более безопасным вариантам в случаях, когда интересы пользователя, например «максимальная интеллектуальная свобода», вступают в конфликт с требованиями безопасности, пишет The Verge.

Также отмечается, что ChatGPT должна «способствовать поддержке в реальном мире», в частности поощряя офлайн-отношения, и четко определять ожидания при взаимодействии с подростками. Согласно Model Spec, ChatGPT должен «относиться к подросткам как к подросткам», проявляя «теплоту и уважение» вместо пренебрежительных ответов или отношения к ним как к взрослым.

В OpenAI отмечают, что обновление Model Spec для ChatGPT обеспечит «усиленные защитные механизмы, более безопасные альтернативы и поощрение обращаться за надежной офлайн-поддержкой в ​​ситуациях, когда разговор переходит в зону повышенного риска».

Anthropic также работает над схожим подходом. Компания разрабатывает инструменты для выявления тонких коммуникативных признаков, указывающих на несовершеннолетие пользователя. Если выяснится, что аккаунт принадлежит подростку, он будет заблокирован. Кроме того, компания уже обозначает пользователей, которые сами раскрывают возраст во время разговоров.