OpenAI та Anthropic розробляють нові функції захисту для неповнолітніх користувачів

OpenAI та Anthropic впроваджують нові методи виявлення неповнолітніх користувачів. У той час як OpenAI оновила правила взаємодії ChatGPT із підлітками віком від 13 до 17 років, Anthropic працює над новим способом ідентифікації та блокування користувачів, яким ще не виповнилося 18.

OpenAI оголосила, що Model Spec для ChatGPT — звід правил, що визначають поведінку чатбота, — поповниться чотирма новими стандартами для користувачів віком до 18 років. Відтепер ChatGPT має «ставити безпеку підлітків на перше місце, навіть якщо це суперечить іншим цілям». Це означає, що система спрямовуватиме підлітків до безпечніших варіантів у випадках, коли інтереси користувача, як-от «максимальна інтелектуальна свобода», вступають у конфлікт із вимогами безпеки, пише The Verge.

Також зазначається, що ChatGPT має «сприяти підтримці в реальному світі», зокрема заохочуючи офлайн-стосунки, та чітко визначати очікування під час взаємодії з підлітками. Згідно з Model Spec, ChatGPT повинен «ставитися до підлітків як до підлітків», проявляючи «теплоту та повагу» замість зверхніх відповідей або ставлення до них як до дорослих.

В OpenAI зазначають, що оновлення Model Spec для ChatGPT забезпечить «посилені захисні механізми, безпечніші альтернативи та заохочення звертатися по надійну офлайн-підтримку в ситуаціях, коли розмова переходить у зону підвищеного ризику».

Anthropic також працює над подібним підходом. Компанія розробляє інструменти для виявлення тонких комунікативних ознак, що вказують на неповноліття користувача. Якщо з’ясується, що акаунт належить підлітку, його буде заблоковано. Крім того, компанія вже позначає користувачів, які самі розкривають свій вік під час розмов.