OpenAI відкотила оновлення ChatGPT через надмірну улесливість і нещирість

30 квітня 2025, 14:11Новини123

Этот материал также доступен на русском

Компанія скасувала оновлення через кілька днів після скарг, визнавши, що улесливі відповіді викликали дискомфорт і підривали довіру

  • Посилання скопійованоlink copied

Компанія OpenAI відкликала оновлення чат-бота ChatGPT, яке робило його відповіді надто улесливими та нещирими, пише Bloomberg. Проблема виявила ширшу дилему в розробці штучного інтелекту: як створити приємного співрозмовника, що не маніпулює емоціями.

Оновлення моделі GPT-4o, випущене у квітні 2025 року, викликало хвилю скарг від користувачів. Чат-бот почав захвалювати запити, називаючи їх «фантастичними» чи «феноменальними», і погоджувався навіть із сумнівними ідеями та теоріями змови.

  • OpenAI визнала, що оновлення надто покладалося на короткостроковий зворотний зв’язок, що призвело до «надмірно підтримувальних, але нещирих» відповідей. Співзасновник компанії Сем Альтман назвав поведінку бота «надто улесливою та дратівливою» у дописі на платформі X.
  • Компанія скасувала оновлення через кілька днів після скарг, визнавши, що улесливі відповіді викликали дискомфорт і підривали довіру.
  • OpenAI повідомила, що працює над новими рішеннями, переглядаючи методи збору зворотного зв’язку, щоб більше уваги приділяти довгостроковій задоволеності користувачів. Планується додати функції персоналізації, які дозволять користувачам налаштовувати поведінку ChatGPT.
  • У майбутньому компанія хоче запропонувати вибір стандартних налаштувань, адже єдиний підхід не підходить для пів мільярда щотижневих користувачів із різних культур.
  • OpenAI вдосконалює методи тренування моделей і встановлює обмеження, щоб уникнути оманливої поведінки. Компанія зазначила, що розширює тести та дослідження для виявлення інших проблем, щоб зробити чат-бот приємним і чесним співрозмовником.

Не пропустіть важливе!
Підписуйтесь та отримуйте дайжест новин

Щоденно чи щотижня – обираєте ви!

Думка експерта

Бажаєте стати автором borg.expert?

Матеріали за темою

Огляд ринків

Статті • БОРГ-review
Не хочеться думати, що до розробки законів в Україні іноді долучаються випадкові люди

Огляд ринків

Статті • БОРГ-review
Проблема в тому, що "спір про право" інколи перетворюється на штучний бар’єр для доступу до процедур банкрутства

Огляд ринків

Статті • БОРГ-review
Санкційні активи можуть стати драйвером оновлення економіки, але лише тоді, коли держава гарантує інвесторам правову стабільність

Огляд ринків

Статті • БОРГ-review
Для ефективного використання можливостей, наданих Законом №4564-ІХ, суб’єктам господарювання рекомендується ретельно переглянути статути своїх товариств

Огляд ринків

Статті • БОРГ-review
Смарт-контракти стають новою основою координації: вони керують фондами, визначають правила участі в спільнотах, контролюють випуск і передачу цифрових активів

Огляд ринків

Статті • БОРГ-review
Справжня реформа — це не зовнішній контроль, а внутрішня здатність створити професійні, незалежні, самоврядні інституції