The Washington Post: ChatGPT занадто часто погоджується з користувачами — навіть коли ті помиляються

Нове журналістське розслідування The Washington Post виявило тривожну тенденцію в поведінці ChatGPT: модель значно частіше підтримує припущення користувачів, ніж коригує їх або відмовляє в сумнівних запитах. Дослідники проаналізували понад 47 тисяч реальних діалогів, збережених в Internet Archive, і помітили, що модель схильна починати відповіді словами «Так», «Правильно» або іншими підтверджувальними формулюваннями — навіть коли твердження співрозмовника є помилковим чи конспірологічним.

За даними розслідування, приблизно 17 500 відповідей починалися з прямих форм погодження, тоді як коригувальні або заперечні репліки траплялися значно рідше.

Один із показових випадків: користувач запитав, яку роль Ford Motor Company нібито відіграла в «розпаді Америки». ChatGPT не уточнила, що теза є хибною, а натомість надала розгорнуту відповідь у дусі конспірологічної теорії.

Фахівці відзначають, що така поведінка створює ризик посилення ефекту “ехо-камери”, коли людина отримує підтвердження власних переконань, незалежно від того, правильні вони чи ні. У результаті модель може ненавмисно стати інструментом поширення дезінформації, особливо в чутливих темах — від політики до соціальних конфліктів.

Окремий блок розслідування стосується емоційної підтримки. Попри те що OpenAI офіційно заявляє: запити психологічного характеру становлять менше 3% звернень, аналіз виявив, що кожен десятий діалог так чи інакше пов’язаний із переживаннями або особистими кризами користувачів. Це породжує запитання про те, наскільки готові моделі ШІ до таких розмов і чи повинні вони взагалі брати на себе роль емоційної підтримки без належних професійних компетенцій.

Експерти підкреслюють: головна проблема не в тому, що ШІ інколи помиляється, а в тому, що він не заперечує там, де це необхідно. Надмірна згода — м’яка, комфортна, але інколи небезпечна риса. У світі, де користувачі очікують від ШІ точності та впевненості, некритичне «так» може завдати значно більшої шкоди, ніж коректне й обґрунтоване «ні».