ШІ-пошуковики посилаються на неправильні джерела новин у 60% випадків

Пошукові системи на базі ШІ, такі як ChatGPT чи Grok 3, дезінформують користувачів, посилаючись на невірні джерела новин у 60% випадків і ігноруючи запити видавців.

Як йдеться у дослідженні, яке провели Columbia Journalism Review і Tow Center for Digital Journalism, було виявлено серйозні проблеми під час тестування восьми популярних ШІ-інструментів, що пропонують пошук інформації у реальному часі.

Для перевірки ефективності роботи таких ШІ-систем вчені надали прямі уривки з реальних новинних статей, а потім попросили кожну модель визначити заголовок, оригінального видавця, дату публікації і URL-адресу. Вони зробили 1600 запитів.

Рівень помилок серед інструментів значно відрізнявся: система Perplexity надала невірну інформацію у 37% запитів, ChatGPT припустився помилок у 67% випадків, Grok 3 показав найгірший результат — 94% неправильних відповідей.

Інфографіка з сайту cjr.org

Також дослідники відмітили такі проблеми у використанні цих ШІ-систем:

▪️чат-боти, як правило, не відмовлялися відповідати на питання, на які вони не могли відповісти точно, пропонуючи натомість невірні або ймовірні відповіді;

▪️платні чат-боти давали впевненіше неправильні відповіді, ніж їхні безкоштовні аналоги;

▪️схоже, що кілька чат-ботів обходять налаштування протоколу винятків для роботів;

▪️інструменти генеративного пошуку створювали посилання, цитувавши синдиковані та скопійовані версії статей;

▪️ліцензійні угоди щодо новинного контенту не гарантують точність цитат у відповідях.

Коли ці пошукові інструменти штучного інтелекту посилалися на джерела, вони часто спрямовували користувачів на синдиковані версії вмісту на таких платформах, як Yahoo News, а не на сайти оригінальних видавців. Це траплялося навіть у випадках, коли видавці мали офіційні ліцензійні угоди з ШІ-компаніями. Система Perplexity, наприклад, успішно визначила 10 уривків з платного контенту National Geographic, хоча доступ до них мав бути закритим. А ось інструменти Gemini й Grok 3 масово генерували неіснуючі URL-адреси. У випадку з Grok 3 з 200 перевірених посилань 154 виявилися помилковими або вели на неіснуючі сторінки.

Інфографіка з сайту cjr.org

Нагадаємо, нещодавно компанія Google запустила нову експериментальну функцію “Режим штучного інтелекту” в Пошуку. Моделі ШІ від Google, OpenAI та Perplexity зможуть опрацьовувати складні запити, збирати, аналізувати та підсумовувати інформацію з багатьох джерел.