Використання ШІ для пошуку інформації робить людей менш обізнаними — вчені

Вчені заявили про те, що пошук інформації за допомогою великих мовних моделей (LLM) може звузити одержувані знання, а не розширити їх, повідомляє Science Alert .

Як зазначає Ширі Мелумад з Університету Пенсільванії, з моменту запуску ChatGPT у 2022 році мільйони людей покладаються на чат-боти. І на перший погляд такий підхід має вигляд легкого способу навчання: ставиш запитання й отримуєш стислий витяг інформації.

Але нова робота Мелумад та її колег показує, що у такого підходу є своя ціна. Коли люди покладаються на LLM для отримання інформації, у них формуються більш уривчасті знання, ніж при звичайному використанні пошуку Google. Такого висновку вчені дійшли, проаналізувавши сім досліджень із понад 10000 учасників.

У більшості досліджень використовувалась одна й та сама базова парадигма: учасникам пропонували вивчити певну тему (наприклад, як вирощувати овочі на городі), після чого їх випадковим чином розподіляли за класами, в яких вони мали або використовувати LLM, наприклад ChatGPT, або вчитися “старим способом”, переходячи за посиланнями за допомогою стандартного пошуку Google.

При цьому на учасників не накладалося жодних обмежень. Учасники могли як завгодно довго користуватися пошуком Google і писати як завгодно багато промптів для ChatGPT. Після того, як учасники завершили дослідження, їх просили написати поради для друга, зацікавленого в цій темі.

Дані виявили закономірність: люди, які дізналися про тему через LLM, а не через пошук в інтернеті, вважали, що дізналися менше, доклали менше зусиль до подальшого написання рекомендацій і в кінцевому підсумку написали більш стислі, з меншим фактажем та більш загальні рекомендації. Незалежні читачі також визнали такі рекомендації менш корисними.

За словами вчених, такі відмінності зберігаються в різних контекстах. Наприклад, LLM надає користувачам менш різнобічну інформацію, ніж пошук Google.

Чому ж використання LLM приносить менше знань? Один з основоположних принципів розвитку навичок полягає в тому, що люди найкраще засвоюють матеріал, коли активно взаємодіють з ним.

Коли ми дізнаємося про тему через пошук Google, ми стикаємося з набагато більшим “тертям”: нам доводиться переміщатися різними веб-посиланнями, читати інформаційні джерела, а також самостійно інтерпретувати й узагальнювати інформацію.

У випадку ж з LLM цей процес відбувається від імені користувача, перетворюючи процес навчання з активного на пасивний.

Науковці зазначають, що не закликають перестати використовувати LLM. Натомість вони пропонують використовувати їх з розумом і більш стратегічно.

Нагадаємо, проти компанії OpenAI подали сім нових позовів у судах США і Канади, в яких звинувачують ChatGPT у сприянні самогубствам і серйозним психічним травмам користувачів.