Использование ИИ для поиска информации делает людей менее осведомленными

Ученые заявили о том, что поиск информации с помощью больших языковых моделей (LLM) может сузить получаемые знания, а не расширить их, сообщает Science Alert.

Как отмечает Шири Мелумад из Университета Пенсильвании, с момента запуска ChatGPT в 2022 году миллионы людей полагаются на чат-боты. И на первый взгляд такой подход имеет вид легкого способа обучения: задаешь вопрос и получаешь краткое извлечение информации.

Но новая работа Мелумад и его коллег показывает, что у такого подхода есть своя цена. Когда люди полагаются на LLM для получения информации, у них формируются более обрывочные знания, чем при обычном использовании поиска Google.К такому выводу ученые пришли, проанализировав семь исследований более чем из 10000 участников.

В большинстве исследований использовалась одна и та же базовая парадигма: участникам предлагали изучить определенную тему (например, как выращивать овощи на огороде), после чего их случайным образом распределяли по классам, в которых они должны использовать LLM, например ChatGPT, или учиться “старым способом”, переходя по ссылкам с помощью стандартного поиска Google.

При этом на участников не налагалось никаких ограничений. Участники могли сколь угодно долго пользоваться поиском Google и писать сколь угодно много промптов для ChatGPT. После того, как участники завершили исследование, их просили написать советы для друга, заинтересованного в этой теме.

Данные обнаружили закономерность: люди, узнавшие о теме через LLM, а не из-за поиска в интернете, считали, что узнали меньше, приложили меньше усилий к дальнейшему написанию рекомендаций и в конечном итоге написали более сжатые, с меньшим фактажем и более общие рекомендации. Независимые читатели также сочли такие рекомендации менее полезными.

По словам ученых, такие отличия сохраняются в разных контекстах. Например, LLM предоставляет пользователям менее разностороннюю информацию, чем поиск Google.

Почему использование LLM приносит меньше знаний? Один из основополагающих принципов развития навыков состоит в том, что люди лучше усваивают материал, когда активно взаимодействуют с ним.

Когда мы узнаем тему через поиск Google, мы сталкиваемся с гораздо большим “трением”: нам приходится перемещаться разными веб-ссылками, читать информационные источники, а также самостоятельно интерпретировать и обобщать информацию.

В случае же с LLM этот процесс происходит от имени пользователя, превращая процесс обучения из активного в пассивный.

Ученые отмечают, что не призывают перестать использовать LLM. Вместо этого они предлагают использовать их с умом и более стратегически.

Напомним, против компании OpenAI подали семь новых исков в судах США и Канады, обвиняющих ChatGPT в содействии самоубийствам и серьезным психическим травмам пользователей.