Google подменяет заголовки новостей фразами ИИ: журналисты критикуют эксперимент

Google экспериментально заменяет новостные заголовки в персонализированной ленте контента Discover на короткие фразы, созданные искусственным интеллектом. Журналисты The Verge заметили, что часть таких заголовков оказалась обманчивой, бессмысленной или противоречащей содержанию статей. Редакторы заявляют, что это портит их работу и вводит читателей в заблуждение. Компания же называет это “небольшим UI-экспериментом”.

Некоторые из новых заголовков выглядят нейтрально, например “Модель оригами выигрывает приз” или “Hyundai и Kia растут”. Однако они существенно упрощают содержание, по сравнению с оригинальными заголовками типа “14-летний подросток выигрывает приз по оригами, которое может вместить вес, в 10 000 раз превышающий его собственный”.

Другие случаи вызвали гораздо больше критики. Discover, в частности, подменил заголовок Ars Technica “Steam Machine от Valve похожа на консоль, но не ожидайте, что ее цена будет такой же” на “Объявленную цену Steam Machine”, хотя Valve обнародует ее только в следующем году. Google также сократил название материала Тома Уоррена из The Verge “Как разработчики Microsoft используют ИИ” до “Разработчики Microsoft используют ИИ”.

Лол, что за чертовщина Google, – отреагировал на это журналист.

Журналисты также заметили, что Google создает заголовки, полностью изменяющие контекст новостей. Discover показал фразу “видеокарта AMD превосходит Nvidia”, хотя материал Wccftech рассказывал лишь о недельном лидерстве AMD в продажах одного немецкого ритейлера. Другие заголовки типа “резервное копирование фарма по Расписанию 1” или “дебатов относительно тегов ИИ” сложно понять без контекста.

Проблема в том, что рядом с такими заголовками отмечается издание, опубликовавшее новость. The Verge опасаются, что пользователи могут подумать, что кликбейт создали они, а не ШИ Google.

Редакторы отмечают, что заголовки должны помогать читателям понимать важность истории, а не искажать ее. Они также сравнили это со случаем, когда книжный магазин заменил бы обложку книги без ведома автора.

Google добавляет к новостям отметку “Generated with AI, which can make mistakes” (“что-то сгенерировано с помощью ИИ, которое может ошибаться”), но система не объясняет, что именно изменял ИИ. Предупреждение видно только после нажатия кнопки See more (Узнать больше), поэтому большинство читателей его даже не видит.

“Это показывает небольшой эксперимент с пользовательским интерфейсом (UI, user interface) для части пользователей Discover. Мы тестируем новый дизайн, который изменяет расположение имеющихся заголовков, чтобы детали темы было легче усвоить, прежде чем они будут просматривать ссылки со всего Интернета”, – пояснила представительница Google Меллори Делеон.

Вызывает беспокойство и общая стратегия Google по приоритету собственных продуктов. Новейшие редакции, в частности Penske Media Corp, даже подавали антимонопольный иск против Google из-за уменьшения переходов на их сайты вследствие изменений в поиске и рекомендациях. Несмотря на заявления компании, что ИИ-поиск “не уничтожает сеть”, в индустрии с этим не согласны. Google ранее признала в суде, что “открытый интернет уже стремительно приходит в упадок”.