Медиаэксперты предупреждают, что люди читают сводки ИИ в результатах поиска Google вместо новостей
Некоторые издатели новостей утверждают, что сводки, генерируемые искусственным интеллектом, которые теперь занимают верхние строчки в результатах поиска Google, приводят к тому, что новости на самом деле читают все меньше людей, а эксперты по-прежнему выражают обеспокоенность относительно точности сводок.
Когда в прошлом году Google запустила функцию AI Overview, её ошибки, включая предложение использовать клей для лучшей адгезии начинки для пиццы, стали предметом заголовков. Один из экспертов предупреждает, что опасения по поводу точности результатов работы функции не обязательно исчезнут по мере развития технологий.
«Это одно из тех масштабных технологических изменений, которое изменило то, как мы... осуществляем поиск, а следовательно, и проживаем свою жизнь, без особых публичных обсуждений», — сказала Джессика Джонсон, старший научный сотрудник Центра медиа, технологий и демократии Университета Макгилла.
«Как журналист и исследователь, я сомневаюсь в точности данных».
Хотя пользователи отмечали ошибки в сводках, созданных с помощью ИИ, научных исследований, определяющих масштаб проблемы, пока нет. В опубликованном ранее в этом году отчёте BBC, посвящённом изучению чат-ботов на базе ИИ от Google, Microsoft, OpenAI и Perplexity, были обнаружены «значительные неточности» в их сводках новостных сюжетов, хотя обзоры Google AI в нём не рассматривались отдельно.
Мелким шрифтом в нижней части сводок по ИИ Google предупреждает пользователей, что «ответы ИИ могут содержать ошибки».
Компания утверждает, что точность сводок ИИ соответствует точности других функций поиска, например, тех, которые предоставляют избранные фрагменты, и заявила в своем заявлении, что она продолжает «работать над улучшением как полезности, так и качества ответов».
Леон Мар, директор по связям со СМИ и управлению выпусками CBC, заявил, что общественная телекомпания «не заметила существенных изменений в трафике поисковых запросов на цифровые ресурсы своих новостных сервисов, которые можно было бы отнести на счет сводок ИИ».
Однако он предупредил, что пользователи должны «помнить» о разной точности этих сводок.
У ИИ есть «фундаментальная проблема»Чираг Шах, профессор информационной школы Вашингтонского университета, специализирующийся на искусственном интеллекте и онлайн-поиске, сказал, что уровень ошибок обусловлен особенностями работы систем искусственного интеллекта.
Генеративный ИИ не способен мыслить и понимать концепции так, как люди. Вместо этого он строит прогнозы на основе огромных объёмов обучающих данных. Шах отметил, что после того, как системы извлекают информацию из документов, и до генерации результатов, «никакой проверки» не происходит.
«А что, если эти документы некорректны? — спросил он. — А что, если в некоторых из них содержится неверная информация, устаревшая информация, сатира, сарказм?»
По словам Шаха, человек понимает, что предложение добавить клей в пиццу — шутка. Но система искусственного интеллекта этого не понимает.
По его словам, это «фундаментальная проблема», которую невозможно решить «добавками вычислений, данных и времени».
ИИ меняет то, как мы ищемПоскольку Google интегрирует ИИ в свою популярную функцию поиска, генеративные системы ИИ других компаний, занимающихся ИИ, такие как ChatGPT от OpenAI, все чаще используются в качестве поисковых систем, несмотря на их недостатки.
По словам Шаха, изначально поисковые системы были разработаны для того, чтобы помогать пользователям ориентироваться в интернете. Теперь же цель разработчиков онлайн-платформ и сервисов — удержать пользователя в рамках одной и той же системы.
«Если это закрепится, это, по сути, будет конец свободного интернета», — сказал он. «Я думаю, это фундаментальное и очень важное изменение в работе не только поиска, но и всего интернета. И это должно беспокоить нас всех».
Исследование, проведенное Pew Research Center в начале этого года, показало, что пользователи реже нажимали на ссылку, если в результате поиска отображалась сводка, созданная искусственным интеллектом. В то время как при поиске по традиционным результатам пользователи нажимали на ссылку в 15% случаев, при поиске с подробным описанием, созданным искусственным интеллектом, они нажимали на ссылку лишь в 8% случаев.
Это вызывает тревогу у издателей новостей как в Канаде, так и за рубежом.
«Ноль кликов — это ноль дохода для издателя», — заявил Пол Диган, генеральный директор News Media Canada, представляющей канадских издателей новостей.
В прошлом месяце группа независимых издателей подала жалобу в Управление по конкуренции и рынкам Великобритании, заявив, что обзоры с использованием ИИ наносят им значительный вред.
Альфред Хермида, профессор факультета журналистики Университета Британской Колумбии, отметил, что Google раньше был основным источником трафика для новостных агентств, предоставляя пользователям список новостных статей, релевантных их поисковым запросам, на которые можно было кликнуть.
Однако Эрмида отметила: «Когда большинство людей являются обычными потребителями новостей, такого обобщения ИИ может быть вполне достаточно».
Келдон Бестер, исполнительный директор Канадского антимонопольного проекта, заявил, что здесь имеет место проблема конкуренции и «потенциально» может быть возбуждено дело в соответствии с канадским законодательством.
Он отметил, что Google и раньше сталкивалась с делами о защите конкуренции, в том числе с делом, в котором компания проиграла антимонопольный иск, поданный Министерством юстиции США в связи с ее доминированием в поиске.
В своем сообщении на прошлой неделе руководитель отдела поиска Google Лиз Рид сообщила, что «объем органических переходов» из поисковых запросов на веб-сайты был «относительно стабильным из года в год», и заявила, что это противоречит «отчетам третьих сторон, которые неверно указывают на резкое снижение совокупного трафика — часто основанным на некорректных методологиях, отдельных примерах или изменениях трафика, которые произошли до внедрения функций ИИ в поиске».
«Один-два удара»Клифтон ван дер Линден, доцент и директор Лаборатории цифрового общества в Университете Макмастера в Гамильтоне, отметил, что если пользователи обходят ссылку на новостной сайт из-за сгенерированного ИИ резюме, это «усугубляет существующую проблему» в канадских СМИ, которые сталкиваются с запретом на ссылки на новости в Facebook и Instagram.
Либеральное правительство под руководством Джастина Трюдо приняло в 2023 году Закон об онлайн-новостях, обязывающий Meta и Google выплачивать компенсацию новостным издателям за использование их контента. В ответ Meta заблокировала новостной контент на своих платформах в Канаде, а Google начала выплачивать выплаты в соответствии с этим законом.
Будущее этого закона представляется неопределённым. Премьер-министр Марк Карни на прошлой неделе дал понять, что готов отменить его.
По словам Джонсона, между извлечением новостных ссылок Meta и появлением поисковых систем на основе искусственного интеллекта канадские СМИ получили «двойной удар».
«Дело в том, и другие издатели уже поднимали этот вопрос, какой смысл мне выпускать эту работу, если за нее никто не заплатит, и ее могут даже не увидеть?»
cbc.ca
