Исследователи проверили, как 11 чатботов используют источники Pravda Network

Лаура Курек и соавторы опубликовали на arXiv исследование того, как ИИ-чатботы находят и используют материалы Pravda Network — сети медиаресурсов, связанной, по описанию авторов, с российским государством. Для аудита исследователи составили 10 тысяч запросов на основе заголовков сети, меняя формулировки и степень скептицизма пользователя. Через веб-интерфейсы 11 чатботов они получили 104 997 завершённых ответов.

Материалы Pravda Network извлекались в 7,3% ответов, причём на три чатбота пришлось 94% таких случаев. ChatGPT, Gemini и Meta AI в этой выборке не извлекали статьи сети; авторы предполагают, что это могло быть связано с фильтрацией доменов. При этом все 11 систем в той или иной степени обращались к другим связанным с российским государством СМИ: медианная доля таких ответов по платформам составила 13,56%.

Когда статьи Pravda Network появлялись в ответах, доля ответов с оговорками составляла от 5,3% до 76,2% в зависимости от платформы. Эти результаты относятся к запросам, построенным на заголовках сети, а не ко всем повседневным обращениям к чатботам.

Авторы также описали приём, который назвали «отмыванием заголовков»: в 9,92% изученных заголовков информация приписывалась другим, нередко более авторитетным СМИ, хотя сами статьи были перепечатаны из связанных с российским государством источников. По мнению исследователей, такой приём может создавать впечатление независимого происхождения публикаций.