Некоммерческая организация NewsGuard, специализирующаяся на аналитике достоверности новостных сайтов, опубликовала отчёт, согласно которому в сети растёт количество веб-спам сайтов, контент для которых массово генерируют чат-боты и прочие нейросети.
Эксперты уже не первый год предупреждают, что с развитием искусственного интеллекта человечеству стоит ожидать взрывного роста численности контент-ферм для лёгкого заработка за счёт манипуляции работой поисковых машин и сбора случайных кликов пользователей. По данным NewsGuard, её специалисты идентифицировали как минимум 49 сайтов, контент для которых практически полностью генерируется при помощи программ искусственного интеллекта. Веб-спам платформы нередко можно узнать уже в первые минуты пребывания на сайте. Например, как правило, на них нет чёткого обозначения владельца сервиса. Кроме того, их сильно выдаёт публикация огромного количества контента – нередко десятков или даже сотен статей в сутки, связанного с наиболее животрепещущими темами – политикой, здоровьем, индустрией развлечений, финансами, технологиями и пр. Участие искусственного интеллекта также заметно по многократному использованию однообразных фраз, безликой и безэмоциональной подаче информации, которая в основном представляет собой весьма посредственный пересказ контента, создаваемого авторами крупных новостных платформ.
Также можно отметить, что большинство таких сайтов имеют абсолютно незапоминающиеся и достаточно обобщённые названия, например, Biz Breaking News, The News Network или Market News Reports. Они доверху заполнены автоматической рекламой, а в качестве авторов контента нередко указываются несуществующие люди либо писатели, которые в действительности не имеют к публикации никакого отношения. По словам представителей NewsGuard, подобные веб-спам платформы редко используют для злоумышленного распространения ложной информации, однако достойными доверия пользователей их также не назовёшь. К примеру, в начале апреля на одном из таких сайтов с откровенно безвкусным названием «CelebritiesDeaths.com» появилась публикация с новостью о смерти Президента США Джо Байдена. Подобный заголовок определённо мог бы обмануть не одного читателя, однако буквально второй абзац текста выдал недобросовестный веб-спам ресурс с потрохами. В нём содержался вежливый отказ чат-бота сочинять новости о смерти кого-либо, тем более о личности столь выдающейся, как президент, ведь это противоречит политике OpenAI.
Подобные отписки ИИ встречаются в контенте веб-спам платформ гораздо чаще ожидаемого, что говорит о том, что такие сайты зачастую ведутся без адекватного контроля со стороны человека. К слову, вы и сами можете в этом убедиться, набрав в поиске фразу «As an AI language model»: результаты выдадут сотни примеров использования чат-ботов для генерирования «быстрого контента» и фейковых отзывов. И наконец, в некоторых случаях обнаружить причастность ИИ к деятельности веб-спам сервисов позволили инструменты вроде GPTZero. По словам доцента Ноа Джансиракусы, который принимал участие в написании отчёта, в последнее время всё больше людей экспериментируют с искусственным интеллектом, и зачастую их взаимодействие является совершенно безобидным. Однако в контексте генерирования текстов для новостных сайтов вмешательство ИИ чревато значительным понижением качества контента – особенно когда на подобные эксперименты идут достаточно крупные интернет-издания вроде CNET.