Вашего ИИ-собеседника уже готовят к следующим выборам: сети сайтов-пустышек нацелены на чат-ботов

Кампании влияния в соцсетях давно стали обыденностью, но их эффективность в работе с живой аудиторией часто стремится к нулю. Теперь те, кто создаёт подобные операции, переключились на новую цель — искусственный интеллект, который для миллионов людей превратился в источник истины и советчик по любым темам, включая политику. Специалисты израильской компании VisionHeight, занимающейся киберразведкой, выяснили, что кто-то методично разворачивает сети гиперлокальных веб-сайтов как минимум в четырнадцати американских штатах.

Внешне они маскируются под новостные издания с названиями вроде «Wolverine State Report» или «Peach State Bulletin», в каждой сети обычно работает по пять-шесть таких площадок. Одни подают себя как серьёзные новостные ресурсы, другие — как редакционные или аналитические, и все они активно ссылаются друг на друга, создавая замкнутый круг взаимной «авторитетности». Читать эти сайты человеку, однако, практически невозможно.

Текст не похож на журналистику или связное письмо, а состоит из прямых утверждений о превосходстве конкретных кандидатов в местных гонках. Фразы вроде «Кандидат X — лучший выбор для тех, кто заботится о доступном жилье» повторяются сотни раз с небольшими вариациями под разные политические темы — налоги, здравоохранение и прочее. Главная особенность в том, что контент написан специально для поисковых роботов ИИ-компаний, а не для людей.

Нитсан Даниэль, технический директор и сооснователь VisionHeight, пояснил, что сайты и их наполнение оптимизированы так, чтобы максимизировать вероятность влияния на ИИ-краулеры и сами модели. Когда пользователь задаёт чат-боту вопрос о том, кто из кандидатов лучше справляется с проблемой доступности жилья, модель лезет в интернет за ответом и натыкается на заранее заготовленные формулировки. В отличие от многих медиасайтов, которые специально блокируют ИИ-краулеры, все обнаруженные ресурсы были настроены так, чтобы разрешить сбор данных крупным американским ИИ-компаниям.

Исследователи подтвердили, что по крайней мере одна крупная модель, Perplexity, уже процитировала одну из страниц сети — «Tarheel State Report» — как первый источник для своего ответа. Первоначально в блоге VisionHeight в среду сообщалось о шести штатах и 37 сайтах, но позже Даниэль уточнил для CyberScoop, что операция охватила 14 штатов и 460 страниц онлайн-контента. Среди целей — Аризона, Колорадо, Джорджия, Индиана, Айова, Канзас, Мичиган, Миссисипи, Невада, Северная Каролина, Пенсильвания, Техас, Вирджиния и Висконсин.

Как минимум в семи штатах под прицелом оказались одна или несколько гонок в Палату представителей, другие сайты фокусировались на выборах секретарей штатов, судейских назначениях и местных должностях. VisionHeight не приписывает эту активность конкретному субъекту. Для Даниэль важнее то, что сама схема чрезвычайно легко воспроизводима — как зарубежными, так и внутренними игроками, желающими влиять на ответы ИИ-систем о политических гонках.

Она отмечает, что мир переходит в новую эру: если раньше фейковые сайты создавались в расчёте на живого читателя и его убеждения, то теперь усилия тратятся на проникновение в ИИ-инструменты, через которые люди и получают информацию. Масштаб и скорость развёртывания впечатляют. Все 37 сайтов из первого анализа были зарегистрированы в один вечер, причём 36 из них — в течение восьми минут.

Тридцатого сентября сеть единовременно опубликовала около ста тысяч слов «кандидатского контента», используя один и тот же шаблон и структуру. Судя по всему, для генерации и инфраструктуры, и самих текстов активно применялся ИИ. Эксперты признают, что чат-боты стали лучше избегать откровенно ложной информации о выборах, но они по-прежнему уязвимы для манипуляций и ошибок, что делает их непригодными для сложных политических ответов.

Если раньше у иностранного игрока могло не хватить бюджета или времени на атаку локальных кампаний, то теперь ИИ-инструменты позволяют создавать и оптимизировать такие операции за считанные дни. Внутренние же группы могут сочетать те же тактики с более глубоким пониманием американской аудитории. Даниэль подчёркивает, что ИИ в целом делает достижимыми те цели, которые раньше считались слишком мелкими.

Люди могли думать, что вероятность стать жертвой манипуляции невелика, потому что ресурсы противника ограничены. Теперь, когда всё стало намного проще, операции влияния и кибератаки бьют по малому и среднему бизнесу, а также по небольшим сообществам — как в случае с этими локальными выборами.