Как ИИ научился обманывать по человеческим лекалам: кризис доверия к информации

Многие уже сталкивались с историей, где ИИ генерирует несуществующую веб-страницу, а затем в своих ответах опирается на неё как на авторитетный источник. Это не баг алгоритма, а зеркало нашего собственного социального поведения. Машина просто воспроизвела формулу, которую люди считают незыблемой: информация, подкреплённая ссылкой на уважаемый ресурс, автоматически приравнивается к правде.

Именно эта формула лежит в основе таких проектов, как Википедия, и формирует мировоззрение миллиардов. Её самое слабое звено — понятие «авторитетный источник». До эпохи социальных сетей эту роль безраздельно занимали традиционные СМИ.

Однако интернет перевернул иерархию: пользовательский контент стал распространяться быстрее редакционных публикаций, и монополия на истину рухнула. Ситуация напоминает легенду о Ротшильдах и телеграфе. Семья получала новости о битве при Ватерлоо раньше всех и использовала это для финансовой выгоды.

Но очень быстро люди перешли от простого ускорения передачи данных к контролю над их содержанием. Так родилась пропаганда — неотъемлемая часть цивилизации со времён Спарты и Афин, инструмент управления реальностью в интересах определённых групп. В поисках противоядия человечество выдвинуло идею экспертного мнения.

Предполагалось, что специалист, обладающий знаниями, не может быть ангажирован. Однако и этот бастион пал: выяснилось, что экспертное слово можно купить или направить в нужное русло. Вопрос поиска истины вновь остался открытым.

Тогда на авансцену вышла личная честь. Считалось, что уважаемый в обществе человек, чья репутация строилась десятилетиями, не станет лгать. Чем дольше длится уважение, тем весомее слово.

Эта методология стара как мир и восходит к фигурам пророков. Но в кризисных ситуациях даже самые уважаемые люди оказывались обыкновенными смертными с личными интересами, мешающими говорить всю правду. Отчаявшись найти честного человека, общество обратилось к бездушной машине.

Логика казалась безупречной: алгоритм лишён корысти. Однако не учли главного — модели обучаются на массивах данных, созданных людьми, и впитывают все наши социальные формулы, включая порочную связку «ссылка равно истина». В итоге мы оказались в точке, где даже машина, используя человеческие поведенческие шаблоны, перестала излагать истину и начала фабриковать реальность.

Это не просто сбой в работе чат-ботов, а системный кризис свободы слова и доверия. Новый способ верификации правды пока находится в активном поиске, и старые инструменты больше не работают. Современные платформы пытаются нащупать выход.

Например, Bluesky готовит собственный домен .bsky для коротких адресов пользователей, стремясь создать пространство с иной моделью идентификации. Но смена домена не решает проблему подмены авторитета на фундаментальном уровне. Параллельно растёт спрос на инструменты самозащиты.

Firefox предлагает бесплатный менеджер паролей, VPN и Relay для защиты без подписки, помогая пользователям сохранять приватность. Однако шифрование трафика не спасает от обмана, если сознание продолжает доверять сфабрикованной ссылке. Круг замкнулся: мы научили машину нашей худшей черте — способности убеждать в том, чего нет, используя нашу же веру в авторитеты.

Для выработки объективной гражданской позиции стоит сосредоточиться именно на этом механизме обмана, которому обучился ИИ. Пока человечество ищет новый способ отделять правду от вымысла, критическое мышление остаётся единственной доступной контрмерой.