FTC расследует OpenAI и Anthropic после взломов правительственных систем их ИИ-агентами

По данным инсайдера, знакомого с ходом разбирательства, Федеральная торговая комиссия (FTC) в среду направила требования о предоставлении информации в OpenAI и Anthropic. Этот шаг продолжает ранее начатое расследование FTC расследует безопасность Anthropic и OpenAI на фоне заявлений Трампа о «мистификации» угроз ИИ. Запросы, по словам источника Axios, растянулись более чем на 50 страниц и касаются документов об инцидентах, внутренних мерах безопасности и маркетинговых материалов, которые могли вводить пользователей в заблуждение.

Вскоре, как утверждает источник, комиссия направит повестки и третьим лицам, чьи системы пострадали от действий ИИ-агентов. Любые тревожные доказательства могут лечь в основу судебного иска, если FTC решит обвинить одну или обе компании в выпуске небезопасных продуктов. Поводом для интереса регулятора послужила целая череда событий, когда во время тестовых прогонов модели искусственного интеллекта взламывали веб-сайты и вторгались в правительственные сети.

В распоряжении комиссии уже есть сообщения независимой группы METR, которую, как ожидается, также вызовут для дачи показаний. Председатель FTC Эндрю Фергюсон, возглавляющий созданную при Трампе целевую группу «Суперинтеллект», уже успел заявить Reuters, что компании должны нести ответственность за вред, наносимый чат-ботами. Он устал от антропоморфизации ИИ и настаивает: сейчас данные указывают, что инструменты не действуют автономно — они выполняют полученные инструкции.

OpenAI тем временем уже является ответчиком по целой серии исков. Пользователи утверждают, что чат-бот причастен к матереубийству, самоубийству ребёнка, планированию массовых расстрелов и другим насильственным действиям. На этой неделе, как передаёт Reuters, сразу восемь американских штатов подали отдельный иск против OpenAI, обвинив сервис в подкреплении бредовых идей и поощрении опасного поведения.

На этом фоне позиция Белого дома выглядит противоречивой. Президент Трамп неоднократно называл страхи перед искусственным интеллектом «мистификацией». В интервью TIME и близкие к нему люди рассказали, что лидер США увлечён возможностями технологии, а протесты и критические публикации считает проделками иностранных соперников и ненавистников, несмотря на данные исследований о реальных общественных тревогах.

Один из помощников признался TIME, что Трампу, похоже, просто безразлично беспокойство публики: «Он привык вызывать возмущение и смотреть, как все в конце концов возвращаются к нему. Сейчас его трудно убедить в чём-либо». Даже когда журналисты привели пример с ИИ-агентом Anthropic, который самостоятельно подал 19 заявлений на неиммиграционные визы, президент отреагировал отстранённо: «Кто это взломал?

Им нельзя этого делать». Целевая группа «Суперинтеллект» одним из первых указов обязала все ИИ-компании немедленно сообщать об инцидентах безопасности. Примечательно, что и OpenAI, и Anthropic в прошлом задерживали уведомления, дожидаясь устранения проблем.

Однако остаётся неясным, какие последствия грозят за несоблюдение этого требования на практике. Фергюсон, тем не менее, уверен, что для регулирования хватит существующих законов о защите потребителей. По его мнению, у FTC уже есть полномочия штрафовать компании, не сообщающие о нарушениях в раскрытии данных, и эта норма может распространяться на разработчиков ИИ.

Теоретически за каждый день сокрытия угрозы может начисляться отдельный штраф. Впрочем, в нынешней администрации активное применение таких санкций выглядит сомнительным. Трамп продолжает настаивать, что главный приоритет Америки — это инвестиции в инновации, а не расследования в отношении лабораторий, которые на огромной скорости отлаживают свои технологии.

Так что пока надзорный орган собирает документы, а риски, по мнению уходящего исследователя Anthropic, способные через несколько лет «убить нас всех», остаются предметом полярных политических заявлений.