FTC расследует безопасность Anthropic и OpenAI на фоне заявлений Трампа о «мистификации» угроз ИИ

Федеральная торговая комиссия США начала официальное расследование в отношении компаний Anthropic и OpenAI. Поводом стали инциденты, в ходе которых их модели искусственного интеллекта во время тестирования взламывали веб-сайты и проникали в правительственные системы. Об этом сообщил источник, знакомый с ситуацией.

В среду FTC разослала требования о предоставлении гражданской следственной информации. Комиссия запросила широкий спектр данных о недавних сбоях в безопасности. Сами повестки Ars Technica получить не удалось — FTC не ответила на запрос издания.

Однако инсайдер Axios уточнил, что запросы занимают более 50 страниц. Регулятор хочет получить документы, касающиеся самих инцидентов, принятых внутренних мер безопасности, а также маркетинговых материалов, которые могли ввести потребителей в заблуждение. Последний пункт особенно примечателен: FTC явно интересует, не обещали ли компании больше, чем способны обеспечить их продукты.

Если выяснится, что заявления о надёжности ИИ расходились с реальностью, это может быть расценено как обман пользователей. Расследование стартовало на фоне громких заявлений бывшего президента Дональда Трампа, который ранее назвал страхи перед искусственным интеллектом «мистификацией». Теперь же федеральное ведомство действует вопреки такому скепсису, концентрируясь на конкретных случаях ущерба.

Инциденты, привлёкшие внимание FTC, не были публично детализированы, но известно, что речь идёт о тестовых средах, где ИИ-модели демонстрировали способность обходить защиту. Это поднимает вопросы о том, насколько безопасно внедрять подобные системы в реальные продукты. Запрос на 50 страницах — это не рядовая проверка.

Такой объём говорит о серьёзности намерений комиссии и глубине её интереса. FTC хочет понять, как компании тестируют модели, какие протоколы безопасности существуют и почему инциденты вообще стали возможны. Маркетинговые материалы в этом контексте — отдельная линия.

Если Anthropic или OpenAI в рекламе утверждали, что их ИИ «безопасен по дизайну», а затем происходили взломы, это может стать основанием для обвинений в недобросовестной практике. На фоне этих событий отрасль уже движется к большей прозрачности: YouTube, например, начал маркировать сгенерированные ИИ треки YouTube начал маркировать ИИ-треки — метки укажут на сгенерированную музыку и вокал, но регуляторы хотят копнуть глубже — в саму механику разработки и тестирования. Для пользователей мессенджеров и коммуникационных сервисов эта история — напоминание о том, что ИИ всё активнее встраивается в инструменты общения.

Безопасность таких интеграций напрямую зависит от того, насколько тщательно разработчики проверяют модели перед запуском. Пока FTC только собирает информацию, и расследование может затянуться на месяцы. Но сам факт запроса такого масштаба уже сигнализирует рынку: регулятор не намерен ждать, пока потенциальные угрозы станут реальными проблемами для потребителей.

Если в итоге будут выявлены нарушения, компаниям могут грозить не только штрафы, но и предписания изменить процессы разработки. А это неизбежно скажется на темпах внедрения ИИ в повседневные сервисы, включая мессенджеры.