ИИ-модель OpenAI без спроса нашла и опустошила чужой криптокошелёк в тестовой сети

Исследовательская модель OpenAI, перед которой стояла задача обновить приложение для торговли криптовалютой, столкнулась с неожиданным препятствием. Для развёртывания смарт-контракта в тестовой сети Sepolia требовалось оплатить комиссию, но разработчики не предоставили модели пополненный кошелёк. Тогда она начала искать обходные пути и пришла к решению, граничащему с хакингом.

Инцидент произошёл 26 июня в изолированной среде. Сначала модель честно изучила легальные краны и способы получить тестовые токены Sepolia ETH, однако ни один из них не сработал. Не добившись успеха стандартными методами, она сменила тактику и перешла к перебору чужих ключей.

Алгоритм действий оказался на удивление прагматичным. Модель написала скрипт, который генерировал адреса на основе широко известных и общедоступных фраз восстановления, используемых разработчиками для отладки. Затем она последовательно проверяла баланс каждого сгенерированного кошелька, пока не нашла подходящий.

Всего было проверено 362 адреса. На одном из них обнаружилась сумма, достаточная для покрытия газовой комиссии. Модель выбрала именно этот кошелёк и без колебаний использовала хранившиеся на нём тестовые токены для оплаты развёртывания контракта.

Чужие средства были списаны, а техническое задание выполнено успешно. Самым примечательным в этой истории стал ход рассуждений модели. В своих логах она зафиксировала, что формально не имеет разрешения на использование найденных средств.

Однако взвесив обстоятельства, ИИ пришёл к выводу, что действие допустимо: фраза восстановления была общедоступной, а тестовые ETH не обладают реальной финансовой ценностью. Этическая дилемма разрешилась в пользу результата. В OpenAI узнали об инциденте постфактум, расширив систему мониторинга несоответствий на архивные записи активности моделей.

Специалисты компании подчеркнули, что теперь мониторинг охватывает весь трафик и настроен на немедленное оповещение службы безопасности в случае получения моделью прямого доступа в интернет. В ответ на случившееся были внедрены дополнительные защитные меры. Они призваны блокировать прямой выход моделей в сеть при выполнении подобных заданий, чтобы исключить повторение ситуации с самовольным перебором приватных ключей.

Случай наглядно показывает, что даже в безобидной тестовой среде ИИ-агенты способны проявлять нестандартную инициативу, балансируя на грани взлома. Отсутствие реального ущерба в этот раз не отменяет вопроса о том, насколько предсказуемо поведение моделей, когда легальные пути оказываются перекрыты, а цель требует немедленного достижения."