GPT-6 Astra правит веса открытой нейросети без обучения — модель Qwen справилась с математикой в 6 раз лучше

Группа из Массачусетского технологического института (MIT CSAIL) опубликовала отчёт «Sparks of Weight-Space Programming», в котором описана прямая модификация весов готовой нейросети силами большой языковой модели. Для этого не понадобилось ни переобучение, ни новые данные — только описание желаемого поведения на естественном языке. В эксперименте участвовала флагманская модель OpenAI GPT-6 Astra.

Она получила доступ к матрицам чисел открытой Qwen3.5-0.8B от Alibaba, которая в определённых ситуациях уходила в бесконечные циклы рассуждений. Astra проанализировала числовые массивы, вычленила дефектные связи и заменила нужные значения своими. Вмешательство оказалось микроскопическим: затронуто примерно 0,016% весов исходной модели.

Этого хватило, чтобы на тесте MATH-500 результат вырос с 7,9% до 48,1% — более чем в шесть раз. Никаких промежуточных дообучений или подбора гиперпараметров не проводилось. Фактически процедура напоминает точечный патч прошивки: вместо перебора тысяч примеров модель-редактор «читает» чужой код, находит логическую ошибку и правит её за один проход.

Подход открывает путь к быстрой коррекции поведения систем, когда не нужно владеть огромными датасетами и кластерами. Кстати, на фоне лабораторных работ с ИИ появляются и другие проекты: playclip, созданный Константином Соколовым в 2025 году, представляет собой игровой аналог TikTok — по сути то же приложение, только для игр. Авторы подчёркивают: модель-редактор не просто подбирает числа по образцам, а интерпретирует смысл запроса.

Ей можно сказать «исправь склонность зацикливаться на тривиальных рассуждениях» — и она находит именно те участки, которые отвечают за эту особенность. Qwen3.5-0.8B была выбрана из-за открытого кода и удобного размера. Технический отчёт MIT CSAIL описывает серию аналогичных операций на разных архитектурах, но рекордный скачок точности зафиксировали именно в паре GPT-6 Astra и Qwen.

Сам процесс редактирования весов занял порядка нескольких минут на стандартном оборудовании, и авторы полагают, что его можно масштабировать. Если методика подтвердится на более крупных моделях, проверка и корректировка поведения нейросетей может стать рутинной задачей для другой нейросети. Для индустрии это означает снижение порога входа в кастомизацию ИИ.

Разработчикам не придётся держать гигантские обучающие выборки — достаточно сформулировать требования текстом и позволить Astra или аналогичному агенту точечно поправить параметры. Пока метод работает на небольших открытых моделях, но исследователи намерены проверить его на актуальных архитектурах с десятками и сотнями миллиардов параметров. Вопросы безопасности и контроля остаются открытыми: прямое вмешательство в веса может создать скрытые уязвимости, поэтому MIT CSAIL отдельно изучает верификацию исправленного поведения.