Qwen на ноутбуке распознала три компьютерные игры по весам нейросетей

Поводом для эксперимента стала работа Sparks of Weight-Space Programming, которую подготовили Рикия Такэхи, Джейден Тео, Алекс Чжан и Омар Хаттаб. Исследователи предложили необычный подход к работе с нейросетями: вместо того чтобы обучать модель обычным способом, можно поручить другой языковой модели изучить её веса — числовые коэффициенты, от которых зависит поведение нейросети. ИИ пытается понять, за что отвечают эти числа, а при необходимости изменить их. Авторы назвали такой подход Weight-Space Programming — программированием через веса нейросети.

Уиллисону особенно понравилась идея проверить, понимает ли ИИ назначение нейросети по её весам. Причём без запуска самой сети, написания программ или использования калькулятора. Для этого авторы исследования обучили четыре небольшие нейросети играть в упрощённые версии Breakout, Pong, Pac-Man и Freeway на поле 10 × 10 клеток. Затем передали языковой модели числовые параметры одной из них и попросили определить игру. Условия задания были одинаковыми, менялись только веса.

Уиллисон решил повторить опыт с Qwen 3.8 27B. Эта модель занимает около 17 ГБ и работает прямо на его ноутбуке через LM Studio. Для эксперимента пришлось увеличить контекстное окно: при стандартном ограничении в 8192 токена возникали ошибки.

Первой Qwen получила нейросеть, обученную играть в Pac-Man. На анализ ушли 46 минут 12 секунд и 43 506 токенов рассуждений. Модель правильно определила игру и описала её механику: перемещение по лабиринту, сбор наград и уклонение от движущихся препятствий. Свою уверенность она оценила в 72%.

С Pong и Breakout результат тоже оказался верным. На Pong потребовался 1 час 4 минуты 54 секунды, на Breakout — 52 минуты 25 секунд. В первом случае Qwen описала ракетку, которая движется вверх и вниз, отбивая мяч. Во втором — платформу в нижней части поля, мяч и блоки, которые нужно разрушать. Уверенность модели составила 75% и 88% соответственно.

А вот с Freeway эксперимент не удался. Qwen приняла её за разновидность Pac-Man, в которой персонаж перемещается в четырёх направлениях. Уиллисон не удивился ошибке: Freeway, выпущенная для Atari 2600 в 1981 году, заметно менее известна, чем остальные три игры.

Для сравнения разработчик отправил задание с Breakout облачной модели Kimi K3.1 Pro через OpenRouter. Она тоже справилась, но значительно быстрее — за 9 минут 41 секунду, потратив 19 493 токена рассуждений. Впрочем, это отдельные эксперименты автора, а не полноценное сравнение производительности двух моделей.

Исходное исследование идёт дальше простого распознавания игр. По словам его авторов, GPT-6 Astra способна не только определять назначение нейросетей по весам, но и создавать небольшие игровые модели, превосходящие сети, которые прошли 100 миллионов шагов обучения с подкреплением по алгоритму PPO.

Особенно впечатляющим выглядит другой эксперимент. Исследователи попросили GPT-6 Astra улучшить математические способности Qwen3.5-0.8B без градиентного обучения — обычного способа настройки весов нейросети. Astra обнаружила проблему, из-за которой модель зацикливалась в рассуждениях, и изменила всего 0,016% её параметров. Как утверждают авторы, при одинаковых настройках генерации результат Qwen на математическом тесте MATH-500 вырос с 7,9% до 48,1%, а показатель выполнения инструкций IFEval увеличился втрое.

Но здесь есть важная оговорка. Понимать веса и исправлять их — не одно и то же, подчёркивает Уиллисон. В первом эксперименте модель рассуждает над числами без инструментов. Во втором она может использовать программный код и выполнять операции, знакомые специалистам по машинному обучению. Создатель библиотеки spaCy Мэттью Хоннибал раскритиковал исследование за смешение этих двух подходов. Разработчик Шон Гёдеке, разобрав пример с улучшением Qwen3.5-0.8B, пришёл к выводу, что ИИ фактически повторял действия, которые предпринял бы человек — исследователь нейросетей.

Уиллисон считает результаты заслуживающими внимания, но не разделяет восторженных прогнозов. По его мнению, достаточно опытный специалист с карандашом и бумагой тоже мог бы разобраться в подобных параметрах, если потратит на это достаточно времени. Поэтому говорить о конце эпохи программного кода или о будущем, в котором нейросети самостоятельно и непостижимым образом переписывают друг друга, пока преждевременно. Эксперимент интересен прежде всего тем, что языковая модель смогла извлечь осмысленную информацию непосредственно из чисел, определяющих работу другой нейросети.