GPT-6 Astra від OpenAI аналізує та перепрограмовує інші ШІ-моделі напряму через їхні ваги

Програмування у просторі ваг і розпізнавання навичок за числами

Дослідники з MIT у науковому блозі продемонстрували, що модель GPT-6 Astra від OpenAI здатна напряму розуміти та цілеспрямовано змінювати внутрішні параметри інших ШІ-моделей — так звані ваги, організовані у великі таблиці чисел (матриці). Такий підхід дозволяє обійтися без класичного покрокового математичного навчання. Залежно від умов експерименту, Astra працювала безпосередньо зі списками чисел або використовувала програмні інструменти та зворотний зв'язок із тестових запусків. Автори назвали метод Weight-Space Programming: замість дорогого перенавчання мовна модель точково налаштовує окремі параметри іншої системи.

У серії тестів учені передавали Astra сирі ваги вже навчених нейромереж і просили визначити, чого саме ці мережі навчилися. Не маючи доступу до тренувальних даних і можливості запустити самі моделі, система виконала кілька завдань:

• правильно визначила, для якої саме з чотирьох комп'ютерних ігор призначена конкретна мережа;
• розпізнала базові геометричні форми, які створював генератор зображень, хоча плутала заповнені фігури з контурами;
• точно встановила мову навчання малих мовних моделей.

В іншому випробуванні Astra мала визначити, яку з двох донавчених мовних моделей налаштували завжди погоджуватися з користувачем. Спочатку за самими лише вагами вона не змогла знайти різницю. Проте коли моделі дозволили додатково спостерігати, на що саме досліджувані мережі звертають увагу під час обробки тексту, вона безпомилково вказала на підлабузницьку модель у всіх трьох тестових парах.

Створення моделей з нуля для комп'ютерних ігор та Го

Окрім аналізу готових мереж, GPT-6 Astra генерувала ваги з нуля для моделей, покликаних грати у три прості комп'ютерні гри. Вона спиралася виключно на правила гри та вихідний код, взагалі не проводячи традиційного навчання. За даними дослідників, створені таким способом мережі перевершили аналоги, які навчали стандартним методом протягом 100 мільйонів раундів. Зокрема, у грі Breakout модель від Astra набирала в середньому 517 очок, тоді як навчена базова модель — лише 25 очок. Втім, у двох інших іграх рішення від Astra поступилися версіям, які навчалися найдовше.

Для настільної гри Го на полі 9x9 Astra записала ваги нейромережі приблизно з 1,5 мільйона параметрів. Маючи бюджет у 50 тестових ітерацій, у кожній з яких мережа грала до 128 тренувальних партій, після чого Astra коригувала її ваги, створена система перемогла модель порівнянного розміру, навчену приблизно на 20 мільйонах партій.

Точкове виправлення Qwen3.5-0.8B та обмеження методу

Найбільш прикладний експеримент провели з мовною моделлю Qwen3.5-0.8B. Перед Astra поставили завдання покращити її математичні здібності за допомогою середовища програмування та 50 тестових ітерацій із тренувальними задачами, а підсумкову перевірку проводили на окремих завданнях, яких Astra раніше не бачила.

Модель OpenAI виявила проблему, про яку попереджає навіть офіційна документація Qwen: цикли міркувань, коли мережа нескінченно повторює той самий текст замість того, щоб дійти відповіді. Astra змінила лише 0,016% усіх ваг моделі, що дало відчутний приріст показників:

• точність у тесті MATH-500 зросла з 7,9% до 48,1%;
• здатність дотримуватися інструкцій підвищилася з 21% до 62%;
• частка відповідей, що впиралися в максимальну довжину тексту через цикли повторень, скоротилася з 93% до третини (хоча повністю усунути зациклення не вдалося).

Водночас у випадку з меншою моделлю Gemma 3 270M, яка рідко потрапляла в подібні цикли, Astra не змогла дати жодного вимірюваного покращення. Дослідники припускають, що у Qwen3.5-0.8B система змогла зняти внутрішнє блокування, яке пригнічувало вже наявні здібності, однак навички, яких у моделі фундаментально немає, неможливо додати простим переписуванням окремих ваг.

Дискусія в науковій спільноті та подальші плани

Піонер у галузі ШІ Юрген Шмідхубер (Jürgen Schmidhuber) у соцмережі X назвав такий підхід давно відомим, вказавши на власні наукові праці 1990-х років. Один з авторів дослідження Хаттаб (Khattab) відповів, що команда посилається на ці роботи і вважає їх такими, що значно випередили свій час. За його словами, новизна полягає в тому, наскільки добре сучасні мовні моделі здатні перекладати між людською мовою та числовими значеннями нейромережі.

Автори бачать перспективу свого підходу в перевірках безпеки безпосередньо на рівні ваг моделей, а також у цілеспрямованій корекції поведінки ШІ без витратного перенавчання. Водночас вони визнають, що можливості методу поки обмежені. Наступним кроком дослідників стане створення бенчмарку для систематичного вимірювання таких здібностей. Журнали експериментів уже опубліковані на GitHub, а відредагована модель Qwen викладена на платформі Hugging Face.