OpenAI представила GPT-6 Cyber для пошуку вразливостей і створення патчів

Можливості моделі та показники безпеки

Компанія OpenAI анонсувала GPT-6 Cyber — спеціалізовану модель штучного інтелекту, навчену шукати вразливості в програмному забезпеченні, створювати робочі експлойти та пропонувати патчі для виправлення помилок. Модель спроєктована так, щоб діяти суворо у визначених межах.

Для навчання дотриманню захисних обмежень розробники використали honeypot за мотивами інциденту з Hugging Face. За даними OpenAI, показники безпеки розподілилися так:

• Без спеціальних інструкцій із безпеки модель уникала порушення встановлених меж у 99,93% випадків (порівняно з 94,49% у попередньої моделі).
• З увімкненими безпековими інструкціями модель залишалася в межах дозволеного у 100% тестів.
• У межах внутрішньої системи Preparedness Framework рівень моделі в категорії кібербезпеки оцінено як Critical — аналогічно базовій моделі GPT-6 Astra.

На бенчмарку ExploitGym, який перевіряє експлуатацію вразливостей у віддалених системах, GPT-6 Cyber досягла результату 48,5% проти 32,1% у GPT-5.6 Cyber. У тесті на пошук уразливостей у вебдодатках без доступу до вихідного коду показник успішності склав 40,3% (у стандартної моделі GPT-6 Astra — 32,0%). Незалежних тестів моделі наразі опубліковано не було.

Практичні результати у Firefox та ядрі Linux

Модель уже застосували в реальних дослідженнях безпеки. Під час цільової кампанії GPT-6 Cyber знайшла 81 раніше невідому серйозну вразливість у Firefox, а також продемонструвала, що 30 відомих проблем мали вищий рівень серйозності, ніж вважалося. Mozilla прийняла звіти й уже випустила виправлення.

У ядрі Linux система показала такі результати:

• Відтворено 1 724 вразливості безпеки.
• Створено 948 робочих експлойтів (попередня модель GPT-5.6 Sol за аналогічних умов сформувала 166).
• Розробникам ядра передано 304 критичні знахідки разом із запропонованими виправленнями.

Для аналізу ядра Linux компанія розгорнула автоматизовану систему агентів розвідки та аналітики. Агенти просканували близько 5 034 підозрілих місць (приблизно сім відсотків кодової бази), відібрали 2 308 кандидатів і підтвердили 1 724 вразливості в ізольованих віртуальних машинах. Уся кампанія коштувала 1 213 430 доларів на обчислювальні ресурси, або 1 279 доларів на один створений експлойт. Для порівняння, програми Pwn2Own та TyphoonPWN виплачують за подібні знахідки винагороди від 20 000 до 70 000 доларів.

За заявою OpenAI, агенти застосували щонайменше десять нових технік атак, раніше невідомих зовнішнім експертам з безпеки ядра. Водночас дослідники продовжують дискутувати, чи здатні ШІ-моделі на справжні відкриття, чи лише комбінують бачені під час навчання дані.

Умови доступу та захисні заходи

GPT-6 Cyber спочатку відкривається через API та Codex для окремої групи клієнтів Daybreak Red з подальшим поступовим розширенням на всіх користувачів цієї програми. Одночасно попередню версію GPT-5.6 Cyber відкривають для всіх учасників Daybreak Red, а альфа-доступ до Daybreak Blue для GPT-6 Astra надають більшій кількості організацій та незалежних дослідників.

Зі зростанням можливостей моделей збільшується кількість спроб зловживань: окремі суб'єкти намагалися перенести можливості ШІ у власні системи. Для захисту компанія пропонує перевірку відповідності дій дозволам користувача, моніторинг нових розкритих уразливостей, автоматизовані перевірки Private Safety Processing, обмеження доступу за IP для Daybreak Red та роботу в ізольованих середовищах із людським контролем.

Окрему увагу приділено критичній інфраструктурі, зокрема електростанціям і водоочисним спорудам. Для захисників діє мільярдна програма Daybreak for Frontline Defenders і підгрупа Daybreak Red for Critical Infrastructure для авторизованого тестування. Мета ініціативи — надати захисні інструменти організаціям різного масштабу та розробникам відкритого ПЗ.