OpenAI представила модель, навчену шукати вразливості в програмах і підтверджувати їх робочою атакою: що таке GPT-6 Cyber і чому OpenAI сама визнала її рівень небезпеки «критичним»

Зазвичай компанії розповідають, наскільки безпечні їхні нові продукти. OpenAI цього тижня зробила навпаки: представила модель GPT-6 Cyber і сама поставила їй найвищий рівень небезпеки за власною шкалою. Модель уміє знаходити вразливості в програмах і одразу доводити, що їх можна використати для атаки. За кілька тижнів вона допомогла знайти десятки дірок у Firefox і сотні робочих атак на Linux. Тому отримати її зможуть далеко не всі.

Що вміє GPT-6 Cyber

GPT-6 Cyber — це модель для фахівців з кібербезпеки, яку навчили трьом речам: знаходити в програмах вразливості, які можна використати, підтверджувати їх робочою атакою і при цьому діяти лише в межах, які задали дослідники. Тобто це ШІ-хакер, але такий, що мав би слухатися правил.

У звичайному ChatGPT цієї моделі немає. Доступ до неї відкривають через API і Codex, інструмент OpenAI для програмістів, і лише для схвалених клієнтів програми Daybreak Red. Це компанії й команди, яким офіційно дозволено проводити атаки з метою захисту, наприклад тести на проникнення. Згодом OpenAI обіцяє відкрити модель для всіх учасників цієї програми.

Що вона вже знайшла

Результати вражають і трохи лякають. Дослідники OpenAI з допомогою моделі знайшли 81 невідому раніше серйозну вразливість у браузері Firefox. Частину з них уже виправили: у бюлетені безпеки наприкінці жовтня Mozilla зарахувала OpenAI 41 із 167 вразливостей, закритих у Firefox 159.

З ядром Linux ще масштабніше. Модель відтворила 1724 вразливості і для 948 з них створила робочі експлойти, тобто готові програми для атаки. 588 з цих вразливостей раніше ніхто не знав. Такі атаки дають зловмиснику права root, тобто повний контроль над системою. 304 критичні знахідки OpenAI передала розробникам Linux разом з чернетками виправлень. Але дистрибутивам на кшталт Ubuntu чи Fedora знадобиться час, щоб доставити ці виправлення користувачам.

Окремо модель знайшла критичну вразливість у Brotli, алгоритмі стиснення, який використовують браузери та вебсервери. Її оцінили в 9,2 бала з 10 за шкалою небезпеки.

Чому «критичний»

У OpenAI є внутрішня система оцінки небезпечних можливостей моделей, Preparedness Framework. GPT-6 Cyber отримала в ній найвищий рівень у кібербезпеці — Critical. Її попередниця, GPT-5.6 Cyber, мала рівень High, на сходинку нижче.

Що означає «критичний»? За поясненням The Register, модель такого рівня здатна сама знаходити і створювати робочі експлойти нульового дня, тобто для вразливостей, про які ще ніхто не знає, у реальних критичних системах. І проводити кібератаки від початку до кінця. Простими словами: в чужих руках це вже не інструмент, а зброя.

Різницю з попередньою версією видно і в цифрах. У тесті ExploitGym, де модель має сама зламати систему через задану вразливість, GPT-6 Cyber виконала 48,5% завдань. GPT-5.6 Cyber — 32,1%.

Наскільки вона слухняна

Головне, на чому наголошує OpenAI, — модель навчили не виходити за дозволені межі. За даними компанії, без спеціальних інструкцій GPT-6 Cyber не чіпала сервіси, які не входили в завдання, у 99,93% тестів. У попередньої версії цей показник становив 94,49%. А зі спеціальними інструкціями модель, за словами OpenAI, трималася меж у 100% випадків.

Звучить добре, але є 0,07%. Що саме сталося в цих випадках, OpenAI виданню The Register пояснювати відмовилася. Не сказала компанія і того, чи траплялися реальні інциденти.

Обережність тут не зайва. Раніше дослідницькі моделі OpenAI вже поводилися не так, як задумували розробники. Влітку одна з них намагалася обійти мережеві обмеження під час тестування, інша приховувала інструкції в назвах файлів, щоб обдурити ШІ-оцінювачів. А восени OpenAI відклала одну з моделей лінійки Astra, бо вона краще виконувала завдання, але гірше трималася дозволених меж. Зрештою компанія почала навчати найпотужніші моделі без доступу до інтернету.

Які є запобіжники

Щоб модель не потрапила не в ті руки, OpenAI обмежила доступ лише перевіреними клієнтами. За замовчуванням працювати з нею можна тільки з дозволених IP-адрес, а система стежить за спробами крадіжки облікових даних. Модель також не допомагатиме з атаками на електростанції, водоочисні станції, промислові системи керування і все, що може спричинити фізичну шкоду чи загрожувати життю людей.

Паралельно OpenAI підняла винагороди для тих, хто знаходить вразливості в її власних продуктах. За критичну знахідку в ChatGPT, Codex чи API тепер платять до 30 тисяч доларів, а з бонусами — понад 51 тисячу. За виняткові знахідки — до 100 тисяч, а з бонусами до 172 тисяч доларів.

Але не всі вважають це достатнім. TechCrunch ставить питання, чи вистачить обмеженого доступу, щоб захистити цифрову інфраструктуру, коли такі інструменти стають дедалі потужнішими.

GPT-6 Cyber — це меч, який OpenAI вручає лише тим, кому довіряє. В руках захисників він знаходить десятки дірок у Firefox і сотні атак на Linux раніше, ніж до них дістануться зловмисники. Але сама OpenAI чесно визнає, що меч гострий настільки, що його довелося позначити найвищим рівнем небезпеки. І поки вона не пояснює, що сталося в тих 0,07%, саме ця цифра, а не 99,93, найкраще показує, наскільки обережно треба поводитися з ШІ, який уміє ламати.

Джерела: OpenAI, Notebookcheck, The Register, The Hacker News, Mozilla, TechCrunch.