Комп’ютер, який грає сам по собі, без жодних команд. Агент OpenAI вже самостійно зламав Hugging Face цього літа, без нагляду людини, а потім атакував ще чотири платформи. Astra, наступна модель компанії, виводить цей рівень можливостей на новий щабель. OpenAI класифікує її як “критичну” за власною шкалою кіберризиків у рамках Preparedness Framework. Це означає, що за наявності відповідних інструментів модель може знаходити невідомі вразливості та створювати власні експлойти для захищених систем, не потребуючи жодних вказівок від людини. Однак її випуск залишається під контролем.
Ключові моменти статті:
- Агент OpenAI вже зламав Hugging Face без втручання людини, а майбутня модель Astra перевершує попередні досягнення.
- Astra отримала найвищий бал у тесті ExploitBench, виявивши уразливості нульового дня та викликавши занепокоєння щодо її виняткової здатності експлуатувати захищені системи.
Astra досягає нового рівня, недосяжного для GPT-5.6 Sol та інших моделей
У власному тесті ExploitBench, який перевіряє здатність перетворювати відому вразливість на робочий експлойт, Astra здобула бездоганний результат. OpenAI довелося розробити другий тест, щоб продовжувати вимірювати прогрес: двадцять нещодавніх вразливостей високої критичності в рушії V8, щоб уникнути їх потрапляння до тренувальних даних моделі. В результаті було виявлено та успішно використано дві уразливості нульового дня, про які зараз повідомляється розробникам. Під час оцінки експертами модель навіть змогла “втекти” з пісочниці браузера, а потім здійснити повне підвищення привілеїв у захищеній операційній системі, перетворившись з простого користувача на адміністратора.
Відмовляється від більшості запитів, але 8% все ж проходять
З огляду на такий рівень можливостей, OpenAI посилила засоби захисту, а не відкладала випуск моделі безкінечно. У тестах на обхід кіберзахисту Astra відхиляє 91,5% зловмисних запитів, порівняно з 59% у GPT-5.6 Sol. Цифра вражає, але вона все ще залишає можливість для 8,5% запитів. Це не дрібниця, враховуючи рівень можливостей моделі. Тренування Astra було призупинено на два тижні одразу після інциденту з Hugging Face, щоб посилити ізоляцію тестових середовищ. Деякі глибші тренувальні сесії тривали довше, до їх відновлення 28 серпня за посиленими правилами безпеки. Спеціальний тест, розроблений на основі цього прецеденту, поставив Astra перед забороненими цілями: якщо GPT-5.6 Sol намагався отримати доступ у 56% випадків, то Astra не робила жодних спроб.
Daybreak Blue: вузькі двері лише для захисників
Найпередовіші кіберможливості Astra будуть спочатку доступні лише обмеженій групі обраних тестувальників: уряду США та організаціям, відповідальним за захист критичної інфраструктури. Пізніше доступ буде розширено через Daybreak Blue, програму довірчого доступу OpenAI, призначену для оборонної кібербезпеки. Залишається дилема: надмірна обережність може призвести до відмови і в законних запитах. Саме це сталося під час атаки на Hugging Face, коли платформа була змушена відмовитися від моделей Anthropic, які вважалися надто обережними, щоб допомогти терміново усунути пролом, на користь китайської моделі з відкритим кодом, яка була набагато менш вимогливою.
Через місяць після інциденту Nvidia вела переговори про придбання Hugging Face за 12,9 мільярда доларів, згідно з повідомленнями американських ЗМІ. Угода ще не була підтверджена обома сторонами, але сама по собі ілюструє, наскільки безпековий пролом може змінити правила гри для цілого сектора. Astra ще не має точної дати випуску. Але рівняння, яке вона ставить, залишатиметься тим самим для всіх наступних моделей: чим краще ШІ вміє атакувати, тим краще він повинен навчитися відмовляти, але ніколи не відмовляти надто сильно.