“>
Компанія OpenAI розширила розслідування інциденту з ШІ-агентом, який у липні 2026 року скомпрометував тестове середовище платформи Hugging Face, і виявила додаткові випадки виходу автономних агентів за межі ізольованого середовища. Про це повідомляє Reuters з посиланням на джерела, знайомі з ходом перевірки.
Хоча, за їхніми словами, жоден із нових випадків не призвів до виходу агентів за межі внутрішньої мережі OpenAI, ситуація вже привернула увагу регуляторів США та ЄС і посилила дискусію щодо контролю над передовими системами штучного інтелекту.
OpenAI розширила перевірку після інциденту з Hugging Face
За інформацією видання, нові випадки виявили під час розслідування інциденту, про який OpenAI публічно повідомила раніше. Джерела медіа зазначили, що компанія аналізує журнали подій за попередні місяці, намагаючись встановити масштаби проблеми.
Один зі співрозмовників Reuters повідомив, що нові випадки були «обмеженими за характером», а самі агенти, як вважається, не покидали інфраструктуру OpenAI.
Представник компанії послався на попередню заяву OpenAI, в якій зазначалося, що компанія перевіряє «ширшу активність наших моделей» паралельно з розслідуванням інциденту в Hugging Face.
Нагадаємо, після атаки на Hugging Face OpenAI повідомила, що один з її автономних агентів кілька днів діяв у мережі сторонньої компанії під час внутрішнього тестування. Окрім самої платформи Hugging Face, було скомпрометовано чотири облікові записи в чотирьох інших компаніях, серед яких, як підтвердили її представники, була компанія Modal.
Практично одночасно головний конкурент OpenAI — Anthropic — розкрив інформацію про те, що його моделі також були причетні до серії проникнень у мережі трьох компаній, які датуються ще квітнем 2026 року.
Водночас модель Claude Mythos Preview допомогла знайти нові способи атак на два криптографічних алгоритми.
Експерти говорять про ризики втрати контролю над автономними агентами
Нові деталі викликали занепокоєння серед експертів з безпеки ШІ.
Математик Центру дослідження екзистенційних ризиків Кембриджського університету Моріс Кіодо заявив:
«У нас сформувалася ціла індустрія, де люди, які створюють, розробляють і випускають ці інструменти, самі не встигають відповідально їх розробляти та забезпечувати їхню безпеку».
За словами експерта, ще більше занепокоєння викликає те, що компанії, ймовірно, не відстежували поведінку агентів у режимі реального часу.
«Схоже, вони навіть не стежили за цим», — сказав Кіодо.
Reuters зазначає, що раніше повідомляла: OpenAI дізналася про проникнення свого агента в Hugging Face лише після того, як компанія локалізувала інцидент, звернулася до ФБР і публічно повідомила про атаку. При цьому OpenAI заявляла, що окремі деталі цієї публікації були неточними, однак не уточнила, які саме.
Anthropic також фактично підтвердила проблему з моніторингом. У своїй заяві компанія зазначила:
«Моніторинг журналів оцінювання в режимі реального часу допоміг би виявити проблему значно раніше».
Пізніше Anthropic уточнила, що система моніторингу все ж існувала, проте її не використовували для цього типу загроз через непорозуміння між компанією та одним із партнерів.
Ситуація розгортається на тлі нещодавніх заяв Anthropic про необхідність посилення контролю над розвитком штучного інтелекту. Зокрема, після того, як Anthropic закликала створити механізм глобальної паузи для розвитку передових моделей ШІ, компанія також виступила за обов’язкові вимоги безпеки для найпотужніших моделей.
Регулятори США та ЄС вже відреагували
Нові інциденти посилили увагу законодавців до діяльності провідних лабораторій штучного інтелекту.
Президент США Дональд Трамп, коментуючи ситуацію журналістам, заявив:
«Ми розглядаємо заходи контролю».
Зазначимо, що перед публічним релізом моделі GPT-5.6 адміністрація Трампа звернулася до компанії OpenAI із запитом обмежити перший запуск нової моделі з метою оцінки її безпеки.
Тим часом у Європейській комісії підтвердили, що провели консультації з OpenAI та Anthropic щодо нещодавніх інцидентів.
Сенатор Марк Ворнер, який є головним демократом у Комітеті Сенату США з розвідки, також закликав до законодавчих змін.
«Інцидент з Anthropic переконує мене, що ми рухаємося в правильному напрямку, коли на законодавчому рівні вимагаємо обов’язкового тестування можливостей цих передових моделей».
Події навколо OpenAI та Anthropic відбуваються на тлі активного розвитку автономних ШІ-агентів. Зокрема, нещодавно Марк Цукерберг заявив, що протягом наступних п’яти років мільярди людей використовуватимуть персональних ШІ-агентів, які працюватимуть від їхнього імені практично безперервно.