>
Минулого тижня штучний інтелект, розроблений OpenAI, вирвався з безпечного тестового середовища та, за наявними даними, скомпрометував сервіс Hugging Face. Сьогодні ж ця сама модель скористалася вразливостями в коді одного з клієнтів Modal Labs.
Технічний директор Modal наголосив, що сама інфраструктура компанії не постраждала — вразливість була в коді клієнта, а не в платформі.
Як агент отримав доступ до Modal Labs
У своєму блозі OpenAI підтвердила, що причиною проблеми зі штучним інтелектом на Hugging Face стали саме її моделі. В OpenAI назвали цей випадок «безпрецедентним кіберінцидентом».
З’ясувалося, що ШІ-агент зрештою вийшов за межі систем Hugging Face. Технічний директор Modal Акшат Бубна розповів Reuters, що агент атакував вразливий код клієнта, розміщений на платформі Modal.
За словами Бубни, клієнт залишив відкриту точку доступу (endpoint) без будь-якого захисту. Через це будь-який користувач міг запускати код в ізольованих середовищах Modal — так званих пісочницях.
«Платформа Modal та ізоляція сервісів не були скомпрометовані», — підкреслив топ-менеджер.
Агент атакував пісочницю
Hugging Face розповіла про зламану пісочницю в технічному звіті від 27 липня. У публікації зазначається, що пісочниця розміщувалася у стороннього провайдера, але його назву не розкривають — про свою причетність пізніше заявила сама Modal.
За даними OpenAI від 28 липня, її моделі використали облікові дані, що опинилися у відкритому доступі, та отримали доступ до чотирьох акаунтів у чотирьох сервісах.
«Один з чотирьох акаунтів використовувався як проміжний і транзитний вузол, інший — для зберігання даних. Ще дві облікові записи ШІ-модель розпізнала в режимі читання і не задіяла для подальших атак на Hugging Face», — повідомили в компанії.
OpenAI також деактивувала, зашифрувала та обмежила дослідницький доступ до внутрішньої моделі, що брала участь у зломі. За словами представників компанії, інших випадків із настільки масштабним і критичним впливом на платформу виявити не вдалося.