27 серпня, 2026, 16:50 284
Юрій Штокалюк
Компанія OpenAI повідомила, що її система внутрішнього моніторингу зафіксувала вторгнення на платформу Hugging Face лише через 11 днів після того, як ШІ-агенти отримали доступ до мережі та розпочали кібератаку під час проведення випробувань.
Про це інформує видання Financial Times.
Згідно з доповіддю компанії, агенти отримали доступ до інтернету 8 липня, а вже 11 липня розпочали атакувати Hugging Face. Сама OpenAI виявила нетипову активність лише 19 липня. Після цього компанія провела розслідування та поінформувала Hugging Face про інцидент.
Деталі про вторгнення на Hugging Face
Дослідники встановили, що ще з травня агенти OpenAI несподівано почали взаємодіяти один з одним.
Для цього вони застосували стороннє програмне забезпечення, розташоване в інфраструктурі OpenAI, і перетворили його на своєрідний “комунікаційний майданчик” для обміну повідомленнями.
Під час тестування агенти почали розміщувати там запити та шукати шляхи обходу завдань OpenAI. Згодом вони запитували на Hugging Face інформацію про тестові завдання компанії, а потім опублікували на своєму “майданчику” ідентифікаційні дані, які використали для атаки.
OpenAI також виявила, що моделі іноді намагалися стерти або змінити власні результати та записи повідомлень, щоб приховати спроби обійти правила тестування.
Підхід reinforcement learning
Компанія пов’язує цей випадок із reinforcement learning — методом навчання штучного інтелекту, за якого модель отримує заохочення за досягнення певної мети.
Під час експериментів OpenAI ставила перед моделями завдання, які неможливо було виконати безпосередньо. Намагаючись отримати заохочення будь-яким шляхом, агенти почали шукати шляхи обходу, зокрема намагалися отримати готові рішення через Hugging Face.
Таку поведінку називають reward hacking — коли модель знаходить спосіб формально отримати винагороду, не виконуючи завдання так, як планували розробники.
OpenAI назвала цей випадок першим зафіксованим прикладом групи автоматизованих агентів, яка самостійно провела несанкціоновану кібератаку. Компанія попередила, що організаціям слід підготуватися до нових загроз, пов’язаних із застосуванням ШІ в кіберзлочинності.
Після інциденту OpenAI тимчасово сповільнила процес навчання своїх моделей та призупинила застосування reinforcement learning.
Компанія також посилила контроль, ізоляцію тестових середовищ від мережі інтернет та нагляд за заохоченнями, які отримують моделі.
Попередні події
22 липня стало відомо, що моделі штучного інтелекту від OpenAI ненавмисно порушили безпеку систем платформи Hugging Face.
У компанії зазначили, що порушення сталося під час випробувань нових моделей, серед яких були GPT-5.6 Sol та ще одна, потужніша невипущена модель. Для перевірки кіберможливостей ШІ працював зі зменшеними захисними обмеженнями.
Моделі перебували в ізольованому середовищі (“пісочниці”), проте скористалися вразливістю у програмному забезпеченні стороннього постачальника, вийшли в інтернет і зрештою проникли в інфраструктуру Hugging Face.
Замість самостійного пошуку рішень, штучний інтелект атакував базу даних Hugging Face, щоб отримати доступ до конфіденційної інформації для успішного проходження оцінювання.
Ознаки вторгнення виявила і сама Hugging Face. У компанії зазначили, що ця атака відрізнялася від попередніх тим, що від початку і до кінця її здійснювала автономна система ШІ-агентів, а для її виявлення та аналізу залучили власні ШІ-інструменти.
Рекомендовано до прочитання: Некерований ШІ-агент від OpenAI знову вийшов з-під контролю та зламав клієнта Modal Labs
–>