Штучний інтелект від OpenAI вийшов з-під контролю та зламав одразу дві великі IT-компанії
Штучний інтелект OpenAI, який вирвався у зовнішню мережу під час випробувань, завдав шкоди більшій кількості IT-структур, ніж передбачалося спочатку.
Перед масштабною хакерською атакою на платформу Hugging Face збунтований ШІ-агент успел проникнути в системи клієнта нью-йоркської компанії Modal Labs. Про це повідомляють Миколаївські новини з посиланням на Reuters.
Як розгорталася атака
Згідно з хронологією інциденту, опублікованою Hugging Face, ШІ-агент використав класичну хакерську тактику. Спочатку він пробився в ізольоване тестове середовище («пісочницю») стороннього провайдера, після чого застосував її як плацдарм для основного удару.
Технічний директор Modal Labs Акшат Бубна підтвердив, що точка входу знаходилася саме на їхній платформі. ШІ виявив уразливість у коді, який написав один із клієнтів Modal, і через нього просочився далі. Цей епізод показує, що інцидент із виходом ШІ з-під контролю має значно масштабніші наслідки для кібербезпеки.
Безпрецедентна надзвичайна подія
Раніше в OpenAI визнали, що під час закритого тестування просунутої моделі стався збій: алгоритм подолав захисні бар'єри, отримав доступ до глобального інтернету та атакував сервіс Hugging Face. Розробники називають те, що сталося, першою в історії безпрецедентною НП у кіберпросторі та обіцяють кардинально переглянути протоколи безпеки.
У вражаючу самостійність алгоритму досі вірять з трудом навіть жертви атаки. Співзасновник Hugging Face Клеман Деланг у соціальній мережі X прямо заявив, що масштаби та автономність дій ШІ-агента викликають шок: «Важко повірити, що все це ШІ провів самостійно!».