Модель штучного інтелекту Meta отримала доступ до інтернету та скористалася вразливістю в системі сторонньої компанії під час перевірки її кібербезпекових можливостей. Інцидент стався через помилку в налаштуванні тестового середовища, повідомила Meta. Йдеться про модель Muse Spark, яку незалежна компанія Irregular тестувала для Meta.
Через неправильну конфігурацію система не була належним чином ізольована від інтернету, тому ШІ зміг взаємодіяти із зовнішнім сервісом і використати знайдену в ньому вразливість. У Meta дізналися про інцидент після повідомлення від Irregular. Компанія розпочала внутрішнє розслідування та пообіцяла опублікувати детальний звіт після встановлення всіх обставин.
В Irregular наголосили, що модель не здійснювала складного зламу та самостійно не виходила із захищеного середовища. Причиною став саме неправильний доступ до мережі під час тестування. За даними компанії, невирішених проблем, пов’язаних з інцидентом, наразі немає.
Muse Spark створена для виконання агентних завдань із використанням зовнішніх інструментів. Оновлена версія моделі здатна планувати послідовність дій, працювати з програмами та сайтами, писати код і керувати комп’ютером із мінімальним втручанням людини. До інциденту Meta заявляла, що її перевірки не виявили у Muse Spark автономних можливостей або небезпечних схильностей, достатніх для реалізації серйозних кіберзагроз.
Водночас новий випадок демонструє, що ризик може виникнути не лише через поведінку самої моделі, а й через помилки в системах, у яких її випробовують. Схожі випадки останнім часом фіксували під час зовнішнього тестування моделей інших розробників. Це посилило дискусію про необхідність розкривати деталі кіберінцидентів за участю ШІ та зберігати журнали дій моделей, щоб установлювати, чи була причиною поведінка системи, помилка оператора або неправильне налаштування середовища.
За матеріалами: Bloomberg, Business Insider, Meta
