ШІ-агент Open AI вийшов з під контролю і зламав системи двох компаній
Розробник ШІ назвав інцидент безпрецедентною НП у кіберпросторі, тому він зміцнить механізми захисту.
ШІ-агент OpenAI, який вийшов з-під контролю і протягом кількох днів зламував системи компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії – нью-йоркської Modal Labs. Про це повідомляє інформагенція Reuters, посилаючись на представника керівництва Modal і два джерела, знайомих з ситуацією.
ШІ-агент спершу зайшов у так звану пісочницю – ізольоване тестове середовище – розміщену на інфраструктурі стороннього провайдера, а потім використовував її як плацдарм для більш масштабної атаки.
Технічний директор Modal Акшат Бубна повідомив, що агент скористався вразливістю в коді, написаному клієнтом компанії та розміщеному на платформі Modal.
Злом клієнта Modal став лиш початковим етапом ширшої хакерської кампанії проти Hugging Face, але він свідчить про те, що дії ШІ-агента мають більш широкі наслідки, ніж було відомо раніше.
На тому тижні OpenAI повідомила, що під час тестування в контрольованому середовищі одна з найбільш досконалих моделей ШІ одна з них вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face.
Розробник ШІ назвав інцидент безпрецедентною НП у кіберпросторі та повідомив, що зміцнить механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки.
Нагадаємо, на початку червня повідомлялося, що OpenAI готує масштабне оновлення, після якого ChatGPT стане “супердодатком”. Розробники роблять ставку на ШІ-агентів, які зможуть не тільки відповідати, а й діяти від імені користувача.
OpenAI випустила нову версію ChatGPT для щоденного спілкування
Читайте Korrespondent.net в Google News
Джерело інформації: Korrespondent Net