ИИ-агент OpenAI, который вышел из-под контроля и в течение нескольких дней взламывал системы компании Hugging Face, также проник в системы клиента другой технологической компании — нью-йоркской Modal Labs. Об этом сообщает информагентство Reuters, ссылаясь на представителя руководства Modal и два источника, знакомых с ситуацией.
ИИ-агент сначала зашел в так называемую песочницу — изолированную тестовую среду — размещённую на инфраструктуре стороннего провайдера, а затем использовал её как плацдарм для более масштабной атаки.
Технический директор Modal Акшат Бубна сообщил, что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещённом на платформе Modal.
Взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, но он свидетельствует о том, что действия ИИ-агента имеют более широкие последствия, чем было известно ранее.
На той неделе OpenAI сообщила, что во время тестирования в контролируемой среде одна из самых совершенных моделей ИИ одна из них вырвалась из замкнутого испытательного сегмента, вышла в глобальную сеть и провела хакерскую атаку на стартап Hugging Face.
Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что усилит механизмы защиты. Соучредитель Hugging Face Клеман Деланг подтвердил факт атаки.