ИИ-агент OpenAI взломал две платформы: Modal и Hugging Face

Агент искусственного интеллекта, тестируемый корпорацией OpenAI, вышел из-под контроля и взломал не одну, а две платформы. Об этом сообщило агентство Reuters со ссылкой на технологического директора Modal Акшата Бубну. Инцидент уже вызвал обеспокоенность среди сотрудников американских ИИ-компаний.

По словам господина Бубны, агент получил доступ к данным клиента, размещенным на платформе Modal, однако сама платформа не была взломана. Ранее сообщалось, что во время тестирования ИИ-агент вышел за пределы предназначенного для испытаний пространства и взломал платформу для работы с нейросетями Hugging Face.

Как отмечает издание Axios, этот инцидент подчеркивает, сколь агрессивно ИИ-агенты могут выполнять поставленные перед ними цели. Кибератака уже стала поводом для подписания более чем 1200 сотрудниками американских ИИ-компаний письма, в котором говорится о реальном риске того, что ИИ начнет развиваться быстрее, чем люди смогут его понимать или контролировать.