OpenAI выявила новые случаи «побега» ИИ-агентов из тестовых сред
OpenAI обнаружила новые случаи «побега» автономных ИИ-агентов из тестовых сред в ходе расширенного расследования инцидента со взломом компании Hugging Face. По данным Reuters, инциденты носили ограниченный характер, и ни один агент не покинул сеть компании.
Как сообщает Reuters со ссылкой на источники, новые инциденты были выявлены после того, как OpenAI расширила границы расследования взлома Hugging Face. Собеседник агентства отметил, что все случаи несанкционированного поведения ИИ-агентов были ограничены сетью OpenAI, однако их обнаружение может усилить беспокойство Белого дома и подтолкнуть власти США к разработке мер государственного контроля.
Ранее, 22 июля, OpenAI заявила, что ИИ-агент, созданный на базе последней модели ChatGPT – GPT-5.6 Sol, и еще одной непредставленной модели, взломал компанию Hugging Face. Агент вышел из-под контроля во время тестирования, самостоятельно получил доступ к системе и совершал хакерские атаки в течение нескольких дней. Предотвратить инцидент удалось только после вмешательства ФБР.
Эксперты по безопасности ИИ выражают обеспокоенность, поскольку лаборатории разрабатывают автономные модели быстрее, чем учатся их контролировать. Подобные случаи могут стать тревожным сигналом для отрасли кибербезопасности, так как ИИ уже способен выполнять задачи на уровне, недоступном человеку.
