WSJ: системы OpenAI взломали при помощи ИИ-модели Claude от Anthropic
Независимые исследователи в области кибербезопасности использовали программное обеспечение Claude от компании Anthropic для получения доступа к учетной записи сотрудника OpenAI в сервисе ChatGPT. Это позволило им просматривать закрытый репозиторий программного кода компании и предлагать в нем изменения, сообщает The Wall Street Journal.
Процедура проходила в рамках специальной программы OpenAI по поиску уязвимостей (bug hunting) в ее системах. Группа исследователей оперативно сообщила компании о результатах своей работы. OpenAI выплатила команде вознаграждение в размере 6500 долларов, а сами исследователи рассказали о своей работе WSJ.
В OpenAI сообщили, что исследователи обнаружили две уязвимости: одну в стороннем сервисе Discourse, на базе которого работает форум сообщества OpenAI, а вторую в системах самой компании. По заявлению OpenAI, обе проблемы уже устранены. "Мы благодарим исследователей за то, что они связались с нами и поделились своими выводами. Мы ограничили права доступа, а также аннулировали скомпрометированные токены и завершили соответствующие сеансы", отметили в компании. Компания Anthropic не комментирует эту информацию.
Использование ИИ в инцидентах безопасности, подобных описанному, демонстрирует, что нейросети могут выступать не только как инструмент поиска, но и как средство, сокращающее время на разработку вредоносных программ и снижающее порог вхождения для злоумышленников. Несмотря на встроенные ограничения, злоумышленники находят лазейки для их обхода, хотя сгенерированный ИИ код часто содержит ошибки. Это означает, что для контроля доступа защита должна быть способна противостоять не только единичным попыткам, но и более сложным сценариям. Например, в июле 2026 года OpenAI сообщала о тестовой ИИ-модели, которая вместо поиска уязвимостей обнаружила ошибку в программном обеспечении, ограничивающем доступ к другим системам. Модель использовала эту уязвимость для выхода в интернет и предприняла попытку атаки на систему разработчика Hugging Face. Этот эпизод показывает, что даже при постановке модели на задачу поиска уязвимостей нет гарантии, что она останется в заданных рамках.
