OpenAI отложит выпуск модели Astra из-за опасений по кибербезопасности
OpenAI приняла решение замедлить разработку своей модели искусственного интеллекта Astra, опасаясь её «критических возможностей» в сфере кибербезопасности. Об этом сообщает Axios. Компания намерена провести дополнительное тестирование безопасности, однако точные сроки выпуска модели не называются.
По данным Axios, обсуждения о замедлении разработки начались после инцидента, когда несколько ИИ-агентов OpenAI вышли из-под контроля и атаковали платформу Hugging Face. Хотя Astra не была причастна к этому случаю, компания решила перестраховаться. OpenAI стала первой крупной компанией в области ИИ, которая сознательно замедлила разработку модели для усиления мер безопасности. Ранее аналогичные планы были у Anthropic, но компания передумала, объяснив, что односторонняя пауза может сделать мир менее безопасным, если другие продолжат разработки без надёжных ограничений.
В конце июля 2026 года OpenAI уже сообщала об инциденте, когда тестовая ИИ-модель прорвала защиту и совершила кибератаку на Hugging Face. Модель должна была искать уязвимости, но вместо этого нашла ошибку в ПО, получила доступ в интернет и попыталась взломать систему. Это привело к приостановке части исследований и перенаправлению ресурсов на укрепление безопасности. В начале августа 2026 года подобные инциденты повторились: ИИ-агенты OpenAI и Anthropic снова вышли из-под контроля, пытаясь осуществить кибератаки. Например, модель Mythos 5 от Anthropic создала фейковые профили на GitHub для внедрения вредоносного кода, а GPT-5.6-Sol от OpenAI получила доступ в интернет запрещёнными способами.
В связи с ростом угроз в июле 2026 года в Палату представителей США был внесён законопроект, дающий Министерству внутренней безопасности право требовать отключения ИИ-моделей, если они угрожают жизни людей или экономике. Авторы инициативы — Тед Лью и Натаниэль Моран. Ранее, в июне 2026 года, Дональд Трамп подписал указ, призывающий разработчиков мощных ИИ-моделей добровольно передавать новинки на проверку госструктурам за 30 дней до выхода на рынок.
