Советник правительства США предупредил о риске потери контроля над ИИ в OpenAI

Советник правительства США по вопросам высоких технологий Пол Кристиано заявил, что OpenAI не удалось снизить риск «катастрофической» потери контроля над искусственным интеллектом. С таким предупреждением он выступил на заседании правления некоммерческого фонда OpenAI, членом которого он стал. Об этом сообщают ведущие мировые медиа, включая The Guardian.

«Существует серьезный риск того, что стремительное развитие возможностей ИИ приведет к катастрофической и необратимой потере контроля в самом ближайшем будущем», — заявил Кристиано, ранее руководивший направлением выравнивания моделей в OpenAI. По его словам, ИИ-индустрия в целом, включая OpenAI, в настоящее время не движется в правильном направлении по снижению этого риска до приемлемого уровня. При этом он отметил, что задача выполнима и зависит от готовности компании «принять этот вызов».

Пол Кристиано присоединился к растущему числу экспертов в области ИИ, предупреждающих о катастрофических последствиях неконтролируемого развития так называемого искусственного суперинтеллекта. Как уже сообщал «Ъ», накануне с предупреждениями выступил Джейкоб Коксон, работавший ведущим специалистом в таких крупных компаниях, как Anthropic и OpenAI. Он отметил, что люди, «создающие ИИ, считают, что он может убить нас всех к концу десятилетия».

Ранее о том же говорил нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом ИИ». В июле более тысячи сотрудников ИИ-компаний подписали открытое письмо с призывом законодательно замедлить развитие нейросетей.