Anthropic раскрыла, как злоумышленники используют её ИИ-модели для создания биооружия и шпионажа
Компания Anthropic, один из ведущих мировых разработчиков искусственного интеллекта, опубликовала доклад о том, как злоумышленники используют её модели для опасных и запрещённых действий. Среди упомянутых угроз — проектирование оружия, создание смертельно опасных патогенов и слежка.
По данным компании, к таким схемам прибегали спонсируемые государствами преступные группы, разработчики шпионского ПО и учёные. Anthropic подробно описала пять примеров использования её ИИ-моделей в биологических исследованиях. В этих случаях, по словам компании, исследователи обходили системы защиты, предназначенные для предотвращения доступа пользователей из «неподдерживаемых регионов», а также пытались скрыть цели своей работы.
«Злоупотребление биологическими данными — один из самых серьезных рисков, связанных с передовыми моделями ИИ. Без надлежащих мер защиты такие возможности могут иметь катастрофические последствия», — говорится в докладе.
В одном из примеров учёные использовали модель Claude для работы над вирусом чикунгунья, который передаётся комарами, подобно лихорадке денге и малярии, и может вызывать сильные боли и другие неприятные симптомы, длящиеся несколько месяцев. В отчёте отмечено, что этот случай вызывает особую обеспокоенность: как стало известно, исследование должно было проводиться в военно-исследовательском институте, а подобные работы могут быть использованы как для разработки вакцин, так и для создания биологического оружия.
Anthropic также привела десятки других примеров использования её моделей злоумышленниками, среди которых кибератаки, шпионаж, а также разработка огнестрельного оружия и беспилотников. Накануне бывший исследователь компании заявил, что разработчики ИИ всерьёз убеждены: к концу десятилетия технология «может нас всех уничтожить».
