США, Британия и другие страны подписали руководящие принципы для «безопасного по дизайну» ИИ

Соединенные Штаты, Британия, Австралия и 15 других стран выпустили глобальные рекомендации, помогающие защитить модели искусственного интеллекта (ИИ) от несанкционированного доступа, призывая компании делать свои модели «безопасными по своей конструкции».

26 ноября 18 стран опубликовали 20-страничный документ, в котором описывается, как компаниям, занимающимся искусственным интеллектом, следует обеспечивать свою кибербезопасность при разработке или использовании моделей искусственного интеллекта, поскольку они заявили, что «безопасность часто может быть второстепенным фактором» в быстро развивающейся отрасли.

Руководящие принципы состояли в основном из общих рекомендаций, таких как поддержание жесткого контроля над инфраструктурой модели ИИ, мониторинг любого вмешательства в модели до и после выпуска и обучение персонала рискам кибербезопасности.

«Волнующие новости! Мы объединили усилия с NCSC и 21 международным партнером для разработки «Руководства по разработке безопасных систем искусственного интеллекта»! Это оперативное сотрудничество в действии для обеспечения безопасности ИИ в эпоху цифровых технологий», — сообщает Агентство кибербезопасности и безопасности инфраструктуры (@CISAgov), 27 ноября 2023 г.

Не были упомянуты некоторые спорные вопросы в сфере искусственного интеллекта, в том числе возможные меры контроля, которые должны существовать в отношении использования моделей генерации изображений и дипфейков или методов сбора данных и их использования в обучающих моделях — проблема, из-за которой несколько компаний, занимающихся искусственным интеллектом, подали в суд претензии за нарушение авторских прав.

«Мы находимся на переломном этапе в развитии искусственного интеллекта, который вполне может стать наиболее значимой технологией нашего времени, — заявил министр внутренней безопасности США Алехандро Майоркас. — Кибербезопасность является ключом к созданию безопасных, надежных и надежных систем искусственного интеллекта».

Эти руководящие принципы следуют другим правительственным инициативам, которые влияют на ИИ, включая встречу правительств и компаний, занимающихся ИИ, на саммите по безопасности ИИ в Лондоне в начале ноября для координации соглашения о разработке ИИ.

Тем временем Европейский Союз обсуждает детали своего Закона об искусственном интеллекте, который будет контролировать эту сферу, а президент США Джо Байден в октябре издал указ, устанавливающий стандарты безопасности и защиты искусственного интеллекта, хотя оба столкнулись с сопротивлением со стороны индустрии искусственного интеллекта, утверждающей, что они могут подавить инновации.

Другими соавторами новых руководящих принципов «безопасности по дизайну» являются Канада, Франция, Германия, Израиль, Италия, Япония, Новая Зеландия, Нигерия, Норвегия, Южная Корея и Сингапур. Компании, занимающиеся искусственным интеллектом, в том числе OpenAI, Microsoft, Google, Anthropic и Scale AI, также внесли свой вклад в разработку рекомендаций.