" В апреле 2021 года Европейская комиссия представила свое предложение о согласованных правилах в отношении искусственного интеллекта (ИИ), получившее название Закон об искусственном интеллекте (Закон об ИИ). После того как в декабре 2022 и в июне 2023 года Совет Европейского Союза и Европейский парламент окончательно определили свои позиции, законодательные органы начали трехстороннее обсуждение предстоящего регулирования ИИ.
Переговоры могут быть сложными из-за значительных разногласий между Парламентом и Советом по таким конкретным вопросам, как биометрическое наблюдение. В Германии политические группы и эксперты в области цифровых технологий также обеспокоены предлагаемыми изменениями в Закон об ИИ.
Die Linke призывает к более строгому регулированию и прозрачности
Немецкая левая партия Die Linke указала на значительные пробелы в европейском регулировании ИИ, особенно в отношении защиты прав потребителей и обязательств для поставщиков и пользователей ИИ.
Die Linke хочет потребовать, чтобы системы с высоким уровнем риска, в том числе системы ИИ, представляющие высокий риск для здоровья, безопасности и основных прав физических лиц, проверялись на соответствие нормативным требованиям надзорным органом до того, как будут выпущены на рынок. Die Linke предложила правительству Германии назначить по крайней мере один национальный надзорный орган и предоставить достаточные финансовые ресурсы для выполнения этой задачи.
«Политика должна гарантировать, что технология, которая важна для всех, но контролируется лишь немногими, находится под надзором регулирующего органа и доказывает свою надежность до ее внедрения, - сказала Петра Ситте, политик из Die Linke. - Поэтому не дайте себя шантажировать лоббистам крупных технологических корпораций. Мы также можем усилить подход с открытым исходным кодом в Европе [...], что означает, что программный код доступен для всех».
Die Linke также выступает за четкий запрет на системы биометрической идентификации и классификации в общественных местах, вмешательство в выборы с помощью ИИ и интеллектуальные полицейские системы.
По мнению партии, исключение для научных систем, указанное в Законе об ИИ, не должно применяться, если система используется вне исследовательских учреждений. Die Linke уже призывает правительство Германии разработать учебные программы по возможностям и ограничениям систем ИИ, а также ежегодно оценивать системы ИИ, используемые в государственных операциях, «используя стандартизированную модель классификации рисков», а также регистрировать их в реестре ИИ.
Союз отдает приоритет инновациям и открытости
И наоборот, правоцентристская коалиция Христианско-демократического союза Германии и Христианско-социального союза в Баварии, также известная как Союз, подчеркнула, что ИИ не следует чрезмерно регулировать. Союз выступает за то, чтобы федеральное правительство уделяло приоритетное внимание ИИ и созданию благоприятной среды для инноваций в Европе.
Что касается трехсторонних переговоров, Союз отметил свою позицию, заявив, что генеративный ИИ позволит немецким и европейским компаниям преуспеть на международном уровне. Партия хочет избежать создания крупного надзорного органа в Брюсселе, а также различий в реализации закона об ИИ в странах-членах ЕС. Выступая за более четкие определения, партия также предлагает обеспечить правовую определенность путем согласования с Общим регламентом защиты данных, Законом о данных и Законом о цифровых рынках.
Союз также вносит конкретные предложения по обеспечению технологического суверенитета Германии в области ИИ. Признавая сложности создания совершенно новой инфраструктуры в реалистичные сроки, партия рекомендует расширить существующую инфраструктуру Центра суперкомпьютеров Гаусса. Она также предлагает предоставить немецким и европейским стартапам, малым и средним предприятиям (МСП) и разработчикам с открытым исходным кодом выделенный доступ к этой инфраструктуре.
Чтобы стимулировать рост немецких стартапов в области искусственного интеллекта, Союз предложил таким малым предприятиям заключать государственные контракты.
Кроме того, Союз подчеркнул дефицит инвестиций в университетские дочерние компании и ИИ с открытым исходным кодом, а также выступил за адресную поддержку через национальные инициативы, такие как Sovereign Tech Fund. Учитывая широкое использование ИИ в различных учебных заведениях, организациях и компаниях, Союз подчеркнул острую необходимость создания локальных систем для предотвращения случайной утечки информации.
Немецкой ассоциации искусственного интеллекта требуются практические решения
Немецкая ассоциация ИИ (KI Bundesverband), крупнейшая отраслевая ассоциация Германии по ИИ, представляющая более 400 инновационных малых и средних предприятий, стартапов и предпринимателей, также выступает за открытость к инновациям.
«Европа должна иметь возможность предлагать свои собственные системы искусственного интеллекта, которые могут конкурировать с американскими или китайскими аналогами», - сказал Йорг Бинерт, президент KI Bundesverband.
В то время как KI Bundesverband принимает идею о том, что нормативно-правовая база в сочетании с инвестициями в ИИ может способствовать развитию инноваций, ассоциация не согласна с подходом ЕС к этой цели. Бинерт считает, что любая стратегия должна включать три ключевых компонента: снижение потенциальных рисков, содействие развитию страны и защиту основных прав и европейских ценностей.
По словам Бинерта, законодателям ЕС не удалось создать нормативную базу, ориентированную на реальные угрозы и риски приложений ИИ. Он также заявил, что Закон об ИИ рискует превратиться скорее в регулирование передового программного обеспечения, а не в подход, основанный на оценке рисков. Введение такого обширного регулирования после доминирования американских и китайских технологических компаний снизит шансы европейских компаний, занимающихся искусственным интеллектом, укрепить свои позиции и создаст зависимость от иностранных технологий:
«Сейчас нужны разумные и практичные решения для снижения реальных рисков и угроз, создаваемых ИИ, а не идеологически мотивированные политические быстрые решения».
Нужен баланс
Правительство Германии поддерживает Закон об искусственном интеллекте, но также видит потенциал для его улучшения. Анника Эйнхорн, представитель Федерального министерства экономики и борьбы с изменением климата, заявила:
«Мы придаем большое значение достижению баланса между регулированием и открытостью для инноваций, особенно в области искусственного интеллекта в Германии и Европе».
Федеральное правительство также будет выступать за это в ходе трехсторонних переговоров по Закону об искусственном интеллекте.
В дополнение к переговорам федеральное правительство уже осуществляет многочисленные меры по продвижению немецких компаний в области искусственного интеллекта, включая создание высокопроизводительных и известных на международном уровне исследовательских структур и, в частности, предоставление современной инфраструктуры искусственного интеллекта и вычислительной инфраструктуры на международном соревновательном уровне. Кроме того, во время переговоров по Закону об ИИ федеральное правительство продолжает выступать за «амбициозный подход» к испытательным стендам. По словам Эйнхорна, это позволяет внедрять инновации, а также соответствует требованиям Закона об искусственном интеллекте.
Европа осталась позади?
Все эти идеи и предложения могут показаться многообещающими, но факт в том, что большинство крупных моделей ИИ разрабатываются в Китае и США. В свете этой тенденции цифровые эксперты обеспокоены тем, что может отстать цифровая экономика Германии и Европы. Европа обладает значительным опытом в области ИИ, но низкая доступность вычислительных мощностей препятствует дальнейшему развитию.
Табличка
Чтобы изучить, как Германия может догнать ИИ, Министерство экономики и борьбы с изменением климата заказало технико-экономическое обоснование под названием «Крупные модели ИИ для Германии».
В исследовании эксперты утверждают, что, если Германия не сможет самостоятельно разработать и предоставить эту основополагающую технологию, немецкой промышленности придется полагаться на иностранные услуги, что создает проблемы в отношении защиты данных, безопасности данных и этического использования моделей ИИ.
Доминирование американских компаний на рынке поисковых систем, социальных сетей и облачных серверов иллюстрирует трудности, которые могут возникнуть в отношении безопасности и регулирования данных. Для решения этих проблем в исследовании предлагается создать суперкомпьютерную инфраструктуру ИИ в Германии, позволяющую разрабатывать крупные модели ИИ и предоставлять небольшим компаниям вычислительные ресурсы. Однако еще предстоит определить конкретные детали, касающиеся финансирования и реализации.
«ИИ made in Europe»
В области ИИ неуклонно растет зависимость Европы от программного обеспечения и услуг из неевропейских стран. По словам Хольгера Хооса, профессора Александра фон Гумбольдта в области искусственного интеллекта, это представляет угрозу для суверенитета, так как само по себе регулирование не может адекватно решить проблему. Хоос подчеркнул необходимость существенного изменения стратегий в области искусственного интеллекта в Германии и Европе, сопровождаемого значительными целевыми государственными инвестициями в европейским ландшафтом искусственного интеллекта.
Ключевым аспектом этого предложения является создание всемирно признанного «ЦЕРН для ИИ». В области искусственного интеллекта этот центр будет обладать необходимой вычислительной мощностью, ресурсами данных и квалифицированным персоналом для проведения передовых исследований. Такой центр мог бы привлекать таланты, стимулировать деятельность и продвигать проекты в области ИИ в глобальном масштабе, внося заметный вклад в успех «ИИ, сделанного в Европе». Хоос добавил:
«Мы находимся на критическом этапе. Это требует четкого изменения курса, смелых усилий, чтобы ИИ, созданный в Европе, стал успехом, который окажет глубокое влияние на нашу экономику, общество и будущее».
