" Политические дебаты по искусственному интеллекту включают в себя множество спорных вопросов, в том числе тот, что существовал на протяжении всей истории вычислительной техники: борьба между системами с открытым и закрытым исходным кодом. В настоящее время вновь открылась эта линия разлома, и законодатели в Калифорнии и Европе пытаются ограничить «модели ИИ с открытым исходным кодом».
Модели с открытым исходным кодом, как и программное обеспечение с открытым исходным кодом до них, являются общедоступными системами, которые позволяют различным сторонам проверять и модифицировать их базовый код для различных целей. Некоторые критики утверждают, что алгоритмические модели или системы с открытым исходным кодом «исключительно опасны» и должны быть ограничены. Однако произвольные нормативные ограничения на системы искусственного интеллекта с открытым исходным кодом будут иметь серьезные недостатки, ограничивая инновации, конкуренцию и прозрачность.
Недавно этот вопрос приобрел новую актуальность после важных заявлений правительства и промышленности. Во-первых, 30 июля Министерство торговли США опубликовало важный отчет о таких моделях, который был необходим в соответствии с указом об искусственном интеллекте, подписанным в октябре президентом Джо Байденом.
В итоговом отчете в основном приветствуются открытые системы искусственного интеллекта и «намечается осторожный, но оптимистичный путь» для них. В отчете делается вывод, что «нет достаточных данных о предельных рисках базовых моделей двойного назначения с широко доступными весами моделей, чтобы сделать вывод о том, что в настоящее время ограничения на веса моделей являются уместными или что ограничения никогда не будут уместны в будущем».
Этот отчет следует за заявлением Федеральной торговой комиссии о моделях с открытыми весами, в котором говорится, что они «обладают потенциалом для стимулирования инноваций, снижения затрат, расширения потребительского выбора и в целом приносят пользу обществу».
Эти позитивные заявления администрации Байдена также были поддержаны Джей Ди Вэнсом, кандидатом от республиканцев на пост вице-президента, который высказался в поддержку ИИ с открытым исходным кодом как средства противодействия большим технологиям. Это говорит о том, что ИИ с открытым исходным кодом поддерживается обеими партиями.
Рисунок 1. В отчете Министерства торговли была предложена таблица, которую регулирующие органы могли бы использовать при определении.
Другим важным событием стал недавний выпуск компанией Meta* последней и самой мощной в настоящее время версии модели frontier AI «Llama 3.1». Марк Цукерберг, основатель и генеральный директор Meta*, анонсировал выпуск, опубликовав эссе о том, что «Искусственный интеллект с открытым исходным кодом - это путь вперед». Хотя Llama не является полностью открытой системой с исходным кодом - Meta* по-прежнему контролирует исходный код, который лежит в ее основе, - эта модель позволяет разрабатывать дополнительные приложения поверх нее. Это способствует большему внедрению инноваций и конкуренции в области искусственного интеллекта.
Но даже если разработчики искусственного интеллекта с открытым исходным кодом, похоже, получат зеленый свет от федеральных чиновников, другие государственные и международные регулирующие органы могут ограничить их потенциал.
В настоящее время неясно, будут ли крупномасштабные модели искусственного интеллекта с открытым исходным кодом вообще легализованы в рамках европейского нисходящего и крайне ограничительного подхода к регулированию технологий. Компания Meta* уже объявила, что не будет выпускать свою следующую модель искусственного интеллекта в Европейском союзе «из-за непредсказуемого характера европейской нормативной среды». В конце июня это последовало за аналогичным заявлением Apple о том, что она не будет внедрять самые современные функции искусственного интеллекта в Европе «из-за неопределенности регулирования», связанной с техническими регламентами ЕС.
Вот почему Америка должна избегать того тупика в сфере регулирования, который ЕС создал для новаторов в области искусственного интеллекта. Чрезмерное регулирование в Европе уже привело к сокращению инвестиций в цифровые технологии и созданию бизнеса, в результате чего на континенте практически не осталось крупных технологических игроков, которые конкурируют на глобальном уровне.
К сожалению, такие ограничивающие инновации полномочия могут быть приняты на государственном уровне в Соединенных Штатах. Законодатели-демократы в Калифорнии предложили законопроект SB-1047, который предусматривает создание «Подразделения пограничной модели» для обеспечения соблюдения ряда новых правил и штрафов в области искусственного интеллекта.
Закон требовал бы, чтобы передовые разработчики предоставляли «разумные гарантии» того, что «производные модели не представляют необоснованного риска причинения или возможности нанесения критического ущерба». Ведущие эксперты в области технологий предупреждают, что законопроект «серьезно ограничит модели ИИ с открытым исходным кодом» и «задушит ИИ с открытым исходным кодом и снизит безопасность».
Рисунок 2. Законопроект SB-1047, предложенный сенаторами штата Винером, Ротом, Рубио и Стерном.
Это может показаться нелогичным, поскольку сторонники калифорнийского закона называют его мерой обеспечения безопасности ИИ. Однако, если законопроект заблокирует современные исследования в области ИИ и подорвет инновации, это также ограничит возможности важных систем и приложений, повышающих безопасность.
Что еще хуже, такой исход подорвет безопасность еще и потому, что станет подарком Китаю, который настойчиво стремится к достижению своей заявленной цели - обогнать Америку и стать мировым лидером в области искусственного интеллекта к 2030 году.
Китай быстро сокращает отставание от США в области инноваций и искусственного интеллекта. Нет необходимости говорить, что китайское правительство не будет беспокоиться о выполнении требований калифорнийских бюрократов. Они будут просто двигаться вперед. Как правильно заметил Цукерберг из Meta* в июльском посте на Facebook*, «ограничение американских инноваций закрытой разработкой увеличивает вероятность того, что мы вообще не будем лидировать», поэтому «наша лучшая стратегия - создать надежную открытую экосистему».
Сэм Альтман из OpenAI высказал аналогичную мысль в июльской редакционной статье, в которой он выступил за сотрудничество с другими демократическими странами в борьбе с авторитарными режимами.
«Обеспечение доступности моделей с открытым исходным кодом для разработчиков в этих странах еще больше укрепит наше преимущество, - написал Альтман. - Задача того, кто возглавит разработку искусственного интеллекта, заключается не только в экспорте технологий, но также в экспорте ценностей, которые поддерживает данная технология».
Действительно, мощная и разнообразная база технологий искусственного интеллекта не только укрепляет экономику и обеспечивает более качественные приложения и рабочие места, но и укрепляет национальную безопасность и позволяет ценностям плюрализма, личной свободы, индивидуальных прав и свободы слова формировать глобальные рынки информационных технологий. В достижении этой цели искусственный интеллект с открытым исходным кодом будет играть решающую роль - до тех пор, пока это позволят директивные органы.
Об авторе
Адам Тьерер - старший научный сотрудник программы технологий и инноваций в R Street Institute. Ранее он работал старшим научным сотрудником в Фонде наследия и директором по исследованиям в области телекоммуникаций в Институте Катона. Он получил степень магистра в области управления международным бизнесом в Мэрилендском университете и степень бакалавра в Индианском университете в Блумингтоне.
Эта статья предназначена для общего ознакомления и не должна восприниматься как юридическая консультация или инвестиционный совет. Взгляды, мысли и суждения, выраженные в этой статье, принадлежат только автору.
*Американская корпорация Meta Platforms и принадлежащие ей социальные сети Facebook и Instagram признаны экстремистскими и запрещены в РФ.
