Китай наращивает использование искусственного интеллекта

"Субъекты, связанные с КПК, начали задавать спорные вопросы по спорным внутренним проблемам США, чтобы лучше понять ключевые проблемы, которые разделяют американских избирателей”, - предупреждает Microsoft.... В отчете говорится, что Китай также использует социальные сети, чтобы представить США в “неблагоприятном свете”.

В отчет включены несколько скриншотов аккаунтов в социальных сетях, в которых запрашиваются мнения по спорным темам, включая изображения, созданные искусственным интеллектом или обработанные им, и используются тактики для привлечения внимания на различных платформах.

Source: Microsoft

"В последние месяцы наблюдается рост использования китайского контента, созданного искусственным интеллектом, в попытке повлиять на США и другие страны и посеять разногласия по целому ряду тем", - говорится в отчете. Эта тактика включает в себя письменный контент, а также подделку изображений и видео.

Китай также вмешивается в местную политику. Microsoft ссылается на сообщения о крушении поезда в Кентукки, лесных пожарах на Мауи и проблемах иммиграции вдоль южной границы США. Аккаунты, которые побуждают людей высказывать свое мнение о важных новостных событиях, являются “китайскими подставными лицами”, поясняется в отчете.

Признавая, что "существует мало свидетельств того, что эти усилия были успешными в изменении общественного мнения", Microsoft предупреждает, что Китай, вероятно, со временем совершенствует свои пропагандистские операции на базе искусственного интеллекта.

"Растущее экспериментирование Китая в дополнении мемов, видео и аудио, вероятно, продолжится - и в дальнейшем может оказаться более эффективным”, — говорится в заключении отчета.

Помимо Китая, Microsoft также привлекла внимание к онлайн-действиям Северной Кореи.

"Северная Корея продолжала уделять приоритетное внимание краже криптовалютных средств, проводя атаки по цепочке поставок программного обеспечения и нацеливаясь на своих предполагаемых противников в области национальной безопасности", - говорится в отчете.

Искусственный интеллект как геополитическое оружие

Растущая роль больших данных и искусственного интеллекта на выборах вызвала опасения по поводу конфиденциальности избирателей, честности на выборах и возможности неправомерного влияния с помощью целевых и персонализированных сообщений, поскольку сами политические кампании все чаще используют аналитику данных для микроцелевого привлечения избирателей с помощью индивидуальной рекламы и информационно—пропагандистской работы на основе подробных профилей избирателей.

Например, кампания Обамы 2012 года получила высокую оценку за сложные операции с данными, выявляющие и мобилизующие сторонников. Аналогичным образом, в кампании Трампа 2016 года использовались данные о 1,6 миллионах добровольцев для организации массовых мероприятий.

Также были споры вокруг неправильного использования данных избирателей для политических исследований с использованием искусственного интеллекта, такие как нарушение в 2015 году, которое позволило кампании сенатора Дж. Берни Сандерс получил доступ к данным кампании Хиллари Клинтон, а компания Cambridge Analytica неавторизованно собирает данные пользователей для целевой политической рекламы.

Регулирующие органы сейчас спешат установить правила и надзор за использованием искусственного интеллекта на выборах. Несколько штатов США внесли законопроекты, регулирующие подделки и вводящий в заблуждение контент с использованием искусственного интеллекта, включая требования о раскрытии информации и маркировке, а также усилия президента Байдена решить эту проблему. Европейский союз также реализует свой Закон об искусственном интеллекте, который он описывает как первый в мире всеобъемлющий закон об искусственном интеллекте, который будет включать положения, касающиеся использования искусственного интеллекта на выборах.

Однако наиболее заметным и поляризующим шагом, вероятно, является “Закон о защите американцев от приложений, контролируемых иностранными злоумышленниками”, который направлен на запрет TikTok в США

“Причина, по которой TikTok так успешен, причина, по которой он так привлекателен, заключается в том, что он знает вас лучше, чем вы знаете себя сами, и чем больше вы им пользуетесь, тем больше он узнает”, - сказал сенатор Марко Рубио во время ежегодных слушаний по оценке угроз во всем мире. “Так получилось, что они контролируют компанию, которая владеет одним из лучших в мире алгоритмов искусственного интеллекта. Это тот, который используется в этой стране TikTok, и он использует данные американцев, чтобы, по сути, читать ваши мысли и предсказывать, какие видео вы хотите посмотреть ”.

Однако некоторые утверждают, что наиболее насущные угрозы исходят от распространения ложного и вредоносного контента на платформах социальных сетей, а не от создания контента с использованием искусственного интеллекта. Технологические компании подписали соглашение о принятии мер против неправомерного использования искусственного интеллекта, но когда дело доходит до распространения дезинформации и определения лиц, ответственных за ее публикацию, регулирование социальных сетей кажется менее четким — даже по сравнению с пространством искусственного интеллекта.