Поскольку угроза искусственного интеллекта демократии является главной проблемой для политиков и избирателей по всему миру, OpenAI в понедельник изложила свой план, направленный на обеспечение прозрачности контента, создаваемого ИИ, и улучшение достоверной информации о голосовании в преддверии выборов 2024 года.
После запуска GPT-4 в марте, генеративный ИИ и его потенциальное неправильное использование, включая созданные ИИ фейки, стали центральной частью разговоров о стремительном росте ИИ в 2023 году. В 2024 году мы можем увидеть серьезные последствия такой дезинформации, основанной на ИИ, на фоне важных выборов, включая президентскую гонку в США.
“Готовясь к выборам в 2024 году в крупнейших демократических странах мира, наш подход заключается в продолжении работы по обеспечению безопасности нашей платформы путем предоставления точной информации о голосовании, проведения взвешенной политики и повышения прозрачности”, - говорится в сообщении в блоге OpenAI.
OpenAI добавила, что “объединяет опыт наших систем безопасности, информацию об угрозах, юридические, инженерные и политические команды для быстрого расследования и устранения потенциальных злоупотреблений”.
Снимок того, как мы готовимся к всемирным выборам 2024 года:
• Работа по предотвращению злоупотреблений, включая вводящие в заблуждение подделки
• Обеспечение прозрачности контента, созданного ИИ
• Улучшение доступа к достоверной информации о голосованииhttps://t.co/qsysYy5l0L
— OpenAI (@OpenAI) 15 января 2024 г.
В августе Федеральная избирательная комиссия США заявила, что продолжит рассмотрение петиции о запрете предвыборной рекламы, созданной ИИ, а комиссар FEC Аллен Дикерсон заявил: “На фоне этих усилий скрываются серьезные опасения по поводу Первой поправки”.
Что касается клиентов ChatGPT в США, OpenAI заявила, что будет направлять пользователей на беспартийный веб-сайт CanIVote.org при задании “определенных процедурных вопросов, связанных с выборами”. Компания заявляет, что внедрение этих изменений повлияет на ее подход во всем мире.
“Мы с нетерпением ожидаем продолжения работы с партнерами и обучения у них, чтобы предвидеть и предотвращать потенциальное злоупотребление нашими инструментами в преддверии глобальных выборов этого года”, - добавлено в нем.
В ChatGPT OpenAI заявила, что это мешает разработчикам создавать чат-ботов, которые притворяются реальными людьми или учреждениями, такими как правительственные чиновники и офисы. Также, по словам OpenAI, запрещены приложения, направленные на то, чтобы помешать людям голосовать, в том числе препятствовать голосованию или искажать информацию о том, кто имеет право голосовать.
Созданные ИИ фейки, поддельные изображения, видео и аудио, созданные с помощью генеративного ИИ, стали вирусными в прошлом году, причем на нескольких изображениях, размещенных в социальных сетях, были изображены президент США Джо Байден, бывший президент Дональд Трамп и даже папа Франциск.
Чтобы предотвратить использование своего генератора изображений Dall-E3 в фальшивых кампаниях, OpenAI заявила, что внедрит учетные данные Коалиции за происхождение контента и аутентичность контента, которые добавляют метку или “значок” к изображению, созданному ИИ.
“Мы также экспериментируем с классификатором происхождения, новым инструментом для обнаружения изображений, генерируемых Dall-E”, - сказали в OpenAI. “Наше внутреннее тестирование показало многообещающие ранние результаты, даже там, где изображения подвергались обычным типам модификаций”.
В прошлом месяце Папа Франциск призвал мировых лидеров принять обязательный международный договор по регулированию ИИ.
“Неотъемлемое достоинство каждого человека и братство, которое связывает нас вместе как членов одной человеческой семьи, должны лежать в основе развития новых технологий и служить неоспоримыми критериями для их оценки до их применения, чтобы цифровой прогресс мог происходить при должном уважении к справедливости и вносить вклад в дело мира”, - сказал Франциск.
Чтобы обуздать дезинформацию, OpenAI заявила, что ChatGPT начнет предоставлять новостные репортажи в режиме реального времени по всему миру, включая цитаты и ссылки.
“Прозрачность в отношении происхождения информации и сбалансированность источников новостей могут помочь избирателям лучше оценивать информацию и самим решать, чему они могут доверять”, - заявили в компании.
Прошлым летом OpenAI пожертвовала 5 миллионов долларов на <a>Американский журналистский проект</a>. На прошлой неделе OpenAI подписала соглашение с <i>Associated Press</i> о предоставлении разработчику ИИ доступа к архиву новостных статей глобального новостного издания.
Комментарии OpenAI по поводу указания авторства в новостных репортажах появились на фоне того, что компания столкнулась с несколькими исками об авторских правах, в том числе от New York Times. В декабре Times подала в суд на OpenAI и Microsoft, крупнейшего инвестора OpenAI, утверждая, что миллионы ее статей были использованы для обучения ChatGPT без разрешения.
“OpenAI и Microsoft построили бизнес стоимостью в десятки миллиардов долларов, взяв объединенные произведения человечества без разрешения”, - говорилось в иске. “При обучении своих моделей ответчики воспроизводили материалы, защищенные авторским правом, чтобы использовать именно то, что Закон об авторском праве был разработан для защиты: элементы защищаемого выражения в них, такие как стиль, выбор слов, расположение и подача фактов”.
OpenAI назвала судебный процесс New York Times “необоснованным”, утверждая, что публикация манипулировала своими запросами, чтобы заставить чат-бота генерировать ответы, подобные статьям в Times.
" 
