И ИИ, похоже, удается обманывать людей даже лучше, чем людям.
В новом отчете, опубликованном в Science Advances в среду, содержится тревожное утверждение, что более старый чат-бот AI от OpenAI, GPT-3, способен распространять дезинформацию лучше, чем люди.
Основанная в декабре 2015 года, OpenAI запустила GPT-3 в июне 2020 года; в сентябре того же года Microsoft, которая инвестировала 1 миллиард долларов в OpenAI в 2019 году, объявила об эксклюзивной лицензии на использование GPT-3.
С 2023 года версией ChatGPT от OpenAI по умолчанию является GPT-3.5, а более продвинутая GPT-4 зарезервирована для подписчиков ChatGPT Plus.
Исследование, краткое изложение которого приведено в отчете под названием "Модель ИИ GPT-3 (dis) информирует нас лучше, чем люди", опросило 697 участников, чтобы выяснить, смогут ли они отличить дезинформацию от правды, созданную в виде твитов с использованием OpenAI GPT-3, и смогут ли участники определить, был ли твит написан человеком или ИИ.
"Мы попросили GPT-3 написать твиты, содержащие информативные или дезинформирующие тексты на различные темы", - говорится в отчете, добавляя, что темы твитов включали вакцины, технологию 5G, COVID-19 и теорию эволюции.
Исследователи опроса заявили, что эти темы были выбраны потому, что они обычно подвержены дезинформации и неправильному восприятию общественностью. Twitter был выбран среди других социальных сетей из-за наличия почти 400 миллионов постоянных пользователей, которые в основном потребляют новости и политический контент.
"Простой в использовании API [Twitter] позволяет создавать ботов, которые, несмотря на то, что составляют всего 5% пользователей, производят 20-29% контента", - говорится в отчете, добавляя, что, хотя основное внимание было уделено Twitter, результаты могут распространиться на другие платформы.
Исследователи оценили способность распознавать чат-бота по шкале от 0 до 1, измеряя способность респондентов распознавать, были ли твиты реальными или поддельными. Согласно отчету, средний балл составил 0,5, что говорит о том, что участники не могли отличить твиты, созданные ИИ, от твитов человека.
В отчете также было обнаружено, что точность информации в твите не влияла на то, могли ли участники определить, был ли твит от ИИ или от человека.
"Исходя из наших выводов, мы прогнозируем, что продвинутые генераторы текста ИИ, такие как GPT-3, могут потенциально сильно повлиять на распространение информации, как положительно, так и отрицательно", - говорится в отчете. "Как показали наши результаты, доступные в настоящее время большие языковые модели уже могут создавать текст, неотличимый от обычного текста; поэтому следует отслеживать появление более мощных больших языковых моделей и их влияние".
Стремительное развитие генеративного ИИ с момента публичного запуска ChatGPT в ноябре — и последней версии GPT-4 в марте — заставило многих представителей технологической индустрии забить тревогу и призвать к паузе в разработке ИИ.
Далее в докладе говорится, что если искусственный интеллект способствует дезинформации и усугубляет проблемы общественного здравоохранения, то регулирование обучения ИИ будет иметь решающее значение для ограничения злоупотреблений и обеспечения прозрачности.
Ранее в этом месяце распространение ложной информации, генерируемой искусственным интеллектом, и глубоких подделок побудило Генерального секретаря ООН Антониу Гутерриша выступить за создание международного агентства, подобного Международному агентству по атомной энергии (МАГАТЭ), для мониторинга развития искусственного интеллекта.
"Распространение ненависти и лжи в цифровом пространстве сейчас наносит серьезный глобальный ущерб”, - сказал Гутерриш во время пресс-конференции.“Сейчас это подпитывает конфликты, смерть и разрушения. Сейчас это угрожает демократии и правам человека. Сейчас это подрывает общественное здравоохранение и меры по борьбе с изменением климата ".
" 
