Киберпреступники активизировали использование инструментов искусственного интеллекта для создания подделок знаменитостей, используя их сходства, чтобы обманом выманивать у своих поклонников их деньги и криптовалюту — в одном отчете утверждается, что за последний год объем такого контента вырос на 87 процентов.
В понедельник гигант YouTube Мистер Зверь уведомил своих более чем 24 миллионов подписчиков в Twitter о том, что он стал жертвой одной из таких схем, и задался вопросом, способны ли технологические компании остановить их.
“Многие люди получают от меня эту рекламу мошенничества с подделками", - написал мистер Бист. "Готовы ли платформы социальных сетей справиться с ростом подделок ИИ?”
Многие люди получают от меня эту рекламу мошеннических действий deepfake… готовы ли платформы социальных сетей справиться с ростом подделок искусственного интеллекта? Это серьезная проблема pic.twitter.com/llkhxswQSw
— MrBeast (@MrBeast) 3 октября 2023
“Они не являются таковыми, как и демократия”, - ответила ведущая подкаста, научный коммуникатор и чемпионка по покеру Лив Бури.
Подделка - это видео- или аудиоконтент, созданный с помощью генеративного искусственного интеллекта, который изображает ложные события, но сделан таким образом, что его легко спутать с законным и подлинным контентом.
Обеспокоенность по поводу подделок, созданных искусственным интеллектом, заставляет мировых лидеров, политиков и правоохранительные органы разделять мнение Боэри и бить тревогу.
В воскресенье легендарный актер Том Хэнкс опубликовал в социальной сети сообщение, чтобы предупредить своих поклонников о кампании, рекламирующей стоматологическую программу, в которой использовалась созданная искусственным интеллектом версия программы "Артист", удостоенной премии "Оскар". Между тем, пост в дочери покойного Робина Уильямса также осудил кампании, использующие точную копию голоса ее отца в коммерческом контенте.
Несколько телевизионных новостных личностей также оказались в вирусном контенте deepfake, в том числе Гейл Кинг из CBS, Такер Карлсон из Fox News и Билл Махер из HBO.
Согласно воскресному отчету Daily Mail, за более похотливыми интересами также ухаживают, а образы женщин-актеров, таких как Тейлор Свифт, Натали Портман и Эмма Уотсон, все чаще используются в порнографии, подделанной под себя. Ссылаясь на охранную фирму ActiveFence, в отчете утверждается, что количество подделанного порно знаменитостей выросло на 87 процентов за прошлый год, а частных лиц эксплуатировали на 400 процентов больше.
Искусственный интеллект является одним из ключевых вопросов в продолжающихся переговорах между SAG-AFTRA и Альянсом продюсеров кино и телевидения (AMPTP). И некоторые актеры обращаются с проблемой подделок искусственного интеллекта в суд и выигрывают.
В прошлом месяце популярный индийский актер Анил Капур выиграл судебное разбирательство в Высоком суде Дели против несанкционированного использования его имени, изображения и голоса. И хотя Том Круз публично не говорил об этом, в прошлом году его подделка с искусственным интеллектом стала вирусной после того, как была загружена в социальные сети.
Команда, создавшая видеоролики “Глубокий Том Круз”, основала фирму по разработке искусственного интеллекта Metaphysic AI.
Основанная в 2021 году Крисом Умом, Кевином Умом, Майлзом Фишером, Томом Грэмом и Мартином Адамсом, лондонская Metaphysic была представлена в “America's Got Talent” в сентябре прошлого года, когда ее технология продемонстрировала Элвиса Пресли, созданного искусственным интеллектом, для выступления только на один вечер.
Metaphysic заявляет, что наряду с Томом Хэнксом другие артисты эстрады, включая Энн Хэтэуэй и Октавию Спенсер, использовали ее технологию для создания и сохранения характеристик, необходимых для создания легального цифрового аватара с их изображением.
Представители Хэнкса, Спенсер и Хэтэуэй отклонили или не ответили на запрос Decrypt о комментариях.
Актеры - не единственные исполнители, получающие лечение с помощью искусственного интеллекта: в августе певица Селена Гомес стала объектом аудио-подделки с использованием искусственного интеллекта, опубликованной в Instagram, в которой была представлена поддельная версия исполнителя, поющего ремикс-версию The Weeknd "Starboy”.
The Weeknd также стал предметом сотрудничества deepfake, созданного искусственным интеллектом, с поддельной копией Дрейка для песни “Heart on My Sleeve”, которую Академия звукозаписи решила не номинировать на премию Грэмми после того, как она стала вирусной ранее в этом году.
" 
