" Поэтому стоит спросить: могут ли ИИ и блокчейн быть интегрированы таким образом, чтобы принести пользу человечеству?
Есть основания так думать. Еще в 2016 году Виталик Бутерин писал, что как сообщества криптоэкономики, так и сообщества безопасности искусственного интеллекта «пытались решить принципиально одну и ту же проблему» - как регулировать сложные и интеллектуальные системы с «непредсказуемыми возникающими свойствами».
В конце концов, оба полагаются для контроля, по сути, на «тупые» системы, «свойства которых становятся менее гибкими после создания». Например, как только смарт-контракт внедрен, его нельзя изменить. Два сообщества «должны больше прислушиваться друг к другу», - заключил он.
В прошлом году, с появлением ChatGPT и других инструментов генеративного ИИ, возникли опасения, что ИИ может выйти из-под контроля. В одном кошмарном сценарии люди могут потерять контроль над автономными системами вооружения.
Набирает популярность идея о том, что блокчейны и смарт-контракты могут каким-то образом служить ограждениями, удерживающими модели искусственного интеллекта от отклонения от заданного курса.
«Каждый, кто работает в сфере криптовалюты, должен сыграть действительно важную роль в обеспечении успеха AGI», - сказала Эллисон Дюттманн, президент Института форсайта, на недавней конференции SmartCon 2023.
Это особенно актуально, учитывая прогнозы о том, что общий искусственный интеллект, или AGI, при котором машины достигают интеллекта человеческого уровня, может появиться скорее раньше, чем позже.
Это потенциальное слияние искусственного интеллекта и технологии блокчейн также было на уме у лиц, принимающих IT-решения, которые приняли участие в недавно опубликованном опросе, проведенном по заказу Casper Labs. Почти половина (48%) из 608 опрошенных IT-руководителей в Соединенных Штатах, Европе и Китае согласились с тем, что «интеграция искусственного интеллекта и технологии блокчейн потенциально может революционизировать нашу отрасль, обеспечивая повышенную безопасность, прозрачность и эффективность данных».
Взаимодополняющие технологии, набирающие обороты
Основная идея заключается в том, что неизменяемые бухгалтерские книги блокчейнов, защищенные от несанкционированного доступа, могут вместе со смарт-контрактами стать основой для внедрения ИИ, обеспечивая ответственный искусственный интеллект. Некоторые полагают, что блокчейн может даже послужить своего рода «выключателем» для вышедших из-под контроля моделей искусственного интеллекта.
В опросе Zogby Analytics, проведенном по заказу Casper Labs, 71% IT-руководителей заявили, что «рассматривают блокчейн и искусственный интеллект как взаимодополняющие технологии». Более того, когда их спросили, как в настоящее время их организации используют блокчейн, «эффективная работа с ИИ» была самым популярным ответом (51%)».
1 ноября, президент США Джо Байден издал указ, устанавливающий новые стандарты защиты ИИ. Указ направлен на защиту населения от широкого спектра рисков, включая обман, мошенничество с использованием ИИ, а также опасные биологические материалы, созданные с помощью ИИ.
Этот указ «придал большой импульс», - говорит Мринал Манохар, генеральный директор и соучредитель платформы Casper Labs, у которой есть блокчейн уровня 1, ориентированный на бизнес. В наши дни управление искусственным интеллектом занимает умы все большего числа IT-специалистов предприятий и все больше компаний запускают реальные проекты в области искусственного интеллекта / блокчейна.
«Мы ожидаем, что 2024 год станет годом крупных PoC (proofs-of-concept) и MVP (минимально жизнеспособных продуктов). И после этого, я ожидаю, появятся реальные варианты использования», - сказал Мринал Манохар.
Но здесь, несомненно, есть препятствия, включая масштабирование. Оперативная проверка транзакций остается сложной задачей в децентрализованных блокчейнах большого объема, даже несмотря на достигнутый за последнее время прогресс.
В часто цитируемой статье за 2021 год Бен Гарфинкель, директор Центра управления искусственным интеллектом, написал, что «созданные блокчейны без разрешений, включая Ethereum, слишком неэффективны для запуска чего-либо, кроме довольно простых приложений». Даже приложение, «которое проверяет, кто выиграл партию в шахматы, противоречит текущим ограничениям Ethereum».
Тем не менее, Бен Гарфинкель допустил, что если смарт-контракты «когда-нибудь станут достаточно надежными», они могут быть полезны в качестве механизмов проверки международных соглашений, которые направлены на управление системами искусственного интеллекта.
«Casper Labs явно более оптимистична. В гонке за решением проблемы «черного ящика» искусственного интеллекта блокчейн становится решением «все в одном», которого мы долго ждали, чтобы обеспечить столь необходимую прозрачность», - написал Манохар в отчете.
Внутренняя работа систем искусственного интеллекта в основном невидима для пользователей, отсюда и аналогия с «черным ящиком».
Гибридное блокчейн-решение
И все же, как технологию блокчейн можно рассматривать аналогично решению проблемы «черного ящика» искусственного интеллекта, если она даже не может масштабироваться?
«Проблему масштабирования можно решить с помощью гибридных блокчейнов, - сказал Мринал Манохар. - Сегодня никто не говорит о размещении огромных массивов данных на Ethereum или на собственном блокчейне уровня 1 Casper Labs. Решение Casper Labs предполагает использование как разрешенных (частных), так и общедоступных (не разрешенных) блокчейнов. Прелесть этой гибридной модели в том, что вы выбираете, когда вам нужна неизменность публичной сети и когда вы просто самостоятельно управляете своей инфраструктурой».
До тех пор, пока вы надлежащим образом сохраняете ссылку в общедоступном блокчейне, «вы всегда можете быть уверены, что эти данные не были подделаны, ведь если бы они были подделаны, хэши бы не совпадали».
Кроме того, все, что вы хотите проверить, можно поместить в общедоступный блокчейн, потому что это защищено от несанкционированного доступа. Итак, «каждый раз, когда я модифицирую искусственный интеллект или каждый раз, когда я использую новый набор данных, я отправляю запрос в общедоступный блокчейн», - говорит Мринал Манохар.
В настоящее время большая проблема с ИИ заключается в том, что никто не знает, когда что-то может пойти не так. Но блокчейны предоставляют способ, отмотать ленту назад, ведь они сильно сериализованы и имеют временные метки.
Таким образом, если модель ИИ «начинает проявлять признаки галлюцинаций или врожденных предубеждений, вы можете просто вернуть систему ИИ к последней итерации, в которой отсутствовали эти проблемы, и впоследствии диагностировать, откуда взялись данные о проблеме», - отмечает Casper Labs на своем веб-сайте.
Но другие не убеждены, что блокчейн может решить проблему «черного ящика» искусственного интеллекта.
«Неверно описывать «прозрачность» блокчейна как противоядие от проблемы «черного ящика ИИ», - говорит Самир Равашде, доцент и директор исследовательского центра искусственного интеллекта Дирборна при Мичиганском университете в Дирборне. - Это не делает внутреннюю работу модели машинного обучения более понятной и не проясняет, каким образом конкретный результат восходит к исходным обучающим данным».
Что на самом деле предлагает Casper Labs, предположил Равашде, так это «систему контроля версий» - хотя и с некоторыми приятными функциями, - которую можно использовать «для отслеживания разработки и развертывания модели искусственного интеллекта».
Равашде добавил, что блокчейн, тем не менее, может косвенно решить проблему «черного ящика», предлагая контрольный журнал, который помогает обеспечить целостность данных, происхождение и прозрачность наборов данных, используемых для обучения моделей искусственного интеллекта. Но это не делает сам процесс принятия решения более понятным.
Манохар, со своей стороны, утверждает, что ценность блокчейна для ИИ выходит за рамки возможности возврата к предыдущим версиям:
«У вас также могут быть отдельные хэши, которые указывают, какие источники данных были загружены и когда. Это дает возможность лучше понять поведение искусственного интеллекта и то, что приводит к конкретным результатам».
Когда машины сталкиваются с людьми
Может ли блокчейн помочь избежать тех сценариев из дурных снов, когда модели AGI отменяют выборы или даже ведут войны?
«На самом деле это могло бы очень помочь, - ответил Манохар. - Блокчейн был бы лучшим выключателем для модели искусственного интеллекта при условии, что его электроэнергия проходит через полностью децентрализованный блокчейн».
То есть блокчейн и его человеческие валидаторы решают, получит ли питание модель искусственного интеллекта.
«Всегда есть сигнал отключения, при котором, если все валидаторы согласны, они могут просто отключить сеть и закрыть доступ ИИ к источнику питания, - сказал Манохар. - На самом деле для таких кошмарных сценариев это может действовать как невероятно мощный выключатель».
Подозрения остаются
Существуют и другие потенциальные препятствия для интеграции блокчейна и искусственного интеллекта. Во-первых, в сообществе искусственного интеллекта просто много подозрений в отношении криптовалюты, - говорит Эллисон Дюттманн. Крипто и блокчейн по-прежнему вызывают у многих ассоциации с мошенничеством с непригодными для использования токенами и другим сомнительным поведением.
Тем не менее, когда ее спросили, видит ли Foresight больше предложений о финансировании проектов с использованием искусственного интеллекта / блокчейна, Эллисон Дюттманн ответила:
«Сейчас в пространстве много такого же движения».
Она видит в среднем пять запросов о финансировании в неделю от проектов, которые сочетают технологию блокчейна и искусственного интеллекта.
В своем выступлении на SmartCon 2023 она отметила, что криптоиндустрия очень хорошо справляется с сетевой безопасностью, часто используя «красное объединение», при котором команды ищут входные данные, вызывающие катастрофическое поведение.
«Давайте распространим «красное объединение» на модели машинного обучения», - предложила она.
Большее признание в Китае
Интеграция технологий искусственного интеллекта и блокчейна, по-видимому, особенно благоприятно воспринимается в Китае. В опросе Casper Lab 68% IT-респондентов в Китае согласились с тем, что «интеграция искусственного интеллекта и технологии блокчейн потенциально может революционизировать нашу отрасль, обеспечивая повышенную безопасность данных, прозрачность и эффективность». Для сравнения, в США эта доля составляла 48%, а в Европе - только 34%.
Почему так высок показатель в Китае? Мринал Манохар заметил, что Китай за последние годы враждебно относился к криптовалютам, но по-прежнему положительно относится к технологии блокчейн.
Для сравнения, Манохар также утверждает, что на Западе «все думают, что блокчейн - это просто криптовалюта».
