" Сооснователь Ethereum Виталик Бутерин выступил с предупреждением против использования искусственного интеллекта в процессах управления криптопроектами, сославшись на возможность злонамеренного использования технологии. Его заявление последовало за демонстрацией уязвимости в обновленной версии ChatGPT, позволяющей получать доступ к конфиденциальным данным.
«Если вы используете ИИ для распределения финансирования проектов, люди обязательно будут взламывать систему и пытаться вывести все деньги всеми возможными способами», — написал он в своем посте на платформе X.
Основатель Ethereum отреагировал на видео Эйто Миямуры, создателя платформы данных на основе искусственного интеллекта EdisonWatch, который продемонстрировал, как новая функция ChatGPT может быть использована для утечки конфиденциальной информации. Многие пользователи криптовалют действительно применяют ИИ для создания торговых ботов и управления портфелями, что породило идею использования технологии для управления криптопротоколами.
Бутерин предлагает альтернативную идею
Бутерин заявил, что недавняя уязвимость ChatGPT демонстрирует, почему «наивное управление ИИ является плохой идеей», и предложил альтернативный подход под названием «информационное финансирование».
«Вы создаете открытый рынок, где любой может предложить свои модели, которые проходят выборочную проверку, инициируемую любым участником и оцениваемую человеческим жюри», — пояснил он.
В ноябре 2024 года Бутерин уже писал об информационных финансах, отмечая, что они работают на основе «факта, который вы хотите узнать», после чего проектируется рынок «для оптимального получения этой информации от участников». Он выступал за использование рынков прогнозов для сбора информации о будущих событиях.
«Такой подход к проектированию систем, где вы создаете открытую возможность для подключения внешних языковых моделей вместо программирования единственной модели, изначально более надежен», — написал Бутерин.
Он добавил, что это обеспечивает разнообразие моделей в реальном времени и создает встроенные стимулы для быстрого выявления и устранения проблем.
Последнее обновление ChatGPT представляет «серьезную угрозу безопасности»
В среду OpenAI обновила ChatGPT для поддержки инструментов Model Context Protocol — стандарта интеграции моделей искусственного интеллекта с другим программным обеспечением. Миямура заявил в своем посте, что ему удалось получить доступ к личным данным электронной почты, используя только адрес жертвы, и что обновление «представляет серьезную угрозу безопасности».
По его словам, злоумышленник может отправить календарное приглашение с вредоносным запросом на электронную почту жертвы, и даже без принятия приглашения ChatGPT может быть скомпрометирован. Когда пользователь просит ChatGPT просмотреть календарь, искусственный интеллект читает приглашение с запросом и «перехватывается злоумышленником», что может быть использовано для поиска и пересылки писем.
Миямура отметил, что обновление требует ручного подтверждения человеком, но «усталость от принятия решений — это реальная проблема, и обычные люди просто доверяют ИИ, не зная, что делать, и нажимают кнопку подтверждения».
«ИИ может быть очень умным, но его можно обмануть и использовать для фишинга ваших данных невероятно глупыми способами», — добавил он.
