" Децентрализованная автономная организация могла бы помочь решить проблемы, связанные с политическими предубеждениями ChatGPT и возможностью злоупотреблений.
ChatGPT, который может общаться с пользователями, является одной из новаторских моделей OpenAI. Хотя у этой технологии есть множество преимуществ, некоторые опасаются, что ее необходимо регулировать таким образом, чтобы обеспечить конфиденциальность, нейтралитет и децентрализованное знание. Децентрализованная автономная организация (DAO) может стать решением этих проблем.
Во-первых, когда речь идет об использовании ChatGPT, конфиденциальность является серьезной проблемой. Чтобы улучшить свои ответы, модель собирает данные от пользователей, но эти данные могут содержать конфиденциальную информацию, которую отдельные лица не хотели бы разглашать центральному органу. Например, если пользователь раскрывает ChatGPT свою финансовую или медицинскую историю, эта информация может быть сохранена и использована такими способами, каких он не ожидал или не разрешал. Если информация получена неуполномоченными сторонами, это может привести к нарушению конфиденциальности или даже к краже личных данных.
Кроме того, ChatGPT может использоваться для незаконных действий, таких как фишинговые атаки или атаки социальной инженерии. Имитируя человеческую беседу, ChatGPT может обманом заставить пользователей раскрыть личную информацию или предпринять действия, которые они обычно не совершают. Крайне важно, чтобы OpenAI установил четкие политики и процедуры для управления и хранения пользовательских данных с целью развеять эти опасения по поводу конфиденциальности. DAO может обеспечить такое децентрализованное хранение данных, собранных ChatGPT, при котором пользователи имеют больший контроль над своей личной информацией, доступ к которой могут получить только авторизованные лица.
Во-вторых, растет беспокойство по поводу политической предвзятости в моделях искусственного интеллекта, и ChatGPT не является исключением. Некоторые опасаются, что дальнейшее развитие этих моделей может привести к непреднамеренному усилению существующих в обществе предубеждений или, возможно, к появлению новых. Чат-бот с искусственным интеллектом также может использоваться для распространения пропаганды или ложной информации. Это может негативно сказаться как на отдельных лицах, так и на сообществах. Предвзятые ответы могут быть результатом модели, отражающей предубеждения разработчиков или данных обучения.
DAO может гарантировать, что ChatGPT обучен на объективных данных и что ответы, которые он дает, тщательно изучаются широким кругом людей, например, представителями различных компаний, академических учреждений и общественных организаций, которые способны обнаружить и исправить любую предвзятость. Это сведет к минимуму возможность предвзятости, гарантируя, что решения ChatGPT принимаются с учетом различных точек зрения.
DAO также может внедрить систему сдержек и противовесов, чтобы гарантировать, что ChatGPT не укрепит уже существующие предрассудки в обществе и не привнесет новые. Например, DAO может внедрить процедуру проверки ответов ChatGPT, чтобы убедиться, что они беспристрастны и справедливы. Для этого может потребоваться, чтобы беспристрастные профессионалы изучили комментарии ChatGPT и указали на любые случаи предвзятости.
Наконец, еще одна проблема с ChatGPT — это централизация знаний. Модель имеет доступ к огромному количеству информации, что выгодно во многих отношениях. Однако это может привести к монополии на знания, поскольку они сосредоточены в руках небольшого числа людей или организаций. Точно так же существует риск того, что обмен знаниями между человеком и машиной станет нормой, в результате чего люди будут полностью зависеть от машин в плане коллективного знания.
Например, программист, столкнувшийся с проблемой кодирования, мог ранее обратиться к Stack Overflow за помощью, опубликовав свой вопрос и получив ответы от других программистов, которые сталкивались с похожими проблемами и нашли решения. Но по мере распространения языковых моделей ИИ, таких как ChatGPT, программисты все чаще задают запрос, а затем получают ответ, не общаясь с другими людьми. Это может привести к меньшему взаимодействию пользователей и меньшему обмену знаниями в Интернете — например, на таких веб-сайтах, как Stack Overflow, — а также к консолидации знаний в рамках языковых моделей ИИ. Это может значительно подорвать человеческую свободу действий и контроль над производством и распространением знаний, что сделает их менее доступными для нас в будущем.
«Я вхожу в 2% лучших пользователей StackOverflow. Мой контент там посмотрели более 1,7 млн человек. И вряд ли я когда-нибудь еще что-нибудь напишу туда. Что может быть гораздо большей проблемой, чем кажется. Потому что это может быть канарейка в шахте нашего коллективного знания», — написал в Твиттере Питер Никси (@peternixey) 26 марта 2023 г.
Нет простых ответов на сложную проблему централизации знаний. Однако очевидна необходимость более децентрализованной стратегии производства и передачи знаний. В этой ситуации может помочь DAO, которое предлагает основу для более демократичного и открытого обмена информацией. Используя технологию блокчейна и смарт-контракты, DAO может позволить людям и организациям работать вместе и вносить свой вклад в общий объем знаний, имея при этом больший контроль над доступом к этим знаниям.
В конечном счете, DAO может предложить структуру для наблюдения и управления операциями ChatGPT, гарантируя децентрализованное хранение пользовательских данных, ответы, которые тщательно проверяются на предмет предвзятости, а также более демократичный и открытый обмен информацией.
Использование DAO может быть жизнеспособным решением этих проблем, поскольку обеспечит большую подотчетность, прозрачность и контроль над использованием ChatGPT и других языковых моделей ИИ.
Поскольку технология искусственного интеллекта продолжает развиваться, крайне важно, чтобы мы уделяли первоочередное внимание этическим соображениям и предпринимали активные шаги для решения потенциальных проблем до того, как они станут реальными.
Об авторе
Гунит Каур имеет степень магистра наук в области финансовых технологий Университета Стирлинга и степень магистра делового администрирования индийского Университета Гуру Нанак Дев.
