OpenAI опубликовала сообщение в блоге, призывающее к усилиям по регулированию сверхразума аналогично тому, как регулируется ядерная энергия. Это предполагает возможное создание агентства, подобного МАГАТЭ.
OpenAI, создатель сенсационного чата по искусственному интеллекту, предложил регулирование искусственного интеллекта, в частности, сверхразума искусственного интеллекта, аналогичного ядерной энергии. 22 мая компания опубликовала сообщение о том, как быстрое развитие ИИ может повлиять на мир и сопутствующую потребность в управлении.
OpenAI предлагает регулирование сверхразума
Пост начинался с заявления о том, что “Системы искусственного интеллекта превысят уровень квалификации экспертов в большинстве областей и будут осуществлять такую же продуктивную деятельность, как одна из крупнейших корпораций современности”. Следовательно, необходимо снижать риски экзистенциальной угрозы таким же образом, как и действия, предпринимаемые в отношении ядерной энергетики.
Авторы публикации — Сэм Альтман, Грег Брокман и Илья Суцкевер — сказали, что в конечном итоге возникнет необходимость в чем-то вроде Международного агентства по атомной энергии (МАГАТЭ). Это агентство помогло бы управлять усилиями суперинтеллекта и нуждалось бы в значительном сотрудничестве и координации во всем мире.
В сообщении также разъяснялось, что важно разрешить “компаниям и проектам с открытым исходным кодом разрабатывать модели ниже значительного порога возможностей без какого-либо регулирования”.
OpenAI рассматривает демократические решения по ИИ
Стратегия OpenAI по поощрению регулирования искусственного интеллекта включает коллективное принятие решений, аналогичное статьям в Википедии. Президент Грег Брокман объявил, что компания оценит методы сбора информации от различных сторон при принятии решений. Цель состоит в обеспечении демократического процесса принятия решений.
Брокман сказал: “Мы не просто сидим в Силиконовой долине, думая, что можем написать эти правила для всех”, хотя, безусловно, при создании такой системы возникнут проблемы. Как и Сэм Альтман, он тоже был сильно сосредоточен на международном сотрудничестве в области регулирования ИИ.
Гонка за регулированием ИИ разгорается
Вопрос о том, как регулировать ИИ, у всех на уме. Те, кто в гуще событий, сами призывают к регулированию. Альтман отказался от возможности стать главным регулятором искусственного интеллекта в Америке. Вместо этого во время слушаний в Конгрессе он призвал США взять на себя ответственность за регулирование.
США, вероятно, создадут агентство, занимающееся надзором за ИИ. Другие страны следуют этому примеру, при этом Китай особенно увлечен запретами и ограничениями в области искусственного интеллекта. Подобно рынку криптовалют в прошлом, индустрия искусственного интеллекта также может столкнуться с резким и строгим регулированием. Это регулирование в первую очередь будет сосредоточено на таких аспектах, как конфиденциальность, предотвращение вмешательства в выборы и установление глобальных стандартов.
telegram
vk
twitter
