" Выступая на открытии Саммита Beneficial AGI в Панаме 27 февраля, Бен Герцель, который популяризировал термин AGI (общий искусственный интеллект), изложил план его развития, чтобы гарантировать, что AGI не будет контролироваться корпорациями или правительствами и будет помогать человечеству, а не вредить ему.
Что такое общий искусственный интеллект? Общий искусственный интеллект (AGI) – это область теоретических исследований искусственного интеллекта, которая стремится создать программное обеспечение с интеллектом, подобным человеческому, и способностью к самообучению.
AGI — это теоретическая концепция, но она будет реализована, то позволит разработать систему искусственного интеллекта, способную выполнять любую интеллектуальную задачу, которую могут выполнить люди.
План Герцеля предусматривает использование открытого исходного кода, децентрализованной инфраструктуры и управления, открытой когнитивной архитектуры, разнообразных алгоритмов AGI, данных, полученных с этической точки зрения и управляемых, а также обеспечения участия людей со всего мира.
Герцель рассказал, что этот план лежит в основе всего, «что мы делаем во всей экосистеме SingularityNET».
«Мы создаем децентрализованные инфраструктуры искусственного интеллекта, которые не зависят от того, какой подход к искусственному интеллекту вы захотите использовать», — сказал он, отметив, что цель заключалась в том, чтобы любой «12-летний гений из Таджикистана» мог внести свой вклад в этот прорыв.
Рисунок 1. Герцель был главным научным сотрудником Hanson Robotics, компании, создавшей гуманоидного бота «София».
Но хотя сеть предназначена для содействия сотрудничеству и различному вкладу в достижение AGI, Герцель сказал, что, по его «наилучшему предположению», его собственный проект OpenCog Hyperon «может стать системой, способной совершить прорыв».
Выпуск альфа-версии Hyperon, запланированный на апрель, описан в исследовательской работе с многочисленными соавторами как «структура для AGI на человеческом уровне и за его пределами», которая включает в себя новейшие идеи, программное обеспечение и методы. OpenCog — это проект искусственного интеллекта с открытым исходным кодом, основанный Герцелем в 2008 году и связанный с SingularityNET.
По его словам, Hyperon Alpha будет своего рода прототипом AGI, использующим специальный язык программирования под названием Metta, который откроется в апреле, чтобы разработчики программного обеспечения с открытым исходным кодом могли использовать его для написания лучшего кода для различных приложений искусственного интеллекта.
На вопрос о том, будет ли альфа-релиз чем-то вроде детского AGI, который можно будет превратить в полноценный AGI, Герцель ответил утвердительно.
«У нас будет полный набор инструментов для создания детского AGI», — пояснил он и сказал, что им необходимо и мы будем основательно масштабировать систему в период с настоящего момента до конца года.
«Чтобы достичь того, что я хотел бы назвать младенцем AGI, нам понадобится ускорение в миллион раз».
«Я думаю, что к началу 2025 года у нас может появиться ребенок AGI», — сказал он. «Я думаю, мы можем назвать его эмбриональным AGI, если вы хотите продолжить эту метафору».
Герцель поддерживает подход Виталика Бутерина d/acc AGI
Герцель также поддержал подход Виталика Бутерина к разработке сверхразумного искусственного интеллекта (d/acc).
Мнения о развитии AGI в настоящее время разделились между сторонниками акселерационизма (e/acc), которые хотят броситься к этой технологии из-за ее преимуществ, и сторонниками замедления (decel), которые хотят замедлить развитие технологий искусственного интеллекта из-за страха перед экзистенциальными рисками.
Герцель сказал, что в первом есть что-то от «силиконовой долины Uber Alles», тогда как у второго нет реальных шансов на реализацию, даже если бы это был лучший подход.
Вместо этого он поддержал подход «децентрализованного акселерационизма» или «защитного акселерационизма», предложенный Бутерином в ноябре.
Ускорение прогресса в области AGI — «вероятно, лучшее, что мы можем сделать», — сказал он, но «мы не хотим, чтобы власть над AGI была сосредоточена в руках какой-либо одной группы людей [...] И мы хотим обратить внимание на различные плохие вещи, если это случится».
Герцель только что написал новую книгу об ОИИ под названием «Взрыв сознания» , в которой он утверждает, что AGI принесет огромную пользу и освободит людей от монотонного труда, положит конец всем физическим и психическим заболеваниям, излечит старение и потенциально предотвратит непроизвольную смерть.
Хотя он говорит, что эти преимущества перевешивают риски, AGI все равно может пойти не так по ряду причин.
В своем выступлении он обрисовал некоторые из этих рисков, в том числе разработку Китаем и Соединенными Штатами «супер-ИИ, цель которого — забить другого парня» или неэтичное внедрение ИИ, которое приносит пользу только мировой элите и делает бедных еще беднее.
Выступление Герцеля было сосредоточено на том, чтобы направить AGI к Бену.
Регуляторный захват, когда крупные компании лоббируют правила, которые приносят пользу им больше, чем остальным людям, по его мнению, вполне возможен.
Хотя он считает это маловероятным, «риск, о котором Голливуд любит говорить» о том, что ИИ выходит из-под контроля, также находится в пределах возможного.
«Я также не думаю, что мы можем с полной уверенностью что-либо исключать, потому что мы вступаем на принципиально неизвестную территорию», — сказал он.
