" После поразительного предупреждения Джеффри Хинтона о многих опасностях, связанных с искусственным интеллектом, еще один "крестный отец" AI вызвал тревогу по поводу темпов развития технологий.
В Интервью BBC, Профессор Йошуа Бенгио, еще один из так называемых "крестных отцов" машинного обучения, сказал, что он чувствовал себя «потерянным» из-за работы своей жизни.
«Эмоционально сложно для людей, которые находятся внутри [ сектора AI ]. Можно сказать, что я чувствую себя потерянным. Но вы должны продолжать идти, и вы должны заниматься, обсуждать, побуждать других думать с вами », - сказал канадский компьютерный ученый.
Йошуа Бенгио, профессор Университета Монреаля, является известным лидером в области глубокого обучения и славится за его новаторскую работу в области искусственного интеллекта.
До этого, еще один ‘ крестный отец ’ AI, Джеффри Хинтон уволился с работы в Google в начале этого месяца, чтобы свободно говорить о рисках ИИ.
Замечания профессора Бенгио приходят на следующий день после заявление был опубликован Центром безопасности AI ( CAIS ), некоммерческим исследованием, предупреждающим, что искусственный интеллект может привести к исчезновению человечества.
“Риск исчезновения человечества из-за ИИ должно быть глобальным приоритетом наряду с другими социальными рисками, такими как пандемии и ядерная война, ” - говорится в заявление.
Заявление было подписано такими лидерами, как Бенджио, Хинтон, генеральным директором OpenAI Сэмом Альтманом, генеральным директором Google DeepMind Демисом Хассабисом и другими учеными и известными фигурами.
CAIS в одном из своих блогов говорит: “ Когда ИИ становится более продвинутым, он может в конечном итоге представлять катастрофический или экзистенциальный риск. Есть много способов, которыми системы ИИ могут представлять или способствовать крупномасштабным рискам ... ”
На сайте перечислено, как ИИ можно использовать в качестве политического оружия. Это мнение было поддержано генеральным директором OpenAI, который недавно появился перед комитетом Сената и сказал, что вмешательство ИИ в честность выборов является «значительной областью беспокойства». ”
Призывает к регулированию
Профессор Бенджио также сказал BBC, что все компании ИИ должны быть зарегистрированы.
«Правительства должны отслеживать то, что они делают, они должны иметь возможность проверять их, и это как минимум то, что мы делаем для любого другого сектора, такого как строительство самолетов, автомобилей или фармацевтических препаратов. ”
“ Нам также нужны люди, близкие к этим системам, для получения своего рода сертификации ... нам нужна этическая подготовка здесь. Кстати, компьютерные ученые обычно этого не понимают », - добавил он.
Страны по всему миру борются за регулирование ИИ, поскольку его полный потенциал остается неизвестным. Президент США Джо Байден и вице-президент Камала Харрис встретились с такими крупными компаниями, как Altman, генеральный директор Anthropic Дарио Амодей, генеральный директор Microsoft Сатья Наделла, и генеральный директор Google Сундар Пичай в начале этого месяца, чтобы устранить риски, связанные с ИИ, и ответственность, которую должны взять на себя их соответствующие компании для обеспечения безопасности и конфиденциальности.
