Британский ученый: «ИИ может угрожать человечеству через 2 года»

Советник целевой группы по искусственному интеллекту (ИИ) при премьер-министре Соединенного Королевства сказал, что у людей есть примерно два года, чтобы научиться контролировать и регулировать ИИ, прежде чем он станет слишком мощным.

В интервью британскому СМИ Мэтт Клиффорд, который также является председателем государственного Агентства перспективных исследований и изобретений (ARIA), подчеркнул, что современные системы становятся «все более и более способными с постоянно растущей скоростью».

Он считает, что если чиновники не будут учитывать безопасность и правила сейчас, то системы станут «очень мощными» через два года.

«У нас есть два года, чтобы создать структуру, которая сделает контроль и регулирование этих очень крупных моделей гораздо более возможным, чем сегодня».

Клиффорд предупредил, что когда дело доходит до ИИ, существует «множество различных типов рисков», как в краткосрочной, так и в долгосрочной перспективе, которые он назвал «довольно пугающими».

Интервью появилось после недавнего открытого письма, опубликованного Центром безопасности ИИ и подписанного 350 экспертами по ИИ, в том числе генеральным директором OpenAI Сэмом Альтманом, в котором говорилось, что ИИ следует рассматривать как экзистенциальную угрозу, подобную той, что исходит от ядерного оружия и пандемий.

«Они говорят о том, что происходит, когда мы эффективно создаем новый вид, своего рода интеллект, который превосходит человеческий».

Советник целевой группы по ИИ сказал, что угрозы, исходящие от ИИ, могут быть «очень опасными» и могут «убить многих... через два года».

По словам Клиффорда, основное внимание регулирующих органов и разработчиков должно быть сосредоточено на понимании того, как управлять моделями, а затем на внедрении правил в глобальном масштабе.

Он заявил, что на данный момент самый большой страх у него вызывает непонимание того, почему модели ИИ ведут себя так, а не иначе.

«Люди, которые создают самые совершенные системы, открыто признают, что они не совсем понимают, как системы ИИ демонстрируют то поведение, к которому они пришли».

Клиффорд подчеркнул, что многие руководители организаций, занимающихся созданием ИИ, также согласны с тем, что мощные модели ИИ должны пройти некий процесс аудита и оценки перед развертыванием.

В настоящее время регулирующие органы во всем мире изо всех сил пытаются понять технологию и ее разветвления, пытаясь создать правила, которые защищают пользователей и при этом позволяют внедрять инновации.

5 июня официальные лица в Европейском союзе зашли так далеко, что предложили обязать маркировать весь контент, созданный ИИ, чтобы предотвратить дезинформацию.

В Британии один из передовых членов оппозиционной Лейбористской партии повторил мнение, упомянутое в письме Центра безопасности ИИ, заявив, что технологии должны регулироваться так же, как медицина и ядерная энергетика.