Преобразованный, но не завершенный: исследователи искусственного интеллекта оценивают будущее

В ходе комплексного опроса о влиянии ИИ, проведенного с помощью исследователей из Университетов Оксфорда, Беркли и Бонна, исследователям ИИ был задан вопрос о темпах прогресса в этой области и потенциальном воздействии передовых систем ИИ. Несмотря на то, что был составлен широкий спектр точек зрения, только около 5% считают, что существует высокая вероятность вымирания человечества из-за ИИ.

Это резко контрастирует с настроениями широкой общественности.

Опрос, проведенный в августе 2023 года, показал, что 61% американцев видят в ИИ угрозу человечеству. Обеспокоенность поддержали лидеры отрасли, которые подписали письмо Центра безопасности искусственного интеллекта, в котором говорится, что "снижение риска исчезновения из-за искусственного интеллекта должно быть глобальным приоритетом".

Пол Кристиано, бывший руководитель отдела согласования в OpenAI, оценил вероятность того, что ИИ закончится “катастрофой”, в 50%. Многие объявили ИИ угрозой, равной ядерной войне или глобальной пандемии.

Несмотря на эти широко освещаемые пессимистические прогнозы, ИИ продолжает развиваться. Компании стремятся разрабатывать более совершенные системы, а генеральный директор OpenAI Сэм Альтман выступает за регулирование, наряду с попыткой проверить границы технологии.

Что касается возможностей искусственного интеллекта, то многие респонденты прогнозировали, что искусственный интеллект достигнет основных творческих вех в течение 10 лет: например, разработает с нуля весь платежный веб-сайт или создаст песни, неотличимые от сегодняшних хитов. Но временные рамки растянулись дольше для таких задач, как доказательство математических теорем.

 

Более конкретно, возможность того, что машинный интеллект высокого уровня (HLMI) станет реальностью, приблизилась на 13 лет, при этом 50%-ная вероятность успеха прогнозируется к 2047 году. Аналогичным образом, горизонт полной автоматизации труда (FAOL) — одно из противоречивых предсказаний Илона Маска - сместился на 48 лет раньше, в 2116 год.

Отвечая на вопрос о способности ИИ соответствовать всем способностям человека, исследователи прогнозируют 50%-ную вероятность к 2047 году. Это на 13 лет раньше, чем в аналогичном опросе в 2022 году.

Респонденты разделились по вопросу о том, принесет ли человечеству больше пользы более быстрый или более медленный прогресс.

Интересно, что, хотя ожидается, что системы искусственного интеллекта 2043 года будут способны находить неожиданные способы достижения целей, среди исследователей меньше уверенности в способности человека объяснить такие действия. Эта двусмысленность в том, как работает процесс принятия решений ИИ, подчеркивает необходимость приоритизации исследований в области безопасности ИИ — мнение, разделяемое 70% респондентов.

Мнения о том, можно ли доверять ИИ в 2028 году в объяснении его собственных рассуждений, разошлись.

Также существует серьезная озабоченность по поводу таких рисков, как дезинформация, неравенство и массовая слежка, обеспечиваемая ИИ.

Хотя исследователи в целом настроены осторожно оптимистично, около 40% считают, что существует минимальная (не нулевая) вероятность вымирания человечества из-за продвинутого ИИ. Таким образом, хотя роботы-убийцы не неизбежны, изучение этики и безопасности ИИ остается критически важным.