" Экс-глава AI в Tesla и со-основатель OpenAI говорит, что самые популярные аналогии (ИИ = электричество, ИИ = промышленная революция и т.д.) не самые точные.
По его мнению, самая сильная и точная аналогия — это то, что современный ИИ — это новая парадигма программирования, которую он много лет назад назвал Software 2.0.
Что изменилось с ИИ (Software 2.0)?
Сейчас мы больше не пишем программы вручную строчка за строчкой. Мы задаём цель, например, «максимально точно классифицировать картинки» или «получить максимальный счёт в игре» и запускаем градиентный спуск, который сам в миллиардах параметров нейронной сети находит работающую программу.
Это меняет то, какие задачи становятся автоматизируемыми.
Теперь главный вопрос уже не «смогу ли я чётко описать алгоритм?», а «смогу ли я проверить, правильно ли выполнена задача?», то есть верифицируемость.
Три ключевых условия, чтобы задача была легко автоматизируема в эпоху Software 2.0:
1. Среда должна быть перезапускаемой — можно быстро начать новую попытку.
2. Попытки должны быть быстрыми и дешёвыми.
3. Должна быть автоматическая награда/оценка.
Если эти три условия выполнены — задача обречена на сверхчеловеческий уровень автоматизации.
Примеры задач, которые идеально подходят под Software 2.0 (быстро прогрессируют):
- Математика (есть правильный ответ → легко проверить)
- Программирование (можно автоматически запустить тесты)
- Шахматы, го, StarCraft, Dota (симуляция перезапускается, есть счёт)
- Решение головоломок, CAPTCHA, доказательство теорем
- Просмотр видео до конца (YouTube точно знает, досмотрел ты или нет — это тоже верифицируемый сигнал!)
На таких задачах ИИ уже сейчас часто превосходит лучших людей на планете.
Примеры задач, которые пока отстают (потому что плохо верифицируемы):
- Творчество (как объективно оценить, что картина или рассказ «хорошие»?)
- Стратегическое мышление в реальном мире (слишком много скрытого состояния, долгосрочные последствия)
- Задачи, требующие глубокого понимания физического мира, здравого смысла, социального контекста
- Работа с реальными людьми, переговорами, эмпатией и т.д.
Для них пока приходится полагаться либо на «магию обобщения» нейронок, либо на более слабые методы вроде имитации человека.
Главный тезис Карпатого - Software 1.0 легко автоматизирует то, что ты можешь задать. Software 2.0 легко автоматизирует то, что ты можешь проверить.
Карпатый предлагает смотреть на будущее рынка труда через эту призму:
Чем больше в твоей работе задач, которые можно объективно и автоматически проверить и на которых можно «натренироваться» миллиарды раз в симуляции, тем выше вероятность, что они будут автоматизированы в ближайшие 5–10 лет.
