Мнение: ИИ создается за закрытыми дверями, и это опасная ошибка

Искусственный интеллект незаметно меняет все сферы современной жизни. От того, как мы ищем информацию в интернете, до того, как мы инвестируем, учимся и голосуем, — модели ИИ теперь участвуют в принятии некоторых из наших самых важных решений. Но за растущим удобством скрывается более глубокая и насущная проблема: общественность не имеет представления о том, как работают эти модели, на чём они обучаются и кому приносят пользу.

Это дежавю.

Мы уже проходили через это с социальными сетями, доверив небольшой группе компаний беспрецедентную власть над общественным дискурсом. Это привело к алгоритмической непрозрачности, монетизации возмущения и разрушению общей реальности. На этот раз под угрозой не только наши ленты, но и наши системы принятия решений, правовые основы и основные институты.

И мы идём навстречу этому с широко раскрытыми глазами.

Централизованное будущее уже обретает форму

В современном мире ИИ доминирует горстка мощных лабораторий, работающих в закрытом режиме. Эти компании обучают большие модели на огромных массивах данных, собранных из интернета, иногда без согласия владельцев, и выпускают их в виде продуктов, которые ежедневно формируют миллиарды цифровых взаимодействий. Эти модели не подлежат проверке. Данные не поддаются аудиту. Результаты не поддаются контролю.

Эта централизация — не просто технический вопрос. Это политический и экономический вопрос. Будущее когнитивных технологий строится на «чёрных ящиках», закрытых за юридическими брандмауэрами и оптимизированных для повышения стоимости акций. По мере того как системы ИИ становятся всё более автономными и встраиваются в общество, мы рискуем превратить важнейшую общественную инфраструктуру в частные механизмы.

Вопрос не в том, изменит ли ИИ общество; он уже это сделал. Вопрос в том, можем ли мы повлиять на то, как происходит эта трансформация.

Аргументы в пользу децентрализованного искусственного интеллекта

Однако есть и альтернативный путь, который уже изучают сообщества, исследователи и разработчики по всему миру.

Вместо того чтобы укреплять закрытые экосистемы, это движение предлагает создавать системы ИИ, которые по своей сути прозрачны, децентрализованы в управлении и подотчётны людям, которые их используют. Этот сдвиг требует не только технических инноваций, но и культурного переосмысления вопросов собственности, признания и коллективной ответственности.

В такой модели данные не просто извлекаются и монетизируются без подтверждения. Они предоставляются, проверяются и управляются людьми, которые их генерируют. Участники могут получать признание или вознаграждение. Валидаторы становятся заинтересованными сторонами. Системы развиваются благодаря общественному надзору, а не одностороннему контролю.

Хотя эти подходы всё ещё находятся на ранней стадии разработки, они указывают на радикально иное будущее, в котором обмен информацией происходит между равными, а не сверху вниз.

Почему нельзя подождать с прозрачностью?

Консолидация инфраструктуры ИИ происходит с головокружительной скоростью. Фирмы с оборотом в триллионы долларов спешат создать вертикально интегрированные конвейеры. Правительства предлагают нормативные акты, но не успевают за происходящим. Тем временем доверие к ИИ ослабевает. Недавний отчёт Edelman показал, что только 35% американцев доверяют компаниям, работающим с ИИ, что значительно ниже, чем в предыдущие годы.

Этот кризис доверия неудивителен. Как люди могут доверять системам, которые они не понимают, не могут проверить и против которых у них нет средств защиты?

Единственным устойчивым противоядием является прозрачность — не только в самих моделях, но и на всех уровнях: от сбора данных до обучения моделей и получения прибыли от их использования. Поддерживая открытую инфраструктуру и создавая совместные платформы для атрибуции, мы можем начать восстанавливать баланс сил.

Речь идёт не о сдерживании инноваций. Речь идёт об их формировании.

Как может выглядеть совместное владение

Для создания прозрачной экономики ИИ необходимо переосмыслить не только кодовые базы. Это значит, что нужно пересмотреть стимулы, которые определяли развитие технологической отрасли в последние два десятилетия.

Более демократичное будущее ИИ может включать в себя публичные реестры, в которых отслеживается, как предоставление данных влияет на результаты, коллективное управление обновлениями моделей и решениями о внедрении, экономическое участие поставщиков, тренеров и валидаторов, а также федеративные системы обучения, отражающие местные ценности и контекст.

Это отправные точки для будущего, в котором ИИ будет подчиняться не только капиталу, но и обществу.

Часы тикают

У нас всё ещё есть выбор в том, как это будет происходить. Мы уже видели, что происходит, когда мы отдаём наше цифровое пространство централизованным платформам. С ИИ последствия будут ещё более масштабными и менее обратимыми.

Если мы хотим, чтобы в будущем интеллект был общим общественным достоянием, а не частной собственностью, то мы должны начать создавать открытые, проверяемые и справедливые системы.

Начнём с простого вопроса: кому в конечном счёте должен служить ИИ?