Что будет, если твой начальник бесчеловечный искусственный интеллект

Как ИИ руководит китайцами, заставляя выходить на работу ночью и выписывая штраф за 3 секунды опоздания.

Шанхай. Поздний вечер. Дюжина фигур поспешно смахивая с себя городскую пыль, спасаясь от холода торопиться войти в здание своей компании. Они смеются и шутят, но замолкают, войдя в лифт, чтобы подняться наверх. Молодой человек среди них пытается продолжить свою шутку, но его останавливает суровый взгляд коллеги.

«Камера лифта подключена к системе OA (офисная автоматизация) и имеет записывающее оборудование», - шепчет старший инженер, выходя из лифта. «Предполагалось, что это будет конфиденциально, но мне сказал приятель, который раньше работал в отделе кадров».

Причина, по которой эта группа людей прибыла в свою архитектурно-строительную компанию около полуночи холодной декабрьской ночью, также связана с той же системой открытого доступа. Они не пришли добровольно, да и руководство компании им не велело этого делать.

«Этой ночью крайий срок сдачи проекта. Его нам установила система», - говорит старший инженер, который, как и другие интервьюируемые в этой истории, пожелал остаться неназванным. «Он внезапно выдал задание 14-го числа, требуя, чтобы его завершили к 16-му, поэтому мы должны быть здесь и работать».

Никто из людей не участвовал в выдачи задания и установки сроков его сдачи - система OA выдавала приняла это решение самостоятельно. Неспособность выполнить действие в срок будет означать, что часть ежемесячной заработной платы сотрудника будет «снижена на 30% или более», - говорит старший инженер.

По словам разработчика системы, шанхайской ИТ-компании, она обладает мощными возможностями машинного обучения, может автоматически распределять задачи по группам в соответствии с различными этапами проекта и даже «повышать эффективность персонала». Однако сотрудники говорят, что управление с помощью системы далеко не так замечательно, как говорят ее создатели. Система, как они обычно говорят, «бесчеловечна».

«Иногда нас заставляют работать сверхурочно, когда в этом нет необходимости, до такой степени, что даже когда нам нечего делать, мы должны приходить на работу в выходные, чтобы просто "пикнуть картой на входе" в противном случае мы получаем вычет из зарплаты», -  говорит старший инженер.

Сначала он не понимал этого «глупого» алгоритма, но позже он решил, что понял, что происходит: «Может быть, руководство хочет, чтобы мы работали сверхурочно? Однако, они не хотят говорить это прямо, поэтому используют машину, чтобы сообщить нам об этом».

Из-за таких «необоснованных» рабочих заданий некоторые коллеги старшего инженера обратились к руководству, чтобы рассказать о ситуации. Их ответ заключался в том, что в системе действительно были проблемы, но они ничего не могутс этим поделать. Сотрудникам рекомендовано было выполнить поставленные задачи. 

Эта компания - далеко не исключение.

Программное обеспечение для управления все больше захватывает рабочие места в Китае. Правительство, которое в целом верит в цифровые решения, даже предоставило компаниям субсидии для перехода. Данные исследовательской фирмы iResearch «Белая книга по исследованию цифрового управления закупками предприятий Китая в 2020 году» показывают, что китайский рынок инструментов цифрового управления вырос с 7,08 млрд юаней (тогда 1 млрд долларов США) в 2017 году до 11,24 млрд юаней в 2019 году, и ожидается, что он превысит к следующему году - 20 млрд юаней.

Компании обычно используют такое программное обеспечение для отслеживания посещаемости сотрудников, управления их рабочими нагрузками и снижения затрат наруководящем персонале. Но эти системы лишают сотрудников возможности проявлять собственные инициативы. Когда они не согласны с решениями системы, зачастую нет выхода. Они могут либо делать то, что им говорят, либо столкнуться с вычетами из заработной платы. Когда рабочим остается только отвечать перед компьютерной системой, человеческие отношения ухудшаются.

Забытый надзиратель

В традиционном управлении бизнесом, когда новая задача назначается отделу, руководитель отдела разбивает ее на отдельные элементы действий, которые должны быть выполнены сотрудниками. Кроме того, последнее слово при приеме на работу, составлении расписания и проверках эффективности остается за главой отдела. Но инструменты цифрового управления подрывают этот авторитет. В последние несколько лет руководитель мастерской американского производителя электроники увидел, что его карьера пошла в странном направлении. Работая на фабрике в Уси, городе в провинции Цзянсу на востоке Китая, он привык к 12-часовому ритму смены.

Его дни, связанные с обеспечением бесперебойного производства и соответствия качества продукции всем стандартам, начинаются в 7:30 утра, прерываются обедом в полдень, и заканчиваются в восемь вечера, когда он передает ответственность начальнику ночной смены. Затем он уезжает домой на фирменном шаттле.

Каждый год, в течение сезона набора персонала, последнее слово в отношении сотрудников, назначенных  в мастерскую, остается за ним.  Он также будет отвечать за ежедневное управление, руководство, обучение и оценку персонала мастерской. В прошлом к ​​нему регулярно обращались родственники из его родного города, которые умоляли его нанять их детей в мастерскую, а также рабочие и технические специалисты, которые тайно просили об одолжении при оценке работы и отпусках. В основном он находил способы помогать им.

В 2019 году основа репутации руководителя мастерской на рабочем месте внезапно рухнула: компания начала внедрять «умную» систему управления сотрудниками.

«Говорят, что это конкретный приказ из штаб-квартиры в США, поэтому он должен быть выполнен», - говорит руководитель мастерской. «Технический отдел нашел информационную компанию из Сучжоу, которая работала над этим в течение шести месяцев, и мы начали использовать ИИ, после того когда он был установлен на заводе».

Новая система включает в себя более 20 камер по всему цеху, систему OA, которая отслеживает информацию о рабочих, и электронную систему учета рабочего времени и посещаемости. Камера фиксирует присутствие всех рабочих и отслеживает эффективность их работы. Например, каждый компонент имеет определенное время обработки, и камеры могут идентифицировать действия рабочего. Если задача занимает слишком много времени, это будет отражено в оценке работы работника в конце месяца, и будет произведено соответствующее удержание из заработной платы. Хронометрист также вручную может проверить результаты предоставленные системой.

Электронная система учета рабочего времени усовершенствовала процедуру перфорации карт, перенеся ее с главного входа компании на вход в мастерскую. Если рабочий покидает мастерскую, например, чтобы пойти в туалет, он должен провести свою карточку. Если какое-либо отсутствие длится более 15 минут, в системе OA будет сделана запись. Система OA отслеживает работу и отсутствия каждого сотрудника в течение месяца и архивирует кадры с камеры вместе с записями о посещаемости. Те, кто превысил установленную рабочую нагрузку, будут вознаграждены, а те, кто отсутствовал или был неэффективен, получат удержание из заработной платы в конце месяца.

Хотя компания оговаривает, что «последнее слово при оценке работы имеет руководитель мастерской», руководитель мастерской считает, что полностью потерял контроль над своими сотрудниками. Система работает уже больше года, и все дальше и дальше начальник мастерской отдаляется от своих сотрудников. Его некогда близкие отношения с работниками начинают угасать. Когда-то он всегда заботился о работниках с семейными обстоятельствами, возможно, предоставляя им полдня выхолного, чтобы они не использовали свою квоту на отпуск. Он также давал дополнительные оценочные баллв для находчивых работников, которые придумали способы улучшить сборочную линию. Но когда все работает строго в соответствии с алгоритмическими процедурами, руководитель больше не является клеем, сплочающим весь коллектив.

«Даже если сотрудник фактически обжалует результаты аттестации, начальство обычно принимает решение системы OA. Они считают, что машины не делают ошибок, тогда как я могу быть предвзятым из-за моих собственных чувств».

Опоздал на 3 секунды - плати штраф

Инцидент, произошедший летом 2019 года, все еще свеж в памяти начальника мастерской: рабочий ходил в туалет на три секунды дольше положенного времени, и в конце месяца система вычла из его зарплаты 50 юаней. Затем работник подал жалобу. Руководитель семинара позвонила в отдел кадров и получила холодный ответ: «Даже одна секунда позже - все еще поздно; правила и нормы должны соблюдаться». Слух об инциденте вскоре распространился по мастерской. Начальник мастерской ел в столовой, когда услышал, как кто-то сказал: «Он (начальник мастерской)  больше здесь не нужен, когда те, кто наверху, обращаются за помощью только к компьютеру».

«Каждый предоставлен самим себе, и рабочие отношения не развиваются», - говорит руководитель мастерской. Он считает, что, когда начальник «бесполезен» для рабочих, он и рабочие теряютвозможность сотрудничества. Разрушение синергии между верхним и нижним уровнями мастерской ради нескольких секунд эффективности «действительно не окупается», - говорит он.

Заместитель директора по маркетингу ведущей компании по производству товаров повседневного спроса в южном городе Гуанчжоу разделяет жалобы руководителя мастерской. Она проработала в компании более десяти лет, пройдя путь от нового выпускника до костяка команды. Раньше ей нужно было просматривать и утверждать каждую диаграмму и план проекта, представленные сотрудниками, вносить предложения и разрабатывать планы обучения: «Все дело во мне, я учу их, как справляться с различными ситуациями». Ситуация изменилась три года назад, когда компания представила итальянскую «автоматизированную систему принятия решений», чтобы снизить нагрузку на непосредственных менеджеров. В системе работа и обучение персонала алгоритмически разбиты на ряд фиксированных процессов. «Операции, технологии, юридические вопросы - у каждого свои временные рамки, поэтому сотрудникам нужно только переходить от одного этапа к другому», - говорит заместитель директора по маркетингу. Согласно правилам компании, руководители отделов по-прежнему имеют право принимать окончательные решения, но она считает, что в действительности ей нечего решать. Ее собственная работа была упрощена для поддержки работы сотрудников, стандартизации различных документов, подаваемых ими, и организации командных мероприятий.

Штраф за творческий подход к решению проблемы

Заместитель директора по маркетингу напоминает, что для того, чтобы получить лучшую цену поставщика, один из ее сотрудников творчески оптимизировал процесс взаимодействия с клиентами и выполнил задачу на полмесяца раньше, чем планировалось изначально. Однако ключевое предложение по проекту и электронная подпись заказчика не были загружены, поэтому, согласно системе, это был «элемент, не закрытый вовремя», и сотни юаней должны были быть вычтены из зарплаты сотрудника.

Заместитель директора по маркетингу обратилась к высшему руководству, чтобы поговорить об этом, но они сказали, что для изменения алгоритма необходимо связаться с руководством цифрового отдела для встречи, после которой высшее руководство должно утвердить свое решение, а затем, нужно было бы связаться с компанией-разработчиком системы для изменения системы. На весь этот процесс уйдет полмесяца.

«Из-за нескольких сотен юаней мы не будем этого делать», - заключил начальник. «Но она спасла компании не менее 80 000 юаней», - парировал заместитель директора по маркетингу. «Это же мелочи по сравнению с сотнями тысяч, которые мы потратим  на изменение алгоритма, чтобы вернуть ей несколько сотен юаней?» - скзаал начальник. В конце концов, начальник согласился вознаградить сотрудника ежеквартальной премией в качестве компенсации штрафа.

После инцидента заместитель директора по маркетингу обнаружила, что люди с большей вероятностью будут работать самостоятельно. Они больше не искали ее, когда им требовалась помощь. «Служит ли система нам, или мы обслуживаем систему?», -  задается  он вопросом.

Яо Цзяньмин, директор Исследовательского центра инноваций и развития в Китае при университете Жэньминь, сказал, что алгоритм сам по себе всего лишь инструмент, и то, как он управляет людьми и ограничивает их, в конечном итоге решают сами люди. Если алгоритм неразумный, корень проблемы - люди, а не сам алгоритм. Яо считает, что есть корпоративные процессы, которые лучше всего не затрагивать искусственным интеллектом.

«На оперативном уровне возможность оказания помощи в принятии решений с помощью машин и алгоритмов выше, но если вы подниметесь на стратегический уровень, включающий корпоративную стратегию, культуру, ответственность, этику и другие вопросы, возможность использования машин принимать решения - нехорошо».

Он подчеркнул, что системы OA необходимо использовать с гибкостью и что даже на операционном уровне процесс принятия решений должен основываться на разумной корпоративной культуре и стратегических решениях.

Встал с рабочего места  - плати штраф

Недавно пользователь социальной сети Weibo сказал, что технологический стартап в восточном городе Ханчжоу требует, чтобы сотрудники сидели на высокотехнологичных подушках с датчиками. Сотрудники обнаружили, что подушки отслеживают их частоту сердечных сокращений, дыхание, осанку, усталость и другие данные, чтобы узнать, расслабляются ли они. Это вызвало много критики. Руководитель отдела продаж технологической компании в Ханчжоу, разработавшей аналогичную программу, говорит, что покупателями такой продукции являются все малые и средние предприятия, и что компании прямо просят мгновенно загружать данные, чтобы руководство могло контролировать сотрудников. '

Производители таких продуктов часто заявляют, что могут помочь людям следить за своим здоровьем, и не предназначены для использования руководством в качестве инструментов мониторинга. «Не для мониторинга? Это глупость. Единственная цель разработки чего-то подобного - мониторинг », - говорит руководитель.

Не только технологические стартапы и небольшие фабрики применяют сомнительную тактику, чтобы следить за своим персоналом. 

Когда в августе административный секретарь частной исследовательской компании в Шанхае решила уйти с работы, она обнаружила, что ее работодатель не верит в этот «рациональный» подход. К ее удивлению, сотрудник отдела кадров сказал, что сначала ей придется заплатить несколько сотен юаней в качестве компенсации за потерянное рабочее время: «По данным компании, покидание помещения без разрешения в рабочее время считается нарушением правил». Когда административный секретарь выразил сомнение в том, что она когда-либо уклонялась от работы, работник отдела кадров вытащила из принтера единственный лист, на котором в течение шести месяцев в рабочее время была запись красным цветом. «Проведите картой в рабочее время, и система автоматически выдаст красную запись с предупреждением», - пояснили в отделе кадров. «Я просто пошла в магазин, чтобы купить рисовые шарики!» - возразил административный секретарь. HR ответил, что она прочитала правила черным по белому, прежде чем присоединиться к компании, и сознательно их нарушила. Денежный вычет был «оправданным».

Лю Делян, профессор юридического факультета Пекинского педагогического университета, говорит, что «хотя способы, которыми предприятия управляют и контролируют поведение своих сотрудников, могут быть бесчеловечными, они не нарушают частную жизнь в юридическом смысле».

Однако он также подчеркнул, что излишне строгое, бесчеловечное управление часто не способствует мотивации и творчеству сотрудников. По словам Яо, «управление бизнесом, включающее культуру, стратегию и инновационные решения, особенно в отношении самого важного ресурса предприятия - людей, - не может полностью полагаться на научные теории и методы». Он продолжает: «Справедливо сказать, что в настоящее время нет успешных компаний по цифровой трансформации, и вряд ли она появится в будущем. Цифровая трансформация - это процесс, и он постоянно развивается».