95% работников не доверяют ИИ без контроля человека: отчет TeamViewer

Искусственный интеллект все активнее внедряется в рабочие процессы, но доверие к нему остается ключевой проблемой. Новый отчет компании TeamViewer, известной своими решениями для удаленного доступа, показал: 95% работников выражают обеспокоенность по поводу использования ИИ без участия человека. Это тревожный сигнал для компаний, которые планируют масштабировать автоматизацию, но сталкиваются с сопротивлением со стороны сотрудников.

Исследование, в котором приняли участие более 4000 специалистов из разных стран, выявило парадокс: с одной стороны, работники признают пользу ИИ для повышения производительности, с другой — не готовы полностью доверить ему ответственные задачи. Особенно настораживает сотрудников ситуация, когда ИИ действует автономно, без контроля со стороны человека. В ответ на это большинство компаний, использующих ИИ-агентов, вводят строгие ограничения и правила, чтобы минимизировать риски.

Почему доверие к ИИ остается низким

Основная причина недоверия — страх перед непредсказуемыми ошибками. ИИ, особенно на основе больших языковых моделей, может генерировать правдоподобные, но неверные ответы, что в рабочих условиях может привести к серьезным последствиям. Например, в финансовой отчетности или медицинских рекомендациях ошибка может стоить дорого. Поэтому сотрудники требуют, чтобы критические решения всегда проходили через человеческую проверку.

Кроме того, играет роль недостаток прозрачности. Многие ИИ-системы работают как «черный ящик»: пользователи видят результат, но не понимают, как он был получен. Это подрывает уверенность в надежности инструмента. Опрос показал, что 78% респондентов хотели бы иметь возможность объяснить и оспорить решения ИИ, но только 34% компаний предоставляют такую возможность.

Какие риски видят сотрудники в автономном ИИ?

Сотрудники опасаются, что автономный ИИ может принимать решения, противоречащие этическим нормам или законодательству. Например, алгоритм, который автоматически отклоняет кредитные заявки, может дискриминировать определенные группы людей, если в данных заложены предвзятости. Такие случаи уже происходили в банковской сфере, что усиливает недоверие к автоматизации. Кроме того, работники переживают, что ИИ не способен учитывать контекст и нюансы, которые очевидны человеку, что может привести к несправедливым или ошибочным решениям.

Другой аспект — потеря контроля над рабочим процессом. Когда ИИ берет на себя рутинные задачи, сотрудники чувствуют, что их роль снижается, а значит, возрастает риск замены. Это создает психологическое напряжение и сопротивление даже тогда, когда технология объективно полезна. Поэтому, как показывают исследования, внедрение ИИ должно сопровождаться разъяснительной работой и переобучением персонала.

Предыстория и контекст

TeamViewer — не единственная компания, которая фиксирует проблему доверия к ИИ. Ранее исследование MIT и Boston Consulting Group показало, что сотрудники, которые сами выбирали использовать ИИ, работали на 32% эффективнее, чем те, кому его навязывали принудительно. Это подтверждает: ключевой фактор — не технология, а отношение к ней.

Также важно отметить, что регуляторы начинают обращать внимание на автономные ИИ-системы. Европейский закон об ИИ, вступающий в силу поэтапно, требует обязательного контроля человека для систем высокого риска. Это означает, что проблема доверия будет решаться не только на уровне корпоративных политик, но и на уровне законодательства.

Как европейский закон об ИИ повлияет на бизнес?

Европейский закон об ИИ (AI Act) классифицирует системы ИИ по уровню риска: от минимального до неприемлемого. Для систем высокого риска, таких как те, что используются в медицине, финансах или кадровых вопросах, потребуется обязательный контроль человека. Это значит, что компании, работающие в ЕС или с европейскими клиентами, должны будут пересмотреть свои алгоритмы и внедрить механизмы надзора. Для многих это станет стимулом для развития объяснимого ИИ и создания аудиторских следов.

Закон также вводит требования к прозрачности: пользователи должны быть информированы о том, что взаимодействуют с ИИ, и иметь возможность оспорить его решения. Это повысит доверие, но потребует дополнительных инвестиций в разработку и документацию. В перспективе подобные нормы могут быть приняты и в других регионах, включая Россию, где уже обсуждаются проекты регулирования ИИ.

Как компании реагируют на недоверие

Согласно отчету TeamViewer, 89% организаций, внедривших ИИ-агентов, устанавливают четкие границы их полномочий. Например, ИИ может предлагать ответы на типовые запросы клиентов, но окончательное решение о выплате компенсации или изменении условий договора принимает только человек. Такой подход снижает риски и повышает принятие технологии среди сотрудников.

Однако эксперты предупреждают: излишние ограничения могут свести на нет преимущества ИИ. Если каждое действие ИИ требует ручного подтверждения, экономия времени становится минимальной. Поэтому компаниям нужно искать баланс: автоматизировать рутинные операции, но оставлять за человеком контроль над исключительными случаями.

Какие модели контроля человека существуют?

Существует несколько моделей взаимодействия человека и ИИ. Наиболее распространенная — «human-in-the-loop» (человек в цикле), когда ИИ предлагает решение, а человек его утверждает или отклоняет. Это может происходить в реальном времени или отложенно, например, через модерацию журнала действий. Такая модель проста в реализации и понятна сотрудникам, но требует постоянного участия человека, что снижает автономию.

Более сложный вариант — «human-on-the-loop», когда человек вмешивается только в исключительных ситуациях, например, когда ИИ обнаруживает аномалию или выходит за пределы заданных параметров. Такой подход требует более надежных алгоритмов и систем мониторинга, но позволяет достичь большей автономии. В отчете TeamViewer отмечается, что 62% компаний используют именно модель «human-in-the-loop», а 23% — «human-on-the-loop». Остальные пока не имеют четкой стратегии, что создает дополнительные риски.

Технические подробности: как работает контроль человека

Технически контроль человека может быть реализован по-разному. Самый распространенный подход — «human-in-the-loop» (человек в цикле), когда ИИ предлагает решение, а человек его утверждает или отклоняет. Это может происходить в реальном времени или отложенно, например, через модерацию журнала действий.

В отчете TeamViewer отмечается, что 62% компаний используют именно модель «human-in-the-loop», а 23% — «human-on-the-loop». Остальные пока не имеют четкой стратегии, что создает дополнительные риски.

Что такое объяснимый ИИ и зачем он нужен?

Объяснимый ИИ (XAI) — это направление, которое стремится сделать решения алгоритмов понятными для человека. Вместо «черного ящика» XAI предоставляет объяснения, почему было принято то или иное решение. Это особенно важно в регулируемых отраслях, где требуется обоснование каждого шага. Например, если банк отклоняет кредитную заявку, клиент имеет право знать причину, и XAI может предоставить понятное объяснение.

Развитие XAI — один из ключевых трендов в индустрии. Компании, которые инвестируют в объяснимые модели, получают конкурентное преимущество, так как они могут легче пройти аудит и завоевать доверие клиентов и сотрудников. TeamViewer также планирует внедрять элементы XAI в свои продукты, чтобы пользователи могли понимать, как ИИ приходит к своим выводам.

Кого затронет и как

Проблема доверия к ИИ касается всех, кто работает с автоматизированными системами: от операторов колл-центров до финансовых аналитиков. Для разработчиков ИИ это сигнал о необходимости создавать более объяснимые модели и предоставлять инструменты для аудита. Для бизнеса — повод пересмотреть политику внедрения ИИ, уделяя внимание обучению сотрудников и прозрачности.

В России и СНГ ситуация схожая: многие компании пилотируют ИИ-решения, но сталкиваются с недоверием персонала. Однако есть и специфика: в условиях кадрового дефицита автоматизация часто рассматривается как способ компенсировать нехватку специалистов, что может усиливать сопротивление. Поэтому важно не просто внедрять ИИ, но и объяснять сотрудникам, как он облегчит их работу, а не заменит их.

Какие отрасли больше всего страдают от недоверия к ИИ?

Наибольшее недоверие к ИИ наблюдается в отраслях с высокими ставками: здравоохранение, финансы, юриспруденция. Врачи опасаются, что ИИ может поставить неверный диагноз, а юристы — что алгоритм пропустит важный нюанс в деле. В этих сферах ошибка может иметь серьезные последствия, поэтому контроль человека обязателен. В то же время в менее критичных областях, таких как маркетинг или обслуживание клиентов, ИИ принимается легче, хотя и там требуются механизмы надзора.

Интересно, что молодое поколение сотрудников в целом более лояльно к ИИ, чем старшее. Они выросли с технологиями и лучше понимают их ограничения. Однако даже среди молодежи доля полностью доверяющих ИИ невелика — менее 10%. Это говорит о том, что проблема доверия универсальна и требует системного подхода.

Что будет дальше

Ожидается, что проблема доверия будет оставаться в центре внимания в ближайшие годы. По мере развития технологий появятся более совершенные методы объяснения решений ИИ, такие как XAI (объяснимый ИИ). Также будет расти роль стандартов и сертификации, которые помогут компаниям выбирать надежные решения.

TeamViewer планирует использовать результаты отчета для улучшения своих продуктов, добавив функции, которые позволяют настраивать уровни автономии ИИ в зависимости от задач. Это может стать трендом для всей индустрии: гибкие настройки контроля вместо жестких запретов.

Какие тренды в области доверия к ИИ стоит ожидать?

Во-первых, будет расти спрос на аудит ИИ-систем. Компании будут нанимать специалистов, которые смогут проверять алгоритмы на предвзятость и ошибки. Во-вторых, появятся стандарты сертификации ИИ, аналогичные ISO для качества. Это позволит бизнесу выбирать проверенные решения и снижать риски. В-третьих, будет развиваться направление человеко-ориентированного ИИ, которое ставит во главу угла потребности и безопасность пользователей.

Также стоит ожидать усиления роли профсоюзов и трудовых коллективов в обсуждении внедрения ИИ. Работники будут требовать гарантий, что автоматизация не приведет к массовым увольнениям, а будет использоваться для улучшения условий труда. Компании, которые игнорируют эти требования, рискуют столкнуться с саботажем и низкой производительностью.

Итог

Доверие к ИИ — это не техническая, а организационная проблема. Компании, которые смогут выстроить прозрачные процессы и вовлечь сотрудников в принятие решений, получат конкурентное преимущество. Отчет TeamViewer подчеркивает: большинство работников готовы принять ИИ, но только если они будут контролировать его. Это значит, что будущее за гибридными моделями, где человек и ИИ работают в связке, дополняя друг друга.