Исследование: четверть руководителей не понимают, как работает ИИ в их бизнесе

Новое исследование показало: 25% руководителей малого и среднего бизнеса не могут объяснить, как именно их ИИ-инструменты принимают решения. При этом большинство доверяют ИИ критически важные финансовые операции — от оплаты счетов до управления расходами.

Четверть руководителей малых и средних предприятий (SMB) признались, что не понимают, как работает искусственный интеллект в их компаниях. Это выяснилось в ходе исследования, проведенного компанией Xero, которая опросила более 500 бизнес-лидеров из США и Великобритании. Результаты оказались тревожными: 25% респондентов не могут объяснить, почему их ИИ-системы выдают те или иные результаты, а 80% используют ИИ для финансовых операций, включая обработку платежей и управление расходами.

Исследование подчеркивает растущий разрыв между внедрением ИИ и пониманием его работы. Руководители активно инвестируют в технологии, но не всегда осознают риски, связанные с автоматизацией ключевых бизнес-процессов. Особенно это касается финансовой сферы, где ошибки могут привести к серьезным последствиям — от штрафов до потери репутации.

Четверть руководителей не понимает ИИ: что показало исследование

Компания Xero, известная своим облачным бухгалтерским ПО, провела опрос среди 500+ руководителей SMB в США и Великобритании. Результаты опубликованы в отчете "The AI Divide" (Разрыв в ИИ). Ключевая цифра: 25% опрошенных не могут объяснить, как их ИИ-инструменты генерируют результаты. Это означает, что каждый четвертый бизнес-лидер полагается на "черный ящик", не понимая его внутренней логики.

Еще более тревожным выглядит то, что 80% респондентов используют ИИ для финансовых задач. Среди них — автоматизация выставления счетов, отслеживание расходов, обработка платежей и даже прогнозирование денежных потоков. При этом лишь 36% руководителей полностью доверяют ИИ в этих вопросах, а остальные признают, что иногда перепроверяют результаты вручную.

Исследование также выявило, что 62% компаний внедрили ИИ без четкой стратегии, а 41% не обучали сотрудников работе с новыми инструментами. Это создает почву для ошибок и недопонимания, особенно в небольших командах, где один специалист часто отвечает за несколько направлений.

Предыстория и контекст

Тема доверия к ИИ в бизнесе обсуждается не первый год. Еще в 2023 году исследование MIT Sloan показало, что 80% предприятий экспериментируют с ИИ, но лишь 20% внедрили его в основные процессы. С тех пор ситуация изменилась: теперь ИИ стал доступнее благодаря генеративным моделям и облачным сервисам, но понимание его работы не выросло пропорционально.

Особую остроту проблеме придает финансовый контекст. По данным Deloitte, к 2025 году 75% компаний будут использовать ИИ для финансовой отчетности. При этом регулирующие органы, такие как SEC в США и FCA в Великобритании, ужесточают требования к прозрачности алгоритмов. Например, в ЕС вступил в силу AI Act, который обязывает компании объяснять решения, принимаемые ИИ, если они затрагивают права граждан.

Для малого бизнеса ситуация усложняется отсутствием ресурсов: у них нет штата дата-сайентистов или юристов, которые могли бы разобраться в тонкостях регуляторики. Поэтому исследование Xero — это сигнал к тому, что SMB нуждаются в более простых и понятных инструментах, а также в обучении.

Чем отличается понимание ИИ у руководителей SMB и крупных корпораций?

Крупные компании, как правило, имеют выделенные команды по ИИ и четкие протоколы валидации моделей. В SMB все иначе: часто ИИ внедряется по инициативе одного человека — например, финансового директора или владельца, который хочет сэкономить время. В результате решения принимаются на основе интуиции, а не глубокого анализа.

Разница также в масштабе последствий: если крупная корпорация может позволить себе убытки из-за ошибки ИИ, то для малого бизнеса даже одна неудачная транзакция может стать критической. Поэтому руководителям SMB особенно важно понимать, как работают их инструменты, и иметь возможность вмешаться в процесс.

Технические детали: как ИИ используется в финансах SMB

Современные финансовые ИИ-инструменты для SMB, такие как QuickBooks, Xero и FreshBooks, используют машинное обучение для автоматизации рутинных задач. Например, алгоритмы классифицируют транзакции по категориям, выявляют аномалии и даже прогнозируют кассовые разрывы. Однако большинство таких систем работают на основе исторических данных, и если в данных есть ошибки или смещения, они будут воспроизводиться в результатах.

Более сложные инструменты, включая генеративные модели, могут создавать отчеты и рекомендации, но их "мышление" остается непрозрачным для пользователя. Это называется проблемой "черного ящика": модель принимает решения на основе миллионов параметров, которые невозможно интерпретировать человеку. Для SMB это означает, что руководитель не всегда может объяснить, почему ИИ предложил именно такой сценарий.

Эксперты рекомендуют внедрять ИИ постепенно, начиная с низкорисковых задач, таких как сортировка документов, и только затем переходить к финансовым операциям. Также важно регулярно проводить аудит ИИ-систем и обучать сотрудников базовым принципам работы алгоритмов.

Кого затронет и как

Главные группы, на которые влияет эта проблема, — это владельцы малого бизнеса, финансовые директора и ИТ-специалисты SMB. Для них непонимание ИИ означает повышенные риски: от финансовых потерь до юридической ответственности. Например, если ИИ ошибочно отклонит платеж поставщику, это может привести к разрыву контракта. А если система неправильно рассчитает налоги, бизнес получит штраф.

В России и СНГ ситуация схожая: малые компании активно внедряют ИИ для бухгалтерии и управления, но уровень цифровой грамотности остается невысоким. По данным опроса Сбербанка, 45% российских SMB используют ИИ, но лишь 15% обучают сотрудников. Это создает дополнительные риски в условиях нестабильной экономики.

Для разработчиков и вендоров ИИ-решений это тоже вызов: им нужно создавать более прозрачные продукты, которые объясняют свои действия. Иначе доверие к технологии будет падать, и рынок столкнется с отторжением.

Что будет дальше

Ожидается, что регулирование ИИ ужесточится: уже сейчас в ЕС действует AI Act, а в США обсуждаются законопроекты о прозрачности алгоритмов. Это заставит вендоров добавлять функции объяснимости и контроля в свои продукты. Для SMB это означает, что через 2-3 года инструменты станут понятнее, но до тех пор руководителям придется полагаться на собственную бдительность.

Xero и другие компании уже работают над улучшением интерфейсов и добавлением пояснений к решениям ИИ. Например, Xero планирует внедрить функцию "почему ИИ сделал такой вывод", которая будет показывать ключевые факторы, повлиявшие на результат. Это шаг в правильном направлении, но такие функции пока не стали стандартом.

В ближайшие годы мы увидим рост спроса на специалистов, которые умеют объяснять ИИ бизнесу, и на образовательные программы для руководителей. Те, кто не адаптируется, рискуют остаться позади конкурентов, которые смогут использовать ИИ более осознанно.

Итог

Исследование Xero выявило тревожную тенденцию: четверть руководителей SMB не понимают, как работает их ИИ, но при этом доверяют ему финансовые операции. Это создает реальные риски для бизнеса, особенно в условиях ужесточения регулирования. Чтобы избежать проблем, компаниям необходимо инвестировать в обучение и выбирать прозрачные ИИ-решения. Только так можно превратить ИИ из источника хаоса в надежного помощника, который действительно повышает эффективность.