внедрение искусственного интеллекта

С какими сложностями придется столкнуться при внедрении искусственного интеллекта?

Аналитическая компания Marketing Logic совместно с крупным банком несколько лет назад занималась внедрением искусственного интеллекта изначально в маркетинговые процессы, затем в управление сетью, и, наконец, в подбор персонала. Этот кейс стал одним из самых впечатляющих в России, но на поверку команда столкнулась с большим количеством сложностей.

Внедрение искусственного интеллекта и проблемы, которые появляются потом

Подключение ИИ вызывает разные реакции у сотрудников компании, так как касается всех уровней, от топ-менеджмента до обычных работников. Чаще всего люди в штыки воспринимают внедрение новой технологии. Персонал не понимает, почему машина находит в его работе положительные или отрицательные показатели, как она высчитала закономерности, по каким факторам. Из-за непонимания, как работает искусственный интеллект, появляется отторжение.

Еще разрабатывая технологию, компания наняла психологов, чтобы понять, как приучить персонал к машинам. Оказалось, что ИИ должен заработать свою репутацию, а для этого коллегам нужно понимать, как он работает. Конечно, невозможно превратить всех сотрудников в разработчиков и специалистов по новым технологиям, поэтому параллельно с работой над самим искусственным интеллектом, в компании создавали “помощника”, который разъяснял принимаемые решения понятным для людей языком.

Самый плохой сценарий — это внедрение искусственного интеллекта, когда коллектив его не понимает и не готов принять. Традиции, которые складываются годами, невозможно поменять в один момент, а опытные сотрудники не начнут внезапно слушаться машину. Поэтому в компании продумали плавную систему внедрения. Первый год ознаменовался “системой рекомендаций”, которая работала не вместо людей, а в качестве помощи для них.

Логично, что искусственный интеллект должен у кого-то и на чем-то учиться. С этим вопросом тоже пришлось разобраться. Сначала разработчики считали, что системе нужно “скормить” данные за последние пару лет до внедрения новых технологий. Затем решили, что лучше как пример использовать практику наиболее успешных сотрудников. Но когда система рекомендаций работает в течение нескольких лет, возникает такая ситуация:

  • технологии уже прошли через несколько итераций обучения, и советы стали “умнее”;
  • сотрудники уже не могут выдавать “лучшие практики”;
  • работники все чаще соглашаются с предложениями ИИ;
  • коллектив расслабился и эмоционально “принял” инновации.

Здесь появляется проблема смещения выборки. Новая информация для продолжения машинного обучения не поступает, система становится замкнутой и может что-то упустить. Обычно этот вопрос решается путем, когда выделяется зона, где сотрудники должны быть против ИИ. Но постепенно становится очевидным, что им все сложнее создавать и осуществлять успешные практики. Поэтому в таких случаях нужно создавать отдельные группы работников, которые бы являлись экспертами в вопросе, но продолжали искать новые возможности.

Еще один важный момент внедрения умной системы состоит в том, что люди видят в ней соперника, и не случайно. Автоматизация рано или поздно приводит к тому, что ИИ принимает решения лучше даже самых успешных сотрудников, экономя таким образом деньги компании. Естественно, персонал переживает, что его сократят. Это — неминуемая реальность, и коллективу нужно доходчиво объяснить, что им нужно постигать новые навыки и знания, чтобы работать вместе с машинами, а не против них.