Как преодолеть культурные проблемы в организациях AI/ML
Люди уже давно используют данные для принятия решений. В Египте зернохранилища были первыми, потому что данные использовались по-новому. Ньютон, Фибоначчи и многие другие продемонстрировали силу чисел. Итак, насколько хорошо организации на самом деле используют возможности искусственного интеллекта?
Возможно, вас попросили «добавить эту действительно важную функцию» в вашу модель или сказали, что «многолетний опыт показывает, что это то, что нужно измерять». В этой статье я рассмотрю три события, которые стимулируют эти запросы, и поделюсь некоторыми наблюдениями о том, как их решать.
Цель этой статьи — инициировать обсуждение этих вопросов, а не просто предоставить убедительные доказательства или советы. Поэтому, пожалуйста, поделитесь своими взглядами и мнениями, чтобы другим было полезно.
Индивидуальная предвзятость
В мире с большим количеством данных все больше и больше людей работают с данными и набираются опыта в том, как интерпретировать эти данные. Как правило, это хорошо. Представьте, если бы люди не выработали привычку просить больше доноров крови перед началом летних каникул? Это не сулит ничего хорошего для запасов крови!
В некотором смысле, общество в целом выросло в культуре, богатой данными. Факты имеют значение: люди проверяют утверждения своих друзей во время кофе-брейков и когда слушают политиков по телевизору. Ясно, что наша биологическая нейронная сеть изучает шаблоны, применимые даже в нашей профессиональной жизни. Менеджеры по продажам знают, когда пора звонить своим ключевым клиентам. Некоторые организации могут даже собирать статистику о том, в какое время года менеджеры по продажам добиваются большего успеха с разными продуктами.
Все это продолжается десятилетиями, и статистика стала надежным инструментом в карьере людей. Итак, кажется, все стали довольно хорошо работать с данными. Мы научились выделять информацию из этих данных, а затем предпринимать разумные действия на основе выводов.
Тем не менее, мир большой. Наши действия, какими бы умными они ни были, редко происходят изолированно. Что-то всегда немного отличается или работает не совсем так, как ожидалось. Вопрос в том, будет ли это измерено или даже замечено. Возможно, данные, использованные для создания опыта, просто были доступны, а не были правильными данными. Есть множество причин предполагать, что наши убеждения, вероятно, в лучшем случае применимы в течение определенного периода времени в ограниченной области. Безусловно, наши убеждения предвзяты из-за нашей культуры, социального положения и многих других факторов. Наконец, люди склонны забывать. Мозг устроен так, что даже неприятные переживания зачастую отодвигаются в пользу более приятных в итоге.
Мне нравится верить, что большинство людей знают об этих когнитивных ограничениях и активно их контролируют. В конце концов, большинство организаций создали профессиональные группы аналитиков по сбору информации и установили структуры управления, чтобы гарантировать, что ничего не пойдет не так. Тем не менее, люди по-прежнему просят «эту одну ключевую функцию». Это почему?
Корпоративный этап
Обратимся к социальному аспекту принятия решений. Когда организации малы, коммуникация относительно проста. Позиционное преимущество быть правым не так важно. Результат важен, но быть неправым — это возможность учиться. По мере роста организаций цена ошибок воспринимается как гораздо более высокая, но не для организации, а для отдельного человека. Часто это старт офисной политики. Люди узнают об ошибке, некоторые могут даже обидеться или посмеяться. Это не приятно и не полезно. Многие другие факторы, такие как неуверенность в себе или финансовая необходимость содержать семью, заставляют людей избегать ошибок и, таким образом, остаться «в поле зрения». С увеличением количества образованной рабочей силы и уделением большего внимания затратам необходимость быть правильным только растет.
Некоторые люди искренне верят, что говорить о том, что они считают проблемой «в их собственном маленьком мире», необязательно. Они думают, что руководство «наверху» имеет более глобальную перспективу и знает, что лучше всего. Некоторые организации рекламируют своих менеджеров, как во внутренних, так и во внешних видеороликах и презентациях, как особо квалифицированных. Ясно, что их обширный опыт лучше, и люди сосредотачиваются на своих собственных проблемах и отодвигают в сторону более важные вопросы, потому что «что я знаю?»
Войдите в машину
Возможно, ни одно из этих замечаний не применимо к вашим обстоятельствам. В этом случае вам исключительно повезло и нужно праздновать!
Однако, как вы легко можете себе представить, ни индивидуальная перспектива, ни корпоративная установка, описанные здесь, не особенно подходят для развертывания искусственного интеллекта. Тем не менее, и те, и другие выходят на одну площадку, когда принимаются решения об использовании искусственного интеллекта:
- Харизматичный менеджер, возможно, упомянул руководителю проекта, что фаза луны доминировала в тенденциях продаж в течение многих лет, поэтому руководитель проекта настаивает на включении фазы луны.
- Рекомендация по цвету модели отклонена, потому что менеджер по продукту видел клиентов, предпочитающих красные платья, несмотря на то, что продукт никогда раньше не продавался на Ближнем Востоке.
- Чтобы сделать результаты модели приемлемыми для высшего руководства, для объяснения того, как была выбрана целевая совокупность, используется серия каскадных диаграмм (а не древовидных диаграмм).
- Поскольку у модели была плохая предсказательная сила, она была упразднена всего через три месяца.
Поскольку машины могут обрабатывать больше данных и искать глобальные закономерности, они выдвигают идеи, которые трудно переварить. Интуиция и предыдущий опыт могут расходиться с результатами: некоторые эксперты даже проявляют предубеждение против ИИ.
Иногда модель должна переваривать обратную связь, чтобы со временем совершенствоваться. Специалисты по данным и инженеры лучше всего подходят для того, чтобы объяснять варианты дизайна и ограничения непосредственно лицам, принимающим решения. Без правильной организационной структуры фирмы рискуют стать недальновидными, ограниченными принятием решений, основанных только на непосредственном опыте. По сути, организации становятся «близорукими к данным».
На помощь
Итак, как организации могут избежать близорукости данных? С практической точки зрения, проекты ИИ терпят неудачу больше по культурным, чем по техническим причинам. Культура лежит в основе индивидуальных предубеждений, а также корпоративной структуры, в которой мы работаем. Создание правильной корпоративной культуры является ключевой задачей лидерства для любой крупной организации. За последние несколько лет я заметил четыре ключевых культурных аспекта, которые помогают внедрять ИИ в организациях:
- Создайте позитивную культуру неудач: позвольте людям совершать ошибки, возможно, сначала в контролируемой среде. Пусть менеджеры продемонстрируют, что ошибаться — это нормально, и поощрят их. Ошибки — лучшая возможность учиться и для детей, и для профессионалов, и для моделей!
- Используйте экспертов: Слушайте экспертов, которых вы нанимаете и не хороните дизайнеров ИИ в слоях проектного и управленческого персонала. Поощряйте прямую связь между лицами, принимающими решения, использующими выходные данные модели, и разработчиками моделей. Мелочи имеют значение при проектировании модели, и они легко теряются на сложных уровнях управления.
- Будьте терпеливы: хотя ИИ очень часто рассматривается как быстрое решение для достижения цели в десять раз быстрее, это часто просто не соответствует действительности. Некоторые модели требуют обширной подготовки данных, другие работают быстрее, но для обучения им нужен хороший мониторинг и обратная связь. Цените цикл обратной связи и радуйтесь тому, как система со временем становится умнее.
- Статистическая осведомленность: используйте возможность, но будьте бдительны, используя правильный инструмент для работы. Это кривая обучения: будьте любопытны, задавайте вопросы и узнавайте больше. Не попадитесь на удочку шарлатана данных.
В надежде спровоцировать дальнейшие размышления ниже приведены несколько дополнительных указателей. Признавая свои собственные ограничения, я приветствую комментарии, публичные или частные, ко всем моим письмам. Поскольку в одной статье недостаточно места, чтобы охватить все, о чем я хотел бы рассказать, это начало серии статей о моем опыте развертывания ИИ в организациях.
Дополнительная литература
