Одна из трудностей при входе в горячее технологическое пространство заключается в том, что вы не знаете, чего ожидать. Поскольку вы боретесь с неожиданными техническими проблемами, что, если ваши собственные заинтересованные стороны забьют вас до смерти, увидев результаты, которые не соответствуют их ожиданиям или пониманию. Нынешняя зарождающаяся реализация моделей искусственного интеллекта и машинного обучения также не является гладкой ни при каком натяжении воображения.
Как бы я ни был рад работать с новой технологией и получать новые футуристические видения, чтобы увидеть солнечный свет реальности, я также знаю, что труд, затрачиваемый на то, чтобы внедрить ее в производственную систему, не меньше, чем сломать гору, и что если вы понимаете, что камни под ним не способствуют прокладке ровной дороги. Все эти усилия сбрасываются с головокружительной скоростью, а вместе с ними уходит и мечта воплотить в жизнь что-то новое и воплотить это в жизнь.
Представьте приведенный ниже разговор между Марком (руководителем ИТ-проекта машинного обучения) и Шоном (руководителем отдела продаж, для которого были созданы модели).
Марк: Привет, Шон, хорошие новости: модели, которые мы создаем, теперь развернуты в рабочей среде
Шон: Отлично, давайте получим свежие новости и создадим прогнозы наших рисков на следующий квартал
Марк: Конечно, фиды данных уже загружены, и модели будут прогнозировать результаты к вечеру
Шон: Это очень хорошо, поскольку мы также должны включить их в наш ежеквартальный портфель рисков.
Через 5 часов тон разговора изменился примерно на такой…
Шон: Марк, я видел отчеты, как, черт возьми, они показывают, что мой портфель рисков увеличился на 3% до среднего риска 12% вместо стабильных 9%. 5 причин для такой оценки риска.
Марк. Боюсь, я не смогу назвать вам 5 основных функций, поскольку невозможно узнать, какую роль каждая функция играет в получаемых результатах.
Шон: Нет, Марк, это будет трудно переварить, так как меня могут спросить о причинах внезапного скачка моих рисков. Какое обоснование я могу привести?
И этот разговор приведет к неловкому молчанию или неловким моментам. В конечном итоге происходит то, что Шон теряет доверие к результатам, полученным с помощью моделей. Вся тяжелая работа, направленная на то, чтобы получить результаты от ярких моделей машинного обучения, теперь заканчивается оправданием их легитимности.
Многие проекты машинного обучения или искусственного интеллекта проходят через эту непростую фазу, пока люди не осознают основную природу модели «черный ящик». Вопрос обоснования результатов является самой большой проблемой для любого руководителя проекта модели ML / AI. Как вызвать доверие?
Просто чтобы избежать этого сценария, люди изучают объяснимый ИИ. К сожалению, разработка объяснимого ИИ, который достаточно интерпретируем, чтобы люди могли понять, как он работает на базовом, если не конкретном уровне, имеет недостатки. Я расскажу об этом в своем следующем материале. Следите за деталями.
