Недавно я разговаривал с доктором наук Эриком Сигелом о машинном обучении и прогнозной аналитике, особенно о том, что он любит называть Способность предсказывать, кто нажмет, купит, солжет или умрет. В этом разговоре мы говорили о черном ящике, который лежит в основе внедрения ИИ во многих компаниях. Но мы не говорили о соображениях безопасности, которые вытекают из этой ситуации: то есть не только компьютеры компании уязвимы для хакеров. Это ИИ, работающий на этих компьютерах, который использует данные.

Каждый день мы слышим о компаниях, внедряющих приложения с ужасной аббревиатурой ИИ, чтобы обеспечить лучшее обслуживание клиентов или что-то в этом роде. Они рассказывают о своем решении, самом продвинутом решении с лучшим искусственным интеллектом, который можно купить за деньги. И, конечно же, весь этот ИИ, который является их большим отличием, является строго охраняемым секретом. Это также источник уязвимостей.

И здесь становится сложно. Чтобы построить аналитику, вам нужны данные. Вам нужно взять данные и построить модели. Где взять данные? Если вы зрелая организация, скорее всего, вы уже много в ней сидите. В случае со стартапом, скорее всего, вы заходите в интернет и находите общедоступные источники данных вроде этого, скачиваете их и начинаете обучать и строить свои модели.

Как вы понимаете, этот набор данных может быть чем угодно: от финансов, медицины, логистики, до языка (текстового или голосового) или изображений; и он может содержать миллионы объектов. Получить данные, очистить их и подготовить к обработке уже сложно. Попытка определить, какая информация внутри настоящая, а какая поддельная, гораздо сложнее, а из-за ограниченности ресурсов вообще невозможна.

Что еще хуже, организации объявляют любой алгоритм коммерческой тайной. Они не обеспечивают видимости внутренней работы. Иногда это делается потому, что создатели этих алгоритмов даже не могут объяснить, как это работает!

Возможно, вы слышали термин Объяснимость ИИ. Это новое поле для прозрачного определения того, как машина пришла к тому или иному конкретному решению. К сожалению, немногие компании делают это, даже если и должны.

Что ты можешь сделать? Спросите, когда кто-нибудь упоминает ИИ или МО, чтобы они объяснили вам на понятном вам языке, как он работает и как его обучали. В случае системы распознавания изображений спросите их, может ли их алгоритм определить различие между чихуахуа и маффином.

Повторяющийся образец здесь? Чтобы воспользоваться всеми новыми чудесами, которые мы строим, мы должны продолжать учиться сохранять контроль, иначе мы закончим как овцы, которым нечего сказать о будущем.

Нравится то, что вы только что прочитали?