Корпоративное машинное обучение / искусственный интеллект, чтобы стать понятным, прозрачным и этичным
Авторы Билал Зубери и Брэндон Ривз
В Lux Capital мы часто говорим о стрелках технического прогресса - технологических тенденциях, которые могут быть трудными для времени, но неизбежными. Существует четкая тенденция в машинном обучении и искусственном интеллекте, то есть машины принимают больше решений от имени потребителей и предприятий. Первой волной были механизмы веб-рекомендаций, например, какие фильмы смотреть на Netflix или какие объявления и сообщения показывать вам в ленте новостей. Следующая волна происходит сегодня вокруг автоматизации; например алгоритмы, оказывающие непосредственное влияние на прибыль и убытки предприятия, такие как андеррайтинг ссуд, и машины, принимающие решения о жизни и смерти от имени людей в случае автономных транспортных средств.
С каждым новым этапом становится все более важным, чтобы алгоритмы, принимающие важные решения, можно было привлекать к ответственности, и есть способ помочь объяснить их природу, которая в противном случае является черным ящиком. Оказывается, почти каждая организация, от корпораций F500 до технологических стартапов, сталкивается с аналогичными проблемами в отношении справедливости алгоритмов, подотчетности и объяснимости. Тестирование и квалификация входных и выходных данных, а также предубеждений, которые встроены в эти модели, полезны для различных заинтересованных сторон: специалистов по обработке данных, специалистов по комплаенсу и управлению рисками или лиц, принимающих бизнес-решения.
Fiddler Labs была основана в 2018 году Кришной Гаде и Амитом Пакой для решения этой проблемы; чтобы помочь компаниям решить бизнес-риски, связанные с развертыванием ИИ в продукте, выпустив свой «Explainable AI Engine». Оба они лично столкнулись с этими проблемами, когда Кришна работал в команде новостных лент Facebook, а Амит работал в Samsung. С тех пор команда расширилась, чтобы привлечь исключительные таланты из Google Brain, Lyft, Microsoft, Nutanix, Stanford, Georgia Tech и многих других организаций.
Fiddler Explainable AI Engine позволяет компаниям лучше понять, почему их модели машинного обучения и искусственного интеллекта принимают те решения, которые они принимают. Помогая анализировать, проверять и контролировать модели ИИ в масштабе, Fiddler помогает ускорить внедрение ИИ на предприятиях надежным, прозрачным и ответственным образом.
Мы очень рады, что Lux Capital вместе с нашими друзьями из Lightspeed Ventures, при участии Haystack Ventures, Bloomberg Beta и невероятной группы ангелов и консультантов является одним из руководителей Fiddler Labs серии A стоимостью 10,2 миллиона долларов. В рамках этого финансирования мы также присоединяемся к их совету директоров, чтобы помочь создать компанию мирового класса по разработке программного обеспечения для предприятий.
Мы считаем, что возможности для Fiddler очень велики и своевременны. Так же, как такие компании, как AppDynamics и New Relic, позволяют предприятиям понимать и оптимизировать производительность приложений, мы считаем, что появится новое поколение корпоративного программного обеспечения, но теперь с упором на понимание и оптимизацию приложений машинного обучения / искусственного интеллекта.
