Неопределенность как проблема безопасности при автономном вождении

Неопределенность - это самая сложная область для беспилотных автомобилей и при решении проблем с помощью алгоритмов машинного обучения. Согласно Википедии, неопределенность относится к неизвестной информации и применяется к предсказаниям будущих событий, уже выполненным физическим измерениям или неизвестному. Источником неопределенности может быть модель машинного обучения или она может быть наложена на систему извне. Это означает, что ее влияние на входные данные в систему оказывает системная среда.

Учиться как человек

Беспилотные автомобили должны быть в состоянии справиться с большим количеством неопределенностей, связанных с окружающей средой, и из-за ограниченной производительности автомобильных датчиков не все из них можно распознать. Единственный способ найти решения для всех возможных ситуаций - изучить их шаг за шагом, как человек. Человек, который не умеет водить машину в снежную погоду или на скользкой дороге, подобен беспилотному автомобилю, который еще не научился этой ситуации.

Восприятие окружающей среды беспилотным автомобилем

Окружающая среда как источник неопределенности вынуждает использовать алгоритмы машинного обучения для решения таких проблем. Классические алгоритмы и программные решения не справляются с неизвестными проблемами. Простым примером является определение спама. Количество правил обнаружения спама огромно, и реализовать все правила при разработке классической системы нереально, и единственным решением таких проблем является машинное обучение.

Сбор случайных и полных данных - ключ к снижению неопределенности окружающей среды. Ограниченные или неслучайные данные приводят к смещению в данных обучения. Всегда есть неизвестные ситуации, которые не ясны во время проектирования. Таким образом, генераторы случайных данных могут помочь идентифицировать часть этих неизвестных сценариев. Водительские права можно получить в 18 лет или в некоторых странах раньше. Это не означает, что человек в возрасте 18 лет может отлично водить или управлять всеми дорожными ситуациями. Определенно, будут условия или сценарии вождения, которые будут нам неизвестны позже, когда нам за 50, например, особая езда по бездорожью и так далее. Однако единственный способ для человека-водителя - это также изучать новые ситуации шаг за шагом.

Неопределенность в алгоритмах машинного обучения и вопросы безопасности

Неопределенность в алгоритме машинного обучения - это цена, которую мы платим за решение неопределенностей окружающей среды и недостаточной производительности датчиков для выявления неизвестных сценариев и управления ими. Эта цена неизбежна, потому что лучшего решения нет. В настоящее время невозможно объяснить решение алгоритма машинного обучения, и мы почти сталкиваемся с хорошо работающим, но неосуществимым для понимания процесса принятия решения.

Вопрос в том, можем ли мы доказать безопасное поведение модели машинного обучения? Текущие стандарты безопасности, такие как ISO 26262, говорят о случайных отказах оборудования и систематических отказах оборудования и программного обеспечения и не охватывают функциональную недостаточность датчиков или других элементов системы. Использование алгоритмов машинного обучения является ответом на возрастающую сложность.

Оцените производительность беспилотных автомобилей

Мы также можем общаться с беспилотными автомобилями через микрофон, как человек, и оценивать его так же, как человек, если автономное транспортное средство достаточно зрелое, чтобы получить водительские права. Однако мы делаем то же самое для людей, и этого в принципе должно быть достаточно. Можно настроить автономное транспортное средство, чтобы справляться с такими предопределенными ситуациями, и поэтому нелегко проверить, является ли автономное транспортное средство хорошим водителем. Мы никогда не достигнем нулевой неопределенности, и мы должны принять такой уровень неопределенности, как допустимые риски.

Tesla реализовала теневой режим в автомобилях Tesla, чтобы оценить производительность алгоритмов в неопределенных сценариях в фоновом режиме и улучшить алгоритмы для более поздних версий программного обеспечения. Нам необходимо свести к минимуму неопределенность при проектировании и реализации беспилотных автомобилей. Тем не менее, оценка должна проводиться в некоторой степени при моделировании и, в конечном итоге, в ходе полевых испытаний. Нам необходимо стандартизировать KPI (ключевые показатели эффективности) для обеспечения производительности и безопасности таких сложных систем. Такие организации, как Euro NCAP, могут использовать эти KPI для оценки работы беспилотных автомобилей и получения водительских прав.

Предварительно обученная модель как решение

Предварительно обученная модель может использовать модель, которая решает проблему, очень похожую на нашу. Предварительно обученные модели - хорошее решение для разработки функций, необходимых для постепенной проверки моделей на каждом этапе, и избежания создания сложной модели, которую очень сложно проверить и оценить в конце.

Оценка решений

Мы можем использовать модели для прогнозирования вероятности классифицированных входов в выходных данных. Кроме того, нам нужен компонент мониторинга, чтобы контролировать вероятность выходных значений. Если вероятность классификации недостаточно высока, мы сталкиваемся с неизвестной ситуацией с точки зрения модели машинного обучения. Компонент мониторинга должен отреагировать на это неизвестное событие в указанное время и привести систему в безопасное состояние.

Обучение и развертывание более чем одной модели параллельно

Одно из решений - обучить одни и те же функции с помощью разных моделей машинного обучения и сравнить их производительность, чтобы добиться максимальной безопасности в производственной среде. Создание и использование цифровых двойников в средах моделирования помогает тестировать и развертывать решения машинного обучения. Системы, критически важные для безопасности, требуют доступности и резервирования. Обучение и развертывание более чем одной модели помогает получить большую гибкость в принятии решений и повысить производительность и доступность системы.

Резюме

Наша цель - снизить проблему неопределенности для беспилотных автомобилей до приемлемого уровня, но мы должны ответить на те же вопросы в отношении автомобилей, управляемых человеком. Способен ли человек решать проблемы неопределенности? Нет, поскольку более 90% всех аварий вызваны человеческим фактором. Я твердо уверен, что в ближайшее время беспилотные автомобили будут работать лучше, чем автомобили, управляемые людьми. И только изучение новых ситуаций может решить проблему неизвестного в беспилотных автомобилях. Робот может находить и изучать неизвестные условия намного быстрее, чем человек, и может преобразовывать неизвестные сценарии в известные сценарии в среде случайного моделирования или полевых испытаниях.

Машинное обучение - это мощный метод разработки решений для сложных систем, позволяющих справляться с неопределенностями окружающей среды и функциональной недостаточностью. Поэтому знание того, что происходит внутри алгоритма машинного обучения, является обязательным для аргументации в пользу безопасной работы таких систем для каждого решения или прогноза. Полностью избавиться от неопределенности так же невозможно, как и от риска, но уменьшение количества неизвестных ситуаций возможно за счет генерации случайных обучающих данных и моделирования перед тестированием системы в полевых условиях.