Еще одна автокатастрофа, еще один урок разработки искусственного интеллекта

Возможные недостатки самоходной системы

Прежде чем углубиться в потенциальные недостатки системы автономного вождения, стоит отметить, что автомобиль с автономным управлением на самом деле является наиболее продвинутым приложением ИИ, наиболее близким к AGI (общий искусственный интеллект). Вождение автомобиля - это очень сложный и потенциально довольно опасный процесс. Окружающая среда, с которой приходится сталкиваться беспилотному автомобилю, может быть очень сложной, что требует всевозможной осведомленности о ситуации: другие автомобили, пешеходы, велосипеды, светофоры, знаки, погода, дорожные ситуации и т. Д. Это правда, что был достигнут большой прогресс. об искусственном интеллекте в эти годы, но достаточно ли он для этой задачи? Независимо от ответа, все возможные проблемы должны быть тщательно изучены и протестированы. Это приводит к первому и наиболее важному аспекту системы - команде, разрабатывающей беспилотный автомобиль.

В командах разработчиков прикладного искусственного интеллекта иногда не хватает инженеров

Вам не обязательно иметь степень магистра или доктора философии. заниматься наукой о данных, но статистика показывает, что большинство специалистов по данным в отрасли, по крайней мере, имеют степень магистра. Большая часть из них даже имеет докторскую степень. Это очень хорошо оправдано, поскольку искусственный интеллект и наука о данных - нетривиальные области. Это требует многолетнего обучения математике, информатике и широкому спектру технологий. Это единодушное мнение представителей отрасли. Консенсус настолько силен, что иногда люди забывают другие части не менее важных ролей, чтобы сделать успешным реальный проект ИИ, такой как беспилотные автомобили. Самое главное, инженерное дело. Если требуется доказать производительность алгоритма для решения какой-либо одноцелевой задачи (например, распознавания радиологических изображений), вам не понадобится много инженерных сил. Опытный специалист по данным, вероятно, справится с этой задачей достаточно хорошо. Если задача заключается в разработке и развертывании приложения машинного обучения в Интернете для анализа настроений в комментариях, то вы можете нанять более солидных разработчиков и инженеров DevOps, чтобы убедиться, что приложение хорошо структурировано, тщательно кодируется и легко обслуживается. Так что, если вы хотите создать систему беспилотного автомобиля, которая должна работать много часов без каких-либо происшествий в реальном мире? Возможно, вы захотите нанять дизайнеров автомобилей, специалистов по регулированию, экспертов по безопасности автомобилей, физиков и некоторых первоклассных специалистов по обработке данных, чтобы создать диверсифицированную команду, чтобы можно было должным образом решить эту задачу. Одна из причин этого инцидента с беспилотным автомобилем Uber заключается в том, что ни одна из систем Lidar и Radar не обнаружила женщину, переходящую улицу. Uber отказался от использования 7 датчиков Lidar, чтобы использовать только один на крыше автомобиля, что создает некую слепую зону вокруг автомобиля. В чем причина этого? Есть ли другие инженерные долги, которые необходимо покрыть по соображениям безопасности? Есть ли конструктивные недостатки в размещении датчиков? Есть ли какие-либо помехи в окружающей среде? Нормально ли работает канал связи между датчиками и центральным компьютером? Это не означает, что это точные случаи, просто это вопрос, который нужно задать и решить, и лучший тип талантов для решения этих проблем - это инженеры, а не специалисты по данным.

Небольшие данные

Теперь небольшие данные - это проблема науки о данных, которую необходимо решить. Средство состоит в том, чтобы построить эффективную модель, для обучения модели потребуется большой объем данных для каждой ситуации. Но иногда проблему с несбалансированными данными сложно и дорого решить. Возьмем, к примеру, беспилотный автомобиль. Когда дело доходит до безопасности, важнее всего, когда что-то идет не так. Чем больше данных по различным типам аварий будет собрано, тем лучше будет обучить модель, которая будет достаточно надежной, чтобы работать в любых условиях. Но в отличие от самолетов с черными ящиками, данные об автомобильных авариях собрать намного сложнее. Во-первых, сложно «спровоцировать» или «создать» аварию. Во-вторых, не все автомобили оснащены датчиками для сбора этих данных во время аварии (возможно, некоторые более «умные» автомобили, такие как Tesla, могут, но большинства машин еще нет). Специалисты по анализу данных согласны с тем, что узким местом для высокопроизводительной модели обычно является не алгоритм, а данные. Без достаточного количества актуальных данных об автомобильных авариях специалистам по обработке данных будет очень сложно разработать модель, которая могла бы очень хорошо справляться с этими типами аварий. Создать систему для самостоятельного вождения автомобиля, которая сможет управлять автомобилем на улице, правильно поворачивать, ускоряться / замедляться - не самая сложная задача. Самая сложная задача - создать модель, которая хорошо справляется со всеми авариями без достаточного количества данных.

Обработка крайних случаев

На самом деле это более серьезный случай проблемы с небольшими данными, но стоит выделить его. Одно из практических правил безопасности - учитывать все крайние случаи, когда что-то может пойти не так, и быть к этому готовым. Это меньшая проблема для людей, поскольку у человека есть здравый смысл и более широкая ситуационная осведомленность, чем у любых алгоритмов, поэтому люди более подготовлены к работе с крайними случаями, но алгоритмы обычно недостаточно сложны, поэтому требуется больше работы.

Давайте представим некоторые из этих крайних случаев.

Наводнение на дороге. Люди отступят или выберут более равнинный луг, чтобы пересечь наводнение, но если автомобили обучены только вождению по дороге, они не смогут справиться с этим правильно.

Очень скользкая дорога. Люди меняют манеру вождения и очень осторожно справляются с поворотами, чтобы не поскользнуться. Или остановите и поставьте цепь противоскольжения, ИИ будет сложно достичь такого же уровня гибкости.

Дорога с граффити на ней. Человек может легко узнать, что происходит, и не ошибиться, но ИИ, если он не обучен на дороге с граффити, он может принять граффити с реальными дорожными указаниями.

У этого списка нет конца. Если вы можете вспомнить другие крайние случаи, с которыми вы столкнулись из-за своего прошлого опыта вождения, оставьте отзыв ниже. Суть в том, что вождение в реальном мире требует более сложной системы для обработки всех странных случаев, и люди очень хороши в этом (таким образом, принимая это как гарантию). А ИИ нужно тренировать по каждому делу. Нет ярлыка. Возможность придумать эти крайние случаи и спроектировать систему автономного вождения на их основе повысит надежность и безопасность и, возможно, получит преимущество над конкурентами.

Где улучшить

Так должны ли аварии с беспилотным автомобилем остановить развитие технологий? Конечно, нет! Эта технология имеет огромный потенциал в спасении многих жизней. ИИ может быть предвзятым или недостаточно изощренным, но у него есть одна забота, которой нет у людей. Они никогда не становятся эмоциональными, безрассудными или сонными. Если все сделано правильно, в большинстве ситуаций он должен превзойти людей с точки зрения безопасности, но, очевидно, этого еще нет. Итак, какие части процесса можно улучшить? (Я сам не являюсь экспертом по беспилотным автомобилям и просто хотел изучить возможности в этой статье, так что отнеситесь к следующему с недоверием. Если у вас есть лучшие идеи, не стесняйтесь оставлять ответ ниже! )

Процесс тестирования

Опять же, прежде чем углубляться в технологии, сначала необходимо решить проблемы, связанные с людьми. Одна вещь, которая была особенно удивительна в этом инциденте, - это то, что у машины действительно есть водитель безопасности. Этого можно было бы избежать, если бы водитель-водитель выполнял свою работу, а не смотрел на свой мобильный телефон и не спускал глаз с дороги. Это не так уж сложно, но ее неспособность сделать это косвенно стоит жизни. Это не имеет ничего общего с технологиями, но имеет прямое отношение к тому, как можно улучшить процесс испытаний на самоуправление. Это хорошее начало - посадить за руль платного водителя, обеспечивающего безопасность, чтобы добавить еще один уровень безопасности во время теста, но люди ошибаются. Поскольку в автомобиле уже есть внутренняя камера, наблюдающая за водителем, почему бы не разработать алгоритм, который отслеживал бы ее / его поведение и выдавал предупреждения / оценки, когда ее / его взгляд отвлекается от дороги?

Аппаратное обеспечение

Лидар / радар не сработал в этой аварии. В чем была причина? Будет ли добавление более одного датчика работать лучше? Добавляете больше типов датчиков? Оптимизировать положение датчиков? Датчики должны работать при любых погодных условиях. Жарко, код, снег, сильный солнечный ожог, ветрено и т. Д. Если нет, имейте запасной план. Будьте готовы к экстремальным ситуациям.

Программное обеспечение

Если центральная система вождения имеет приоритетную систему управления, это означает, что некоторые особые события, запускаемые датчиком или системой распознавания изображений, заставят автомобиль немедленно остановиться, чтобы избежать серьезных аварий, превзойдя все другие системы управления движением. (например, жесткий код гарантированное чистое расстояние впереди) Приоритетная система должна быть тщательно спроектирована и настроена для обеспечения максимальной безопасности.

Алгоритм

Одна вещь, которая очень важна для всех моделей машинного обучения, - это набор проверки. Хороший набор для проверки определяет, насколько хорошо модель обобщает и, таким образом, в значительной степени определяет успех / неудачу проекта в реальной жизни. Это также относится к беспилотному автомобилю. Что было бы здесь хорошей проверкой? Что ж, управлять автомобилем не так просто, как задача нашего классификатора, поэтому она не очень четко определена. Именно в этом проблема. Если все компании по производству беспилотных автомобилей и регулирующие органы объединятся и разработают хорошую `` процедуру тестирования '', которая фиксирует все экстремальные ситуации, крайние случаи, сценарии тестирования, программное обеспечение для автоматического тестирования и т. Д., Чтобы эффективно служить в качестве `` набора для проверки '' 'для беспилотных автомобилей? Я думаю, что сопутствующий консенсус и усилия всех участников здесь важны и менее изучены.

Последние мысли

Независимо от того, какой прогресс был достигнут в области беспилотных автомобилей, иногда это похоже на царапину на поверхности, и размер айсберга, скрывающегося под водой, остается неизвестным. Кроме того, автомобильная авария с беспилотным управлением обычно привлекает большое внимание средств массовой информации. По данным Wired, в прошлом году только в США в дорожно-транспортных происшествиях погибло около 40 000 человек, но очень немногие (если таковые вообще имеются) попали в заголовки газет так, как инцидент с Uber. Несправедливый? Нет, правда. На самом деле это хорошо. Строгая и внимательная проверка - это хороший способ раздвинуть границы того, насколько безопасным может быть беспилотный автомобиль. Потому что на кону стоят человеческие жизни.

Обновление: окончательный результат расследования будет опубликован 20 ноября 2019 года. Вы можете обратиться к этой статье The Verge.

Эта статья оказалась полезной? Следуйте за мной (Майкл Ли) на Medium, или вы можете найти меня в Twitter @lymenlee или в моем блоге wayofnumbers.com. Вы также можете ознакомиться с моими самыми популярными статьями ниже!