🚗 Что люди забывают о проблеме автономной тележки с искусственным интеллектом

Что такое тележка диллема?

Время от времени всплывает тележка диллема. В прошлый раз при обсуждении автономных автомобилей.

Общая концепция заключается в том, что ИИ, управляющий автономным автомобилем, может оказаться в ситуации, когда каждое решение причинит вред. Проблема в том, что он должен выбрать.

Например, по обеим сторонам дороги есть пешеходы, и из-за неисправности автомобиля он теряет направление. ИИ может выбирать только между двумя вариантами: левый тротуар или правый тротуар.

Причем на левом тротуаре энтузиаст Windows, а на правом — энтузиаст MacOS.

ИИ должен решить, что лучше в этом сценарии.

Что не так с дилеммой?

Когда я услышал о проблеме в контексте автономных автомобилей, сразу же стало смешно ее рассматривать.

Но это интересная концепция мысли по другой причине, чем кажется.

Позволь мне объяснить.

Теоретически диллема звучит как повод для размышлений. Существует даже юридический процесс для разработки правил для автономных ИИ. Так что это звучит как нечто серьезное. Не так ли?

Я водитель и никогда до сих пор (надеюсь никогда) не сталкивался с троллейбусной дилеммой. Я не знаю ни одного другого водителя, столкнувшегося с этой проблемой. А у некоторых были аварии.

Означает ли это, что дилеммы на практике не существует? У нас есть некоторые эмпирические данные, что это происходит, например, в случае неисправности самолетов. Пилоты решают, где приземлиться, чтобы причинить наименьший вред. Так что это может относиться и к водителям автомобилей.

Давайте на секунду задумаемся о системе, которая могла бы учитывать проблему тележки в реальном сценарии.

Мы говорим о системе, которая не только способна безопасно управлять автомобилем, но и распознает окружающую ее сцену в каждую миллисекунду поездки.

Мы также говорим о системе, которая должна быть в состоянии предсказать результат каждого сценария, происходящего в каждую миллисекунду.

В-третьих, система должна знать не только то, что ее окружает, но и то, какое действие причиняет какой объем вреда.

Предположим, сломалась система рулевого управления. У ИИ есть 1 секунда, чтобы выбрать тротуар.