Джошуа Д. Браун был реальным человеком, но Илон Маск хочет, чтобы он был статистикой. Вот почему я пишу это.
Он был бывшим морским котиком, а сейчас работает над созданием собственного бизнеса. Из его твиттера и фейсбука видно, что он любил свою семью и людей в целом. Он пожелал последователям счастливого Рождества, счастливого дня отцов и постоянно призывал их к безопасному путешествию.
Трагично, что он погиб в автокатастрофе, которую можно было предотвратить (без этой самоуправляемой машины этого бы не произошло), и это заслуживает анализа.
Конечно, продавцы проявляют типичную реакцию корпоративного психопата, контролируя ущерб и предоставляя фанатам статистику и инструменты, чтобы парировать критику.
Первое, что Telsa сказала в своем заявлении, было
Это первый известный смертельный случай за чуть более 130 миллионов миль, когда был активирован автопилот.
затем несколько абзацев о том, что за рулем нельзя смотреть DVD, автопилот по умолчанию не включен. Последнее, что они сделали (удивительно, что они вообще об этом вспомнили), — отдали дань уважения усопшему.
Для того, чтобы машина ехала сама, в ней должна быть программа вождения. Программа не похожа на шестерню или двигатель внутреннего сгорания. Для программы, достаточно сложной, чтобы управлять автомобилем, это будет чрезвычайно сложная сущность со своей индивидуальностью. Ни в коем случае не существует одного правильного ответа, на котором сошлись бы разные инженеры.
Компьютеры — это новая вещь, а компьютерное программирование — совсем новая дисциплина. Никто еще не знает, как сделать это хорошо. Программное обеспечение сегодня работает только по совпадению, и все это держится на жевательной резинке и клейкой ленте.
Создание программы не похоже на строительство моста или возведение небоскреба. Не существует известных рекомендаций или правил, как предотвратить его падение. (Придумано много фейковых метрик, это называется культивирование груза). Программирование незрело и еще не имеет науки.
На что на самом деле похоже программирование, так это на создание магических заклинаний. Некоторым может показаться, что вы можете получить краткосрочное удобство, произнося заклинания, которые создают автономных существ, выполняющих ваши приказы. Проблема в том, что когда эти системы беспрепятственно расходятся, происходят непредвиденные вещи.
Любой, кто использует компьютер, знаком с компьютерными сбоями и зависаниями. Появляется синий экран и все останавливается. Что произойдет, если программа, управляющая вашей машиной, так зависнет?
Мы не разрешаем людям с риском эпилептических припадков управлять транспортными средствами. Неразумно позволять компьютерным программам управлять автомобилями, пока у нас не появятся операционные системы, которые не дают сбоев. Это небезопасно и несправедливо по отношению к другим водителям.
В играх вы можете видеть, как людей проталкивают сквозь пол и проносят в странные серые зоны, где вы можете увидеть весь остальной мир изнутри.
Игроки-геймеры ищут такие глюки, они пытаются размещать предметы рядом со стеной. Или с использованием движения или персонажа, который разработчик игры никогда не думал, что будет использоваться на этом уровне. Ищем не учтенный программистом вариант пробить стену.
Компьютерные программы должны иметь в себе код для обработки каждого возможного случая, иначе будут ситуации, когда они будут делать неправильные вещи: например, въезжая прямо в другое транспортное средство и суммируя обе машины.
Люди учатся и думают совершенно иначе, чем компьютерные программы, которые люди создают. Мы понимаем социальную динамику и сигналы от других водителей, что позволяет нам понять их намерения.
Но у программы просто есть список случаев, которые нужно отметить. У него могут быть сотни таких случаев, закодированных в нем столько, сколько его дизайнеры могли вообразить, но у него нет возможности принимать разумные решения в обстоятельствах, которые проглядели программисты.
Компьютерная программа не может принимать моральные решения, она только пытается оптимизировать для достижения «наилучшего» результата. Где «лучший» решает комитет Hyperloop или Google Inc.
В исключительных обстоятельствах это может стать утвердительной случайностью и рассудить вашу собственную жизнь как менее ценную, чем какое-то другое привилегированное транспортное средство, которое решило обогнать вас.
Кто должен проверять программы, чтобы убедиться в их высоком качестве и понять, как они работают? Есть ли независимый орган, который следит за тем, чтобы автопилот не нарушал никаких правил дорожного движения. Весь код является коммерческой тайной, скрытой от людей, чьим жизням он угрожает.
Этого недостаточно — программа вождения должна быть с открытым исходным кодом. Volkswagen использовал такой же секретный код, чтобы сфальсифицировать тесты на выбросы дизельного топлива. Последствия скрытого кода для самоуправляемых автомобилей еще более серьезны.
Другие смарт-автомобили были тщательно взломаны, эти хакеры (один из бывших агентов АНБ) объясняют, как им удалось отследить и даже получить полный контроль над их приводным механизмом, отключить автотормозные системы и разбить их в бочки со своего собственного ноутбука. . Все, даже не угадывая пароль!
Когда СМИ раскритиковали его, Илон Маск продолжил свои попытки обелить:
В самом деле, если бы кто-нибудь потрудился подсчитать (очевидно, вы этого не сделали), он бы понял, что из более чем 1 миллиона автомобильных смертей в год во всем мире было бы спасено примерно полмиллиона человек, если бы автопилот Tesla был повсеместно доступен. Пожалуйста, потратьте 5 минут и подсчитайте чертову математику, прежде чем писать статью, которая вводит общественность в заблуждение.
Это слова болезни от человека, который оказался в ловушке, защищая аморальный продукт капиталистической и ценовой кабалой.
Он хочет свести к минимуму эту смерть, заставив число один казаться крошечным по сравнению с совершенно гипотетическим миллионом. Какой позор.
Мы все хотим более безопасных дорог и меньше аварий и смертей. Однако еще не время для автоматического вождения, программированию нужно еще несколько десятилетий, прежде чем это можно будет сделать. Каждый предприниматель хочет быть первым и заработать как можно больше денег, делая что-то свежее и новое с помощью технологий, но пока ученые не придумают, как убедиться, что они не потерпят крах, это безответственно.
