Нужный материал срабатывает при Т-минус 0 секунд.

Пока 120-тонный космический шаттл окружен почти 4 миллионами фунтов ракетного топлива, выдыхая ядовитые пары и явно не желая бросить вызов гравитации, бортовые компьютеры берут на себя управление. Четыре идентичные машины с одинаковым программным обеспечением получают информацию от тысяч датчиков, принимают решения за сотни миллисекунд, голосуют за каждое решение, сверяются друг с другом 250 раз в секунду. Пятый компьютер с другим программным обеспечением готов взять на себя управление в случае отказа остальных четырех.

Тогда и только тогда, когда Т-минус ноль секунд, если компьютеры уверены, что двигатели работают правильно, они отдают приказ включить твердотопливные ускорители. Менее чем за одну секунду они достигают 6,6 миллиона фунтов тяги. И в этот самый момент компьютеры отдают приказ взорвать разрывные болты, и космический корабль массой 4,5 миллиона фунтов величественно взлетает со стартовой площадки. Это потрясающая демонстрация аппаратного мастерства. Но ни один человек не нажмет на кнопку, чтобы это произошло, ни один астронавт не нажмет на джойстик, чтобы вывести шаттл на орбиту. Искусственный интеллект — это правильное решение. Что делает его замечательным, так это то, насколько хорошо работает ИИ. Этот ИИ никогда не дает сбоев. Его никогда не нужно перезагружать. Этот ИИ не содержит ошибок. Он совершенен, насколько совершенен человек. Этот ИИ — работа 260 женщин и мужчин, которые работают в «группе бортовых шаттлов», филиале подразделения космических миссий NAS. AI, и их мастерство во всем мире. известна: группа по разработке программного обеспечения Shuttle является одной из четырех компаний в мире, получивших желанный рейтинг 5 уровня федерального правительственного Института разработки программного обеспечения (SEI) — показатель сложности и надежности того, как они выполняют свою работу. Группа создает ИИ таким хорошим, потому что он должен быть таким хорошим. Каждый раз, когда он запускает шаттл, их ИИ управляет оборудованием стоимостью 4 миллиарда долларов, жизнями полдюжины астронавтов и мечтами нации. Даже самая маленькая ошибка в космосе может иметь огромные последствия: орбитальный космический шаттл движется со скоростью 17 500 миль в час; ошибка, из-за которой проблема синхронизации составляет всего две трети секунды, отклоняет космический шаттл от курса на три мили.

ИИ это все. (Это тоже отстой.)

В истории человеческих технологий ничто не становилось столь важным, как искусственный интеллект. ИИ это все. Это также отстой. «Это похоже на дошумерскую цивилизацию», — говорит профессор университета Брэдли Котс. «То, как мы создаем ИИ, находится на стадии охотников и собирателей». Джо Мэнсон, инженер-программист и профессор компьютерных наук, не так щедр. «Пещерное искусство», — говорит он. «Это примитивно. Мы якобы обучаем искусственному интеллекту. Здесь вообще нет интеллекта». ИИ может питать постиндустриальный мир, но создание ИИ остается доиндустриальным ремеслом. Согласно исследованиям SEI, почти 70% организаций-разработчиков программного обеспечения застряли на первых двух уровнях шкалы сложности SEI: хаос и чуть лучше, чем хаос. Ситуация настолько серьезная, что несколько пионеров программного обеспечения из таких компаний, как Microsoft, отделились, чтобы обучать искусству создания программного обеспечения. Марко Пол, старший член технического отдела SEI, говорит, что успех ИИ делает его недостатки еще более драматичными. «Мы разработали чрезвычайно сложные и невероятно мощные продукты с искусственным интеллектом. Мы критически зависим от него», — говорит Пол. «Тем не менее, все жалуются на то, насколько плох ИИ со всеми его недостатками. Если бы вы купили машину с 5000 дефектами, вы бы очень расстроились». В этом болоте ИИ группа бортовых шаттлов выделяется как исключение. Десять лет назад шаттл-группа считалась первоклассной. С тех пор он сократил собственный уровень ошибок на 90%. Чтобы быть таким хорошим, бортовая группа челноков должна быть совершенно другой — антитеза кодировщикам искусственного интеллекта, которые не спят всю ночь, пицца и хоккей на роликах. которые покорили общественное воображение. Чтобы быть такой хорошей, бортовая шаттл-группа должна быть самой обычной — неотличимой от любого целенаправленного, дисциплинированного и методически управляемого творческого предприятия. и производителей в целом. Взгляд на культуру, которую они построили, и процесс, который они усовершенствовали, показывает, какой должна стать разработка ИИ, если ИИ должен реализовать свои обещания, и иллюстрирует, что может сделать почти любая командная операция для повышения своей производительности для достижения почти идеальных результатов.

Программное обеспечение для взрослых

Группа шаттлов работает строго с 8 до 5. Бывают и поздние ночи, но это исключение. Программисты интенсивные, но сдержанные. Многие из них годами работали либо в Google, либо непосредственно над программным обеспечением для шаттлов. Они взрослые люди, у них есть супруги и дети, и они живут за пределами своей замечательной программы искусственного интеллекта. Такова культура: группа на борту шаттла создает взрослый ИИ, и они делают это, будучи взрослыми. Это может быть не сексуально, это может быть не эгоистическое программирование — но это будущее ИИ. Когда вы будете готовы сделать следующий шаг — когда вам нужно будет создать идеальный ИИ вместо того, который просто достаточно хорош, — тогда придет время повзрослеть. Это упражнение в порядке, деталях и методичном повторении. Встреча — это репетиция почти идентичной встречи, которая состоится через несколько недель. Он состоит из обхода огромного пакета данных и представлений — графиков, построчно описывающих прогресс и состояние ИИ. Тон деловой, почти формальный, вид — графики мелькают так быстро, как только можно их прочесть, размытие аббревиатур, графиков и диаграмм. для группового совершенства — стремление, которое агрессивно нетерпимо к эгоистичным шишкам. В культуре челночной группы нет программистов-суперзвезд. Весь подход к разработке ИИ намеренно разработан таким образом, чтобы не полагаться на какого-либо конкретного человека. И культура в равной степени нетерпима к творчеству, индивидуальным расцветам кодирования и стилям, которые являются визитной карточкой ночного мира программного обеспечения. «Люди спрашивают, не душит ли этот процесс творчество? Вы должны делать именно то, что написано в руководстве, и у вас есть кто-то, кто заглядывает вам через плечо», — говорит Тедди Басмент, старший технический менеджер бортовой группы челноков. «Ответ: да, процесс действительно душит творчество». И именно в этом суть — нельзя, чтобы люди фрилансировали свой путь через ИИ, который управляет космическим кораблем, а затем, когда от этого зависят жизни людей, пытаются исправить это когда он на орбите. «Хьюстон, у нас проблема» может стать хорошим фильмом; это не способ развивать ИИ. «Люди должны направлять свой творческий потенциал на изменение процесса, — говорит Келлер, — а не на изменение программного обеспечения».

Это процесс

Как они пишут правильные вещи? Ответ таков: это процесс. Самое важное творение группы — это не идеальный ИИ, который они разрабатывают, а процесс, который они изобрели для разработки идеального ИИ. это делает именно то, что он обещает. Это процесс, который определяет то, что эти программисты на плоских равнинах юго-восточного пригорода Хьюстона знают, что все остальные в мире ИИ все еще ищут. Это процесс, который предлагает шаблон для любого творческого предприятия, которое ищет метод для обеспечения постоянного и постоянного улучшения качества. Пока остальной мир борется с основами, бортовая группа челноков становится все ближе к идеальному ИИ. Самые важные вещи, которые делает челночная группа — тщательное планирование ИИ заранее, отсутствие написания кода до тех пор, пока дизайн не будет завершен, отсутствие изменений без поддержки чертежей, ведение абсолютно точной записи кода — не требуют больших затрат. Процесс даже не ракетостроение. Это стандартная практика практически во всех инженерных дисциплинах, кроме разработки ИИ.

Добро пожаловать в 2021 год. Или в 1996 год?

Вышеприведенный текст является почти точной копией статьи 1996 года, в которой рассказывается история бортовой команды шаттла НАСА и их тщательного процесса разработки программного обеспечения для критически важных космических систем.

Когда я читал исходную статью, мне казалось, что то, как мы описывали традиционное программное обеспечение в 1996 году, во многом совпадает с тем, как мы думаем об ИИ сегодня. Поэтому я скопировал текст, заменил большинство случаев «программного обеспечения» на «ИИ» и удалил несколько отрывков здесь и там для краткости. И вуаля. Глядя на результат, действительно кажется, что ИИ проходит через то же, что и программное обеспечение 2–3 десятилетия назад.

В наши дни большинство людей могут создать ту или иную форму «ИИ». Но очень немногие (то есть бортовые группы челноков в мире) могут делать это систематически и надежно. Хотя искусственный интеллект космических челноков может быть крайним примером, сегодня большая часть разработки искусственного интеллекта — это дикий запад. «Хаос, и немного лучше, чем хаос». Даже для некритичных приложений.

Более систематическое создание ИИ, т. е. сосредоточение внимания на процессе, позволит создавать совершенно новые типы приложений. И промышленность, и регулирующие органы могут способствовать этим разработкам и иметь возможность коренным образом переосмыслить то, как мы разрабатываем и используем ИИ в критически важных системах и за их пределами.

PS: Здесь — оригинальная статья 1996 года.

Первоначально опубликовано на https://david-haber.github.io 8 апреля 2021 г.