Недавно система искусственного интеллекта впервые прошла медицинский осмотр в Китае. Интересно, как будет его прикроватная манера? Также недавно Саудовская Аравия предоставила гражданство роботу по имени София. Со всеми этими быстрыми достижениями, я думаю, пришло время исследовать духовную жизнь роботов.

До недавнего времени программисты кодировали и настраивали алгоритмы, ИИ, системы автоматизации и машинного обучения и несли личную ответственность за весь код. Сегодня, однако, ИИ вырвался из-под контроля со стороны человека и получил возможность и возможность самостоятельного программирования, самооптимизации, самотестирования, самонастройки и самообучения. Дэвид Ганнинг пишет: Постоянный прогресс [в области ИИ] обещает создать автономные системы, которые будут воспринимать, учиться, принимать решения и действовать самостоятельно. Это проблема не только у меня, но и у Кармы.

Упрощенное определение Кармы — это духовный принцип, который учит, что хорошие действия и добрые намерения ведут к хорошим вещам сейчас и в будущем, а плохие действия и дурные намерения ведут к плохим вещам сейчас и в будущем. Что происходит с программистом, который уполномочивает или перекладывает ответственность за будущие решения и действия на робота — автономный объект с искусственным интеллектом? Найдет ли Карма в конце концов настоящего программиста автономной системы, давно вышедшего на пенсию и ловящего рыбу на горном озере, чтобы добиться возмездия, или направит плохую Карму на машину? Это стоит учитывать, особенно если вы тот самый программист.

Министерство обороны США также настолько озабочено Karma, что вкладывает средства в разработку XAI (объяснимого искусственного интеллекта). Невысказанное намерение состоит в том, чтобы направить плохую карму в правильном направлении. Никто не хочет стать побочным ущербом ошибочной плохой Карме. XAI можно описать как набор методов и моделей, помогающих людям понять, почему автономная система делает то, что делает. Это способ для машин объяснить, почему они закрыли ваш банковский счет, отклонили вашу транзакцию, повысили вашу страховую ставку, дали вам плохой кредитный рейтинг, отклонили ваше заявление о приеме в университет или на работу, назначили вам ужасное свидание и навсегда разрушили вашу жизнь. . Карма должна куда-то уйти, и ребята из XAI хотят, чтобы она попала к правильному программисту.

Подробнее от Ганнинга: Новые системы машинного обучения [XAI] будут иметь возможность объяснить свое обоснование, охарактеризовать свои сильные и слабые стороны и дать представление о том, как они будут вести себя в будущем. Стратегия достижения этой цели заключается в разработке новых или модифицированных методов машинного обучения, которые позволят создавать более объяснимые модели. Меня единственного волнует, какой моральный кодекс внедряется в эти автономные мыслительные и действующие системы? Я знаю, что есть Карма. Недавно я исследовал эту тему в статье под названием Чему нас может научить искусственный интеллект.

Как насчет непредвиденных последствий? Карма рассматривает намерение как очень важное соображение. Даст ли Карма пропуск программистам, которые не предназначали запрограммированного ими боевого робота для атаки и уничтожения невинных людей? Посмотрите этот очень интересный видео-ролик на эту тему.

Google также обеспокоен плохой кармой. На самом деле они настолько обеспокоены, что создают слой отрицания, чтобы защитить себя от плохой кармы. Уровень отрицания называется AutoML. Чтобы скрыть свои истинные намерения от Кармы, они используют деловые термины для описания своих мотивов: [Сегодня] наши модели машинного обучения тщательно разрабатываются командой инженеров и ученых. Этот процесс ручного проектирования моделей машинного обучения сложен, потому что пространство поиска всех возможных моделей может быть комбинаторно большим — типичная 10-слойная сеть может иметь ~ 1010 сетей-кандидатов! По этой причине процесс проектирования сетей часто требует значительного количества времени и экспериментов со стороны тех, кто обладает значительным опытом в области машинного обучения [людей]. Поэтому, чтобы избежать затрат времени и средств, Google передал разработку ИИ на аутсорсинг другим машинам — их уровню отрицания. Я думаю, что Карму не так легко обмануть.