В мире «Черных зеркал», «Я», «Роботы» и «Терминаторы» неудивительно, что многие люди боятся технологий или, точнее, роботов. Несмотря на весь прогресс, которого мы добиваемся, сообщение, которое транслируется по телевидению, в средствах массовой информации и в книгах, громко и ясно, искусственный интеллект (ИИ) покончит с нами.

Илон Маск, Билл Гейтс и Стивен Хокинг, как известно, поделились опасениями по поводу искусственного интеллекта, и, хотя они еще не упомянули роботов-убийц, их опасения не за горами. В 2014 году Маск заявил, что ИИ представляет собой самую серьезную угрозу выживанию человечества. На самом деле мы думали так же, пока не был избран Трамп.

Сам Маск инвестировал в исследования ИИ через свою некоммерческую организацию OpenA, утверждая, что хочет «следить за тем, что происходит» из-за потенциально опасного результата. Ну, не знаю, как вы, но если и есть человек, которому мы доверяем, чтобы он позаботился о нас, когда роботы атакуют, так это Маск.

Билл Гейтс также выразил озабоченность. Хотя он сказал, что пройдут десятилетия, прежде чем искусственный интеллект станет представлять угрозу для людей, он признал, что принадлежит к лагерю, обеспокоенному сверхразумом. Стивен Хокинг пошел еще дальше. Он сказал, что считает, что развитие полноценного искусственного интеллекта может означать конец человеческой расы. В открытом письме к сообществу ИИ в этом году Хокинг написал, что можно представить, как такие технологии перехитрят финансовые рынки, изобретут исследователей-людей, манипулируют лидерами-людьми и разработают оружие, которое мы даже не можем понять.

У основателя Facebook Марка Цукерберга более оптимистичный подход. Цукерберг считает, что «по ходу дела мы придумаем, как сделать [ИИ] безопасным», и сравнил наши страхи с тем, как мы изначально относились к самолетам. По словам Цукерберга, если бы люди в первую очередь заботились о безопасности, «никто бы никогда не построил самолет». Это страшное мышление может стоять на пути реального прогресса».

Поскольку Цукерберг испытал на себе преимущества ИИ, неудивительно, что он чувствует себя таким веселым. Ранее в этом году он сообщил, что посвятит свой год созданию домашнего дворецкого с искусственным интеллектом, рассказав The Verge, что он уже может контролировать его дом и готовить ему завтрак. В планы на будущее входит научить его впускать друзей в свой дом, глядя на их лица, когда они звонят в дверь, и использовать возможности чат-бота. Просто подожди, пока он не станет злым, Марк.

Настоящее беспокойство

Кажется разумным утверждать, что в настоящее время ИИ не так опасен. Да, люди по-прежнему скептически относятся к «сверхразуму», но на данный момент это не слишком большая угроза для человечества. Мы не можем видеть, как Amazon Echo замышляет против нас заговор.

Но у нас все еще есть ряд причин для беспокойства. Что, если дело не в том, что ИИ сделает с людьми, а на самом деле наоборот? Что люди могут сделать с ИИ? Можем ли мы доверять людям, стоящим за искусственным интеллектом, не злоупотреблять своей властью? По сути, самое большое беспокойство сейчас вызывает то, что произойдет, когда Трамп вмешается?

Настоящей проблемой здесь является безопасность программирования ИИ. Нет никаких причин, по которым преступники не могли бы злонамеренно взломать роботов. В этом случае не роботы станут плохими сами по себе, а люди на самом деле сделают их плохими.

Хотя этот страх сам по себе кажется немного надуманным (хотя и в меньшей степени, чем идея о полностью сознательных роботах-убийцах, бродящих по нашим улицам), хакерство — это современная проблема, которая может повлиять на всех нас. Буквально в этом году Чарли Миллер и Крис Валасек удаленно взломали движущуюся машину, минуя защиту автомобиля. Миллер надеялся, что его работа над безопасностью беспилотного вождения поможет производителям встроить в машины лучшую защиту, и их сообщение не было проигнорировано. Chrysler предлагает денежную сумму хакерам, которые сообщат компании о недостатках в ее автомобилях. Это пример взлома ИИ, можем ли мы действительно верить, что этого не произойдет с нашими сверхинтеллектуальными роботами-дворецкими?

Таким образом, хотя ИИ, представленный в СМИ, не кажется текущей угрозой, все же совершенно рационально беспокоиться об ИИ. Да, ИИ скоро может нам помочь, и на самом деле сделать за нас огромное количество задач. ИИ может работать в смертельно опасной среде, куда не способен человек, мгновенно переводить огромное количество языков и диагностировать болезни, но мы не можем игнорировать потенциально опасные последствия. Через 100 лет ИИ спасет нас или уничтожит? Жюри нет.