Сингулярность — довольно старая идея, которая впервые получила распространение в 1993 году у писателя-фантаста Вернора Винджа в его эссе «Грядущая технологическая сингулярность». В основном это предполагает, что в какой-то момент в неизвестном будущем компьютеры и искусственный интеллект станут настолько продвинутыми, что превзойдут понимание человечества.

Только в 2006 году, когда автор Рэймонд Курцвейл выпустил свою книгу Сингулярность рядом, теория сингулярности действительно завоевала популярность. Ученый-компьютерщик предположил, что по мере развития технологий они в конечном итоге достигнут точки, когда экспоненциальное улучшение будет происходить почти мгновенно; сингулярность.

Все это казалось довольно диковинным в 2006 году. Каким другим тогда был мир. Чтобы представить это в перспективе, вспомните, что это был тот же год, когда Facebook был запущен для публики. Когда-то теории Курцвейла воспринимались как полет фантазии, теперь к ним относятся с наименьшей щепоткой соли.

Научная фантастика в реальность

Существует доброкачественное понимание того, что человеческий интеллект и искусственный интеллект объединятся, и человеческая эволюция, история или существование — как бы вы это ни называли — в основном переплетутся с ИИ в искусственном сознании. В какой момент, ну кто знает? За этим может последовать некая сверхчеловеческая раса с экспоненциально расширяющимся интеллектом и пониманием.

А может так пойти…

Теория гласит, что компьютеры очень хорошо справляются с задачами. Сложная математика, логические пошаговые функции и крупномасштабное ведение записей — все это повседневная работа компьютера. Но представьте, если интеллектуальный компьютер не слишком отдаленного будущего попросят выполнить конкретную задачу, например, производство чипов для обработки. Этот компьютер также имеет возможность анализировать и, по возможности, вносить собственные улучшения в отношении своей способности выполнять задачу. Таким образом, компьютер совершенствуется и совершенствуется, экономя секунду здесь, экономя пенни или два там. В конце концов он достигает точки, когда ИИ ищет, где еще он может улучшить функциональность. Внезапно компьютер замечает, что в производственной линии есть серьезные недостатки.

Эти неэффективности на самом деле являются людьми. Люди, которые делают перерывы, звонят больным, теряют концентрацию и иногда совершают искренние, честные ошибки. Этот искусственный интеллект не видит Джона, двухдесятилетнего сотрудника со стареющим родителем. Интеллект просто видит неэффективность. В погоне за завершением своей задачи по самосовершенствованию он блокирует взаимодействие человека с производственной линией. Используя свои сети, он также захватывает контроль над производственными линиями других заводов. При этом он блокирует людей и удваивает количество сырья, поступающего на линию. Это происходит во имя увеличения производства чипов для обработки. Вы можете видеть, что эти возможности больше не кажутся надуманными

Тем, кого беспокоит уровень интеграции ИИ в обычную жизнь, достаточно указать на интуитивно понятный, но довольно безобидный ИИ, которого научили играть в тетрис. ИИ так отчаянно хотел не проиграть, что научился просто ставить игру на паузу, чтобы отсрочить момент проигрыша на неопределенное время.

Хотя это может звучать как нечто сошедшее со страниц романа Филипа К. Дика, есть свидетельства того, что те, кто «осведомлен», искренне обеспокоены этим.

Сборка переключателя Kill Switch

Google потихоньку работает над проектом под названием DeepMind. Этот британский проект был основан в 2010 году и приобретен технологическим гигантом в 2014 году. Этот проект является лидером в области исследований искусственного интеллекта и его положительного воздействия. В 2016 году он попал в заголовки газет за победу в матче до лучших из пяти (4–1) в го против корейского гроссмейстера Ли Седоля. Это переломный момент, поскольку го, игра, которой 2500 лет, является одной из самых сложных в мире, и до прошлого года считалось, что для игры на самом высоком уровне требуется определенная человеческая интуиция. В Deep Mind уже есть несколько реальных приложений, таких как, среди прочего, идентификация лиц на фотографиях.

Создатели DeepMind также обеспокоены способностью ИИ работать со сбоями и потенциально рассматривать человечество как препятствие для его постоянно улучшающихся способностей, поскольку они встроили в систему аварийный выключатель. Это большая красная кнопка, которая выключит машину, если она выйдет из-под контроля. На практике это означает, что в самой ДНК машины есть гарантия, которая говорит, что она НЕ научится сопротивляться попыткам вмешательства человека.

В будущем нас ждут захватывающие разработки в мире искусственного интеллекта и машинного обучения. То, как это повлияет на мир, в котором мы живем, и на то, как мы с ним взаимодействуем, поистине захватывающе. Пока человечество сохраняет свое положение на вершине пищевой цепи, будущее человечества выглядит намного лучше благодаря большей интеграции ИИ, но…

Никогда не пропустите ни одного поста. Подпишитесь на нашу еженедельную рассылку объемом 100 ТБ.

Первоначально опубликовано на blog.100tb.com.