Хьюберт Остерле

Эта статья является призывом к дисциплине Life Engineering. На протяжении более пятидесяти лет бизнес-инженерия (первоначально именовавшаяся системным анализом) была связана с использованием информационных технологий на благо компаний и других организаций, например, через электронные рынки. За последние двадцать лет машинный интеллект все больше меняет человеческую жизнь, в то время как наука мало чем может помочь в управлении изменениями на благо человечества.

Проактивные цифровые услуги во всех сферах жизни

Интернет-сайты развиваются, чтобы стать проактивными цифровыми помощниками. Планирование маршрута на персональном компьютере в начале 1990-х годов привело к созданию навигационных помощников на смартфоне, которые самостоятельно находят припаркованный автомобиль, предлагают маршруты, чтобы избежать пробок или альтернативных видов транспорта, и указывают на заправочные станции. Автономные транспортные средства все чаще берут на себя многие функции вождения. Будущий проактивный личный помощник самостоятельно распознает требования к мобильности и организует поездку или, как вариант, телеконференцию.

Проактивные цифровые сервисы основаны на огромных коллекциях данных, которые обеспечивают доступ к личной информации людей и их окружения. Персональные данные получены из интернет-трафика, созданного людьми, из документации их медицинских заключений, из датчиков в автомобиле, дома и на теле (носимых устройств), а также из камер наблюдения. Кроме того, есть фактические данные, то есть данные о компаниях, продуктах и ​​транзакциях, а также измеренные значения от датчиков, таких как метеостанции. Чтобы подчеркнуть универсальность этих наборов данных, некоторые люди называют их всемирной базой данных, несмотря на то, что они отображают лишь небольшие фрагменты реальности и фактически распределены по многим базам данных.

Аналитика данных, также известная под многими другими терминами, такими как глубокое обучение, выводит шаблоны из данных, которые описывают поведение людей и из которых цифровые сервисы получают свои рекомендации.

Facebook, Amazon, Microsoft, Apple, Netflix и Google, а также Baidu, Alibaba и Tencent являются доминирующими потребительскими платформами (мегапорталами). У них самое большое количество пользователей, самые большие базы данных, самые продвинутые модели потребительского поведения, и они интегрируют все больше и больше функций, для которых раньше потребителю требовались изолированные сервисы, в частности приложения.

Искусственный интеллект в виде персонализированных, проактивных цифровых услуг коренным образом меняет жизнь людей, но мы не готовы к этому качественному скачку в социотехнической эволюции.

Машинный интеллект и этика

Часто бывает так, что люди больше не могут понять, как искусственный интеллект принимает решения, будь то результат поиска по запросу Google, одобрение кредитной заявки, обработка заявления о приеме на работу или персонализированный подбор новостей. Поставщики продуктов и услуг анализируют наше поведение, наши предпочтения и наши финансовые возможности, сообщают нам новости, связанные с их предложениями, контролируют наши потребности с помощью рекламы и связывают нас непрозрачными условиями.

Мы наблюдаем массовое смещение власти не только между отдельными людьми и мегапорталами, но все чаще и между монополистическими платформами и правительствами. Политики, предприниматели и ученые наблюдают за этим развитием с его возможностями и рисками и пытаются направить его на благо людей. С апреля 2019 года Министерство юстиции США и Федеральная торговая комиссия США готовят антимонопольные иски против Alphabet (Google), Facebook, Amazon и других мегапорталов[1] с целью поощрения конкуренции.

ОЭСР [2], IEEE [3], отдельные штаты, такие как Калифорния [4] и ЕС [5], разрабатывают этические принципы использования машинного интеллекта, т. е. всех типов цифровых услуг, таких как автономные транспортные средства, домашние автоматизация, интеллектуальные экзоскелеты, мобильные приложения и веб-сайты, вплоть до предотвращения преступлений. Они постулируют такие человеческие ценности, как благополучие, права человека, прозрачность, отслеживаемость решений, баланс между работой и личной жизнью и человеческая автономия. Хотя этические принципы, появившиеся к настоящему времени, приветствуются, их трудно воплотить в объективно проверяемые действия.

Качество жизни

Какова конечная цель этики? Человеческое благополучие. Конечная цель человечества – это счастье, или, говоря более скромно, качество жизни. Психологи, нейробиологи, политологи, экономисты, философы и представители других дисциплин пытались определить, что делает людей счастливыми, от Платона и Эпикура до современных исследований счастья, как это задокументировано, например, в ежегодном Докладе ООН о мировом счастье.

Упомянутые этические принципы, такие как автономия, являются общепризнанными ценностями, но не разъясняют, как эти ценности способствуют повышению качества жизни. Если мы действительно хотим управлять машинным интеллектом на благо людей, нам нужно лучше понять, что хорошо для людей. Если бы, кроме того, мы смогли сделать вклад измеримым, у нас были бы инструменты для эффективного, ориентированного на человека контроля над технологическим прогрессом.

Модель качества жизни, показанная на рисунке ниже, была создана с учетом этой цели. Он пытается обобщить результаты доступных сегодня исследований счастья и представляет факторы счастья (и несчастья) в виде нейронной сети из 13 потребностей (подробное описание см. в [6] с.48).

В модели различаются потребности в репликации, т. е. потребности в самосохранении и сохранении вида, и потребности в прогрессе, которые способствуют отбору лучших генов и расширению знаний. Богатое общество высокоразвитых государств может в значительной степени удовлетворить потребности самосохранения и сохранения вида и дает нам ресурсы, чтобы приложить больше усилий для нужд прогресса. Люди все чаще используют свою энергию, чтобы отличаться от своих соперников в соревновании за самовоспроизведение. В естественной эволюции это обеспечивает отбор лучших генов, а в техническом прогрессе — конкуренцию за лучшие идеи. Психология наблюдает гедонистическую беговую дорожку, потому что, хотя удовлетворение потребностей отбора вызывает гедонию только на короткое время, гедонистическое приспособление гарантирует, что эти потребности требуют все более сильных стимулов. Кроме того, каждое улучшение относительно, потому что конкуренты (аналоги) также стараются изо всех сил. Гедонистическая беговая дорожка вместе с сенсорной перегрузкой и другими факторами несет ответственность за то, что количество рабочих дней, потерянных из-за психических расстройств, почти утроилось за последние два десятилетия [7].

Качество жизни и эволюция

Технический прогресс принес человечеству материальное благополучие, которое было немыслимо еще несколько лет назад. В рыночной экономике потребители покупают то, что приносит им наибольшую пользу, а компании производят то, что лучше всего продается. Это должно гарантировать, что технологическая эволюция работает на благо людей.

Однако люди на самом деле не знают, что делает их счастливыми, а даже если и знают, то часто не действуют соответствующим образом. Кратковременное удовлетворение таких потребностей, как удобство (эффективность) или удовольствие (еда), часто преобладает над разумным поведением для долгосрочного удовлетворения. Мы отказываемся от приватности в пользу удобства и тем самым теряем автономию (власть). Мы потребляем чрезмерное количество шоколада и в результате портим нашу внешность в долгосрочной перспективе. Мы жертвуем своим здоровьем, чтобы получить доход (капитал), чтобы мы могли отличаться от наших сверстников предметами роскоши, в то время как наши сверстники делают то же самое. Если бы мы были разумны, не было бы чрезмерной задолженности, ожирения и эмоционального выгорания.

Эволюция ведет технический и экономический прогресс с помощью гедонистической беговой дорожки. Как только удовлетворены основные потребности самосохранения и сохранения вида, нами движут потребности в самооценке, знаниях, статусе и доходе (капитале). Мы используем технологии, чтобы производить больше с меньшими затратами и, таким образом, генерировать капитал. Мы используем капитал, чтобы сделать технологии, в частности машинный интеллект, более мощными.

Люди не знают цели эволюции. Но если мы посмотрим на историю эволюции, в частности, на историю машинного интеллекта, мы сможем сделать вывод, что интеллект — важная, если не самая важная цель эволюции. Эволюция использует человеческое счастье и несчастье только как стимул для прогресса. И именно прогресс, а не человеческое счастье, кажется, является целью эволюции. Или, выражаясь с другой точки зрения: эволюция не служит цели человека; вместо этого люди служат цели эволюции.

В экономике еще не найден механизм управления, обеспечивающий конкурентоспособность в техническом прогрессе с одной стороны и качество жизни с другой. На данный момент мы довольствуемся формулированием международно признанных правил, которые предотвращают явное злоупотребление искусственным интеллектом в ущерб людям. Примеры включают право на конфиденциальность личных данных, право на разъяснение решений или право на равный доступ в Интернет. Как рыночная экономика, так и государственный контроль, как, например, в системе социального подсчета в Китае, несут в себе как возможности, так и риски.

Люди могут использовать предложенную модель качества жизни, чтобы ориентировать свою жизнь на устойчивое высокое качество. Сегодня компании используют высокодифференцированные знания, чтобы побудить людей удовлетворять свои краткосрочные потребности (гедония), но также могут стремиться к долгосрочному удовлетворению (эвдемония), как это пытается сделать корпоративная социальная ответственность [8]. Политики обсуждают симптомы, т.е. широкополосной связи вместо того, чтобы устранять последствия важных социальных и экономических изменений.

Задачи инженерии жизни

Нам нужна дисциплина Life Engineering, которая охватывает следующие области [6]:

· Факторы и измерение качества жизни: Датчики, например. в носимых устройствах будет предоставлять более подробные, точные и актуальные показатели качества жизни.

· Машинный интеллект во всех сферах жизни. Искусственный интеллект будет все чаще предоставлять цифровые услуги во всех сферах человеческой жизни.

· Всемирная база данных как совокупность всех личных и фактических данных: крупные платформы b2b и b2c, а также общедоступные базы данных будут в цифровом виде представлять реальный мир с уровнем детализации, который сегодня еще невообразим.

· Модель мира как знание о человеческом поведении: аналитика данных будет использовать гигантские коллекции данных для получения все новых и новых моделей (правил) поведения в мире.

· Механизмы контроля устойчивого качества жизни. Люди, предприятия и государственные организации должны использовать эти знания для разработки технологий и механизмов сотрудничества на благо людей, а не только капитала.

Видение Life Engineering на 2030 год и далее может выглядеть так: транзакционные приложения, социальные сети и триллионы датчиков фиксируют поведение людей и их окружения (природы и машин). Гигантские платформы B2C и B2B, то есть всемирные электронные рынки, будут получать все более подробную, актуальную и точную цифровую картину мира. Life Engineering получает доступ ко всем этим данным и узнает, как интеллектуальные услуги могут улучшить качество жизни людей. Человечество стоит на пороге следующего этапа цивилизации, инженерия жизни должна помочь в переходе.

Мы можем оставить развитие машинного интеллекта механизмам эволюции или взять счастье в свои руки. Это означает выбор либо прогресса за счет качества жизни, либо качества жизни за счет прогресса.

использованная литература

[1] Дж. М. Шлезингер, Б. Кендалл и Дж. Д. Маккиннон, «Технологические гиганты Google, Facebook и Amazon активизируют рынок антимонопольных дебатов», WSJ, стр. 1–10, 8 июня 2019 г.

[2] ОЭСР, Цифровой переход. [Онлайн]. Доступно: www.oecd.org/going-digital/topics. [Доступ: 22 апреля 2019 г.].

[3] IEEE, «Этически согласованный дизайн — обзор версии II», 2018 г.

[4] Дж. Дин, Т. Грубер и А. Ромеро, Штат Калифорния одобряет принципы Asilomar AI, 2018 г. [Онлайн]. Доступно: https://futureoflife.org/2018/08/31/state-of-california-endorses-asilomar-ai-principles/. [Доступ: 7 сентября 2018 г.].

[5] Экспертная группа по искусственному интеллекту, «Этические рекомендации для надежного ИИ», 2018 г.

[6] Х. Остерле, Life Engineering. Машинный интеллект и качество жизни. Спрингер, 2020.

[7] Дж. Маршалл, С. Хильдебрандт и Х.-Д. Нолтинг, Gesundheitsreport 2019 — Analyze der Arbeitsunfähigkeitsdaten. Alte und neue Süchte im Betrieb. Гамбург: DAK-Gesundheit, 2019.

[8] М. Х. . Шмидекнехт и Дж. Виланд, «ISO 26000, 7 Grundsätze, 6 Kernthemen», Corporate Social Responsibility. Verantwortungsvolle Unternehmensführung in Theorie und Praxis, Берлин, Гейдельберг: Springer Gabler, 2015.

https://doi.org/10.1007/s12525-019-00388-1

Опубликовано на сайте Electronic Markets 8 января 2020 г.

Большое спасибо за разрешение на публикацию на www.lifeengineering.ch.