Пока мы боремся с глобальной пандемией, такие технологии, как искусственный интеллект и машинное обучение, могут помочь нам победить ее, но мы должны принять моральное решение о том, как изменится наше общество.

Темпы, с которыми технологии меняют ткань общества, ускоряются. Facebook был запущен в США в 2004 году. IPhone не существовал до 2007 года. Менее чем за 20 лет ткань жизни радикально изменилась благодаря мобильным вычислениям, социальным сетям, а в последнее время - искусственному интеллекту и машинному обучению. Эти технологии часто демонизируются. Развитие машинного обучения и искусственного интеллекта обычно изображается как шаги на пути, который заканчивается доминированием роботов над человечеством, миром постправды, в котором ложные сюжетные линии продвигаются ботнетами, или бедным будущим, в котором миллионы людей остались без работы из-за бессердечия. машины. Все это звучит пугающе, но я считаю, что на самом деле машинное обучение открывает огромные возможности для улучшения человечества. Что необходимо изменить, чтобы это стало возможным, - это то, как мы обсуждаем и думаем о технологиях как о обществе.

Машинное обучение - по сути, алгоритмический процесс, посредством которого система улучшает свою производительность за счет повторения - и более широкая область искусственного интеллекта уже много лет вызывает серьезные разногласия. С одной стороны, люди из типично вызывающих профессий, таких как материаловедение (моя собственная область исследований), информатика или медицина, обычно воспринимают машинное обучение как удивительный инструмент для ускорения исследований и улучшения результатов в целом ряде отраслей. С другой стороны, эксперты в области гуманитарных и социальных наук часто осмотрительно подходят к ИИ и машинному обучению и ищут возможности для злоупотреблений со стороны корпораций, правительств и недовольных. Поскольку интеграция технологий в наше общество ускоряется, дебаты по поводу их морального использования становятся все более актуальными. С внезапным переходом к цифровому существованию, вызванным пандемией COVID-19, эти дебаты рискуют достичь точки кипения. К счастью, лучшие мыслители любого профиля - естественнонаучного или гуманитарного - признают важность обеих точек зрения.

Когда обе стороны готовы слушать друг друга, есть много точек соприкосновения. Создание реального диалога - и участие в активном слушании - между разрозненными группами по важным технологическим темам, таким как роль машинного обучения в обществе, было ключевой целью недавно завершенного мной и коллегами из Оксфордского университета отчета, который был спонсирован Благотворительного фонда Templeton World. В этом отчете Гражданство в эпоху сетевых технологий делается попытка понять, что значит быть гражданином во все более взаимосвязанном и в то же время изолированном цифровом мире. Важный вывод отчета состоит в том, что разрыв между технологами и социологами можно преодолеть, поскольку он происходит не из-за фундаментальных разногласий в принципах, а, скорее, из-за подхода к дискуссии с разными знаниями и проблемами.

Многие специалисты в области технологий видят в инструментах, таких как машинное обучение и искусственный интеллект, именно такие инструменты, которые предназначены для поддержки человеческих усилий, и склонны спорить, как такие инструменты могут использоваться для оптимизации технические решения. Люди, обеспокоенные социальным воздействием этих технологий, склонны подходить к дискуссии с моральной позиции и спрашивать, как эти технологии должны использоваться для содействия процветанию человечества.

Это не неразрешимый конфликт, и не чисто академический. По мере того, как мир борется с пандемией коронавируса, общество все чаще сталкивается с решениями о том, как следует использовать технологии: следует ли отслеживать контакты больных людей с использованием данных сотовых телефонов? Должны ли ИИ определять, кто может или не может работать или путешествовать, на основе последних результатов тестов на COVID-19? Эти вопросы имеют как технические, так и моральные аспекты. К счастью, люди обладают уникальной способностью к нравственному выбору, которой просто нет у машин.

Один из наших выводов заключается в том, что для того, чтобы человечество процветало в новую цифровую эпоху, мы не можем отделять наши технические решения и инновации от моральных рассуждений. Новые технологии требуют инноваций в обществе. Думать, что развитие технологий можно остановить или что устоявшиеся моральные нормы не нужно заново применять к новым обстоятельствам, - это рискованный путь. Часто приходится идти на компромисс между социальными целями, такими как сохранение конфиденциальности, и технологическими целями, такими как определение переносчиков болезней.

Выступая с лекцией Романеса в Оксфорде в 2019 году, баронесса Элиза Маннингем-Буллер, бывший генеральный директор британского разведывательного агентства MI5, выразила сожаление по поводу отсутствия во время ее пребывания в должности публичных дебатов о значении конфиденциальности по сравнению со способностью навязчивого сбора данных для предотвращения террористических атак. Существует постоянное противоречие между стремлением собирать больше данных, чтобы предотвратить нападения, и правом людей жить своей жизнью, не скрываемой правительством. Если сейчас мы не начнем энергичные дебаты, использование технологий для замедления пандемии COVID-19 может также потребовать участия гражданского общества. Чтобы избежать эха групповых интересов, каждый должен иметь возможность участвовать в этой дискуссии.

Эта дискуссия требует как технических, так и моральных вкладов. Старая модель Homo economicus - рационального, эгоистичного, жадного и ленивого человека - прошла срок годности. Его отодвигают на задний план то, что я называю Homo fidelis - этичные, заботливые, щедрые, энергичные женщина и мужчина. Связанные с этим добродетели могут быть полностью реализованы только через сотрудничество, способы, которые изменились после блокировки. Если мы все сделаем правильно, технологии эпохи сетевых технологий откроют для Homo fidelis новые возможности способствовать процветанию человечества в лучшем виде.