Современный ИИ и фундаментальное уничтожение научного метода

Дни традиционного решения проблем, управляемого человеком - разработки гипотез, выявления принципов и проверки этой гипотезы с помощью дедукции, логики и экспериментов - могут подходить к концу. Сочетание факторов (большие наборы данных, инфраструктура пошаговых изменений, алгоритмы и вычислительные ресурсы) подталкивают нас к совершенно новому типу открытий, которые выходят далеко за рамки ограничений человеческой логики или принятия решений: управляемые исключительно искусственного интеллекта, основанного на радикальном эмпиризме. Последствия - от того, как мы отмечаем научное открытие до возложения моральной ответственности за эти открытия, - имеют далеко идущие последствия.

В 1962 году математик И.Дж. Гуд предсказал, что к 1978 году будет построена общая интеллектуальная машина, способная решать все самые сложные проблемы, оставшиеся в науке (1). В 1972 году кембриджский профессор Джеймс Лайтхилл заметил, что большинство исследователей искусственного интеллекта и смежных областей признаются в явном чувстве разочарования в том, что было достигнуто за последние двадцать пять лет (2). Последующие 30 лет будут наполнены дополнительными циклами ажиотажа (весны) и разочарования (зимы) в области искусственного интеллекта.

Сегодня искусственный интеллект возвращается к технологии, которой более 50 лет. Обновленная весна искусственного интеллекта, движимая множеством инфраструктурных достижений, теперь приносит реальные результаты. От умных личных помощников до беспилотных автомобилей и гражданского мониторинга - ИИ способствует широкому преобразованию многих аспектов нашего нынешнего общества.

В этом свете возвращение ИИ к известности не следует рассматривать как возрождение, а скорее как переформулировку.

Исследователи не только повторно применяют ранее опробованные методы машинного интеллекта, но также радикально меняют философский подход к определению интеллекта с самого начала. Изучение этого сдвига в перспективе может помочь контекстуализировать нынешнюю пружину искусственного интеллекта в более широком технологическом прошлом, объяснить нынешнюю динамику пространства и задать некоторые насущные вопросы о будущем.

Ранний ИИ: первые принципы и дедуктивная логика

Простое представление о машине, имитирующей любой уровень человеческой логики или принятия решений, получило множество имен, включая автомат, машинный интеллект и искусственный интеллект. С изобретением. Из-за вычислительного оборудования и связанных языков программирования в 1940-х годах исследовательское сообщество впервые начало предпринимать шаги для реализации перспектив ИИ.

Первый подход к ИИ отразил прецедент интеллекта, созданный математиками и учеными, прославившийся благодаря «Эврике!» момент, когда становятся ясными основные принципы сложной проблемы.

Подумайте о некоторых научных джаггернаутах в истории: Копернике, Эйнштейне, Ньютоне, Ватсоне и Крике, Дарвине и т. Д. Эти имена олицетворяют героические индивидуальные усилия блестящего исследователя: (1) думать о проблеме, (2) работать над ее решением. раскрыть основные принципы и (3) подтвердить гипотезу с помощью дедукции, логики и экспериментов. Первые дни искусственного интеллекта определялись аналогичной дедуктивной вычислительной логикой. Опять же, с упором на программиста, который кодифицирует статические правила, которым должен следовать компьютер.

Проблемы необходимо было свести к основным правилам, основанным на понимании основных принципов предметной области. Затем компьютерам будет предложено следовать логической последовательности «если-то-то-то», чтобы вывести конечный результат. Этот период информатики уходил корнями в дедуктивные рассуждения: (1) понять a priori основную структуру проблемы, (2) закодировать логику принятия решения в исполняемом коде и (3) передать компьютер, чтобы следовать статическим инструкциям и вычислить результат. Ключевое предположение здесь: мир управляется правилами, которые сначала интерпретируются и кодируются человеческим интеллектом. Основная роль ИИ - следовать этим закодированным правилам, чтобы машины могли воспроизводить результаты, уже намеченные людьми. Искусственный интеллект - это разновидность человеческого интеллекта, в лучшем случае его копия.

Мимикрия автоматов.

Современный ИИ: статистическая корреляция и радикальный эмпиризм

За последние 20 лет произошли некоторые важные инфраструктурные разработки, которые позволили создать принципиально другой тип ИИ.

Теперь у нас есть доступ к большим наборам данных, на основе которых можно строить статистические модели (Интернет), а также к инфраструктуре. для поддержки больших объемов данных (облачное хранилище). Оснащен парадигмами для вычислений с большими данными (MapReduce, Spark), статистическими и байесовскими алгоритмами (исследовательские лаборатории и университеты) и вычислительные ресурсы для выполнения итеративных алгоритмов (закон Мура, графические процессоры и все более специализированные FPGA / ASIC, предназначенные для оптимизации вычислений машинного обучения), современный искусственный интеллект начинает Emerge: один основан на статистической корреляции.

Статистическая корреляция основана на применении на компьютере моделей обучения для применения к большим наборам данных. Эти статистические модели формируются на основе эмпирических результатов и представляют собой корреляционное представление исторических знаний. Теперь мы можем предположить, что при наличии правильных наборов данных современные классификаторы ИИ могут создавать высокопроизводительные и прогностические модели без какой-либо зависимости от основных принципов, которые управляют проблемой.

ИИ, управляемый данными, теперь можно применять для решения сложных наборов проблем, в которых люди никогда не могли полностью кодифицировать решения для алгоритма, который можно имитировать. Почему нет? В некоторых случаях известные человеку решения слишком тонки и сложны для преобразования в код (распознавание изображений - это одна из областей: подумайте, сколько «правил» потребуется, чтобы описать компьютеру, что такое кошка).

В других случаях это происходит потому, что мы не даже решили проблему с самого начала. С помощью современных методов машинного обучения и глубокого обучения компьютер может создать высокопроизводительное решение проблемы, не раскрывая основополагающие принципы или логику этого решения. Это создает резкий разрыв между искусственным интеллектом и человеческим интеллектом, причем последний не является предпосылкой первого, а первый не обязательно способствует второму. Искусственный интеллект в настоящее время расходится с человеческим интеллектом.

Автоматы-обскура.

Эпистемологическое уничтожение интеллекта

Современный статистический подход к ИИ коренным образом меняет то, как мы думаем о проблемах и что значит решать проблему. Теперь речь идет о философском выборе семантики обучения и знания, как о выборе признаков и выборе классификатора.

Алан Тьюринг уже задавал эти эпистемологические (и экзистенциальные) вопросы в 1950 году - не меньше, чем в самом первом предложении своей новаторской статьи Computing Machinery and Intelligence:

Мы должны продолжить рассмотрение предложения Тьюринга. Поскольку современные подходы к статистической корреляции продолжают давать полезные модели сложных проблем, важно понимать, что это новый и радикально отличный от того тип интеллекта, который искали компьютерные ученые в 1950-х и 1960-х годах.

Этот новый тип интеллекта не обязательно соответствует нашему собственному мировоззрению и проливает свет на проблему. Этот тип интеллекта не имитирует блестящие способности исследователя-одиночки в момент открытия, а основан на запутанном методе многомерной классификации, обученном на нечитаемой горе данных.

Путь вперед: вопросы, а не ответы

У ИИ теперь есть захватывающий потенциал для развития областей, в которых наше собственное понимание основных принципов в лучшем случае неполно: биология, фармацевтика, геномика, автономные транспортные средства, робототехника и многое другое. Прогресс в этих дисциплинах будет и уже преобразует наше общество драматическим образом и ускоряющимися темпами.

Поскольку эта технология продолжает развиваться, она также порождает сложные вопросы по ключевым темам атрибуции и объяснимости.

Суверенитет
В апреле 2018 года исследователи из Мэрилендского университета применили методы машинного обучения для прогнозирования поведения хаотических систем (3), управляемых уравнением Курамото-Сивашинского. Используемые инструменты искусственного интеллекта вообще не имели доступа к уравнениям или информации в области теории хаоса, но смогли создать модель, которая предсказывала поведение системы в такой степени, которая никогда ранее не демонстрировалась.

Современный ИИ часто следует подходу команды Мэриленда: рабочий процесс, построенный на основе тщательно отобранных наборов данных и все более коммерциализированных методов классификации.

Объяснение, управление и движение 37
Победа программы AlphaGo над чемпионом мира Ли Седолом в 2016 году стала переломным моментом для ИИ. Уровень чемпионата в го долгое время считался недостижимым с помощью вычислительного интеллекта из-за комбинаторной сложности игры.

На ранних стадиях второго матча AlphaGo сделала ход, который был настолько неортодоксальным, что Ли Седол не отвечал в течение 15 минут - Ход 37 (4). Комментаторы во время матча назвали этот ход ошибкой, но некоторые в сообществе го с тех пор изучили этот ход и назвали его красивым. Поскольку ИИ построен на основе статистической корреляции и эмпиризма, может быть трудно объяснить (читай: обратное проектирование первых принципов и основополагающей истины) результаты. Эти системы открыты для интерпретации, потому что родной язык интеллекта не тот, который люди обязательно понимают. Споры о реальной стратегии, рассуждениях и логике Move 37 продолжаются и сегодня.

Если мы немного изменим приведенное выше тематическое исследование, от оценки движения Go, созданного ИИ, к оценке представления нового химического объекта, созданного ИИ, в FDA - станет ясно, что впереди нас ждет множество дилемм, связанных с приспособлением к этому новому интеллекту.

Мы все еще находимся на заре новой эры искусственного интеллекта и самого интеллекта. Скорость публикаций и достижений в этой технологии может соперничать только со скоростью возникающих моральных и эпистемологических вопросов. Объяснимость и управление будут играть решающую роль в принятии современных решений ИИ, особенно в регулируемых отраслях. Как мы можем интерпретировать предлагаемые решения и наложить их обратно на наши онтологии мира?

Примечание: Нан является соучредителем ежегодного курса в Стэнфорде по этой теме. Примечания можно найти здесь: http://www.stanfordventureseminar.com/notes

Показания:

[1] https://books.google.co.uk/books/about/The_Scientist_Speculate.html?id=SQoJlQEACAAJ&redir_esc=y
[2] http: //www.chilton-computing .org.uk / inf / Lithuania / reports / lighthill_report / p001.htm
[3] https://www.quantamagazine.org/machine-learnings-amazing-ability-to-predict-chaos-20180418 /
[4] https://www.wired.com/2016/03/googles-ai-viewed-move-no-human-understand/
[5] https: / /www.openphilanthropy.org/focus/global-catastrophic-risks/potential-risks-advanced-artificial-intelligence/what-should-we-learn-past-ai-forecasts#footnote5_s4u9n1a
[6] http : //static.googleusercontent.com/media/research.google.com/en/us/archive/mapreduce-osdi04.pdf
[7] https://www.technologyreview.com/s/604087 / the-dark-secret-at-the-heart-of-ai /
[8] http://ai.stanford.edu/~nilsson/QAI/qai.pdf