Так много в нашей жизни движут вещи, которые мы не можем объяснить, почему ИИ должен быть другим?
Математик Джон фон Нейман, как известно, сказал: «В математике вы ничего не понимаете. Просто привыкните к ним ». Если у вас когда-либо была возможность изучать математику, вы точно знаете, что он имел в виду. Так много математики неточны и не до конца объяснены. Просто работает. Набор мнимых чисел, понятие бесконечности, действительная система счисления и набор иррациональных чисел - вот несколько примеров этого. И, конечно же, есть Пи.
Википедия описывает Пи как математическую константу, и мы все пришли к этому факту. Но это константа, не повторяющаяся и никогда не имеющая конца. Кого-нибудь, кроме меня, это немного смущает? Пи для набора иррациональных чисел то же самое, что Битлз для рок-н-ролла. Это фундаментально. Без Пи мы не смогли бы понять углы и отношения, существующие в круге. И если бы мы не понимали круги и углы, мы не понимали бы и тригонометрии. Без тригонометрии нет исчисления. Без исчисления мы теряем все, от нашего понимания физики до искусственного интеллекта.
Можно сказать, что все наше понимание математики построено на наборе концепций, которые мы понимаем не полностью. У нас есть приблизительное представление о вещах, и оно кажется достаточно хорошим.
Это явление не относится к математике. В нашей жизни есть много незавершенных теорий, которые мы принимаем как непоколебимую истину.
Для начала есть квантовая механика. Это основа современной физики. Но видели ли вы когда-нибудь атом, кварк или бозон? Предупреждение о спойлерах - ни у вас, ни у кого-то другого тоже.
Затем, конечно, есть Evolution. Насколько я могу судить, эволюция настолько устойчива, насколько это возможно в любой теории. Это дает мне паузу, чтобы даже поднять этот вопрос из опасения, что меня исключат как отрицателя науки. Проблема с эволюцией в том, что она решена до тех пор, пока не дойдет до объяснения таких вещей, как люди или ДНК. На мой взгляд, большие пробелы.
А как насчет гравитации? Я, конечно, верю в это, но кто-нибудь знает, что это такое?
Вы бы поверили мне, если бы я сказал вам, что нет единого мнения о том, что заставляет самолеты летать?
И, конечно, вы знаете, что я думаю о времени.
Мой вопрос к вам: в мире, полном необъяснимых явлений, которые мы просто безоговорочно приняли, почему люди так непреклонны в том, что алгоритмы искусственного интеллекта можно объяснить?
Правила, правила, правила
«Хорошо знай правила, чтобы эффективно их нарушать».
-Далай Лама
Людям нравятся правила. Они не любят, когда ими правят, но наличие набора правил, которым они могут следовать, делает людей в целом счастливыми. Даже люди, которые «не живут по правилам», живут по правилам.
На протяжении большей части своей истории информатика определялась программами, которые кодируют правила в компьютерах для выполнения некоторых задач или функций. Такие структуры, как логические операторы, операторы «если-то», циклы и массивы, стали мастерами логики программирования и обеспечивают соблюдение правил, управляющих миром. Программисты стремятся создавать аккуратно структурированные данные, оперируемые аккуратно структурированным кодом.
Вещи точны. Ничего не приближено. Все учитывается в коде или вызывает исключение. И это кажется естественным. Это кажется правильным.
На самом деле это неестественно.
ИИ больше соответствует природе
Как я описал выше, мир природы полон теорий, которые являются всего лишь приближением того, что происходит. Наша модель мира соответствует наблюдаемому нами миру, и это нас удовлетворяет. Точно так же искусственный интеллект основан на идее приближения к данным. В результате подход ИИ намного более надежен, чем подход, основанный на правилах.
Однако, как выясняется, именно этот подход является причиной, по которой мы не можем объяснить, почему алгоритм ИИ пришел к такому выводу. Алгоритм, основанный на правилах, всегда будет следовать одному и тому же пути к ответу (или возвращать ошибку), и вы можете сказать, посмотрев на код, каким будет этот путь. Алгоритм искусственного интеллекта будет следовать случайному пути к ответу, и нет простого способа узнать, каким был этот путь. С алгоритмом AI мы не узнаем ответ, пока модель не будет обучена и мы не дадим ей некоторые входные данные. Подход, основанный на правилах, пытается заранее запрограммировать все возможные ответы в коде.
Чтобы лучше понять это, давайте рассмотрим следующий пример. Предположим, мы хотим написать компьютерную программу для определения подходящей цены на дом в определенном районе. Мы могли бы собирать данные о ценах на разные дома с переменными, которые описывают размер, стиль и состояние каждого дома. Затем мы могли бы написать компьютерную программу, которая использовала правила для определения подходящей цены нового дома на рынке на основе этих характеристик. Проще говоря, правило может выглядеть как предложение, приведенное ниже.
если стиль = «колониальный», размер = «средний» и состояние = «удовлетворительное», то цена = 450 000
Это несколько упрощенно, но помогает проиллюстрировать суть дела. Проблема с этим подходом в том, что код никогда не поспевает за данными. По мере усложнения данных правила должны меняться, чтобы не отставать от них. Компьютерная программа станет длиннее и сложнее. И это именно то, чем мы занимались последние 50 лет - создавая более длинные и сложные программы, которые невозможно поддерживать и которые никто не понимает.
AI придерживается совершенно противоположного подхода. Код не растет по мере роста проблемы. Вместо того, чтобы пытаться создать функцию, которая может соответствовать представлению о мире на основе данных, ИИ использует данные для обнаружения функции, которая описывает уже существующий мир. Чтобы изменить функцию, вы не меняете код, вы просто передаете алгоритму больше данных.
В результате ИИ может понимать отношения, которые бесконечно сложнее, чем может когда-либо надеяться структурированная программа, и он будет адаптироваться к изменениям без изменения алгоритма или кода.
Какой подход сейчас кажется более естественным?
AI демократичен
Позвольте мне оставить вас на ноте надежды. Алгоритмы, которые мы используем в искусственном интеллекте, не закрыты, не скрыты и не созданы какой-то безымянной сущностью. Это правда, что у людей есть новые и проприетарные реализации алгоритмов. Однако любой может реализовать математику, стоящую за ними, и эта математика существует уже сотни, если не тысячи лет в некоторых случаях. Кроме того, большая часть инноваций в области искусственного интеллекта исходит от исследовательских институтов и университетов и представляет собой опубликованные работы, которые мы все можем использовать. Суть в том, что ИИ демократичен.
Итак, сядьте, расслабьтесь и знайте, что все будет хорошо.
