Помню, как я упомянул Игорю Александру — одному из великих пионеров и мыслителей ИИ — когда брал у него интервью для журнала Philosophy Now, что для многих людей ИИ будет неожиданным, завернутым в пленку, 2-для -1 сделка.

Какой неожиданный предмет оказался в зоне упаковки? Что ж, если вы узнали фразу, выделенную курсивом, вы, вероятно, опытный пользователь касс самообслуживания в супермаркетах (вероятно, британских; не стесняйтесь приводить эквиваленты на французском, немецком и т. д.), где машины кажутся слишком легко застигнутыми врасплох.

Крайняя близорукость, мешающая им увидеть то, что нам вполне предвидимо, и вообще их негибкость почти неизбежно ведут к довольно одностороннему диалогу о недостатках машины, конструктора, фабриканта и продавца, это можно аккуратно сформулировать в простой фразе: «Глупые чертовы машины!» - потому что они такие. И это вторая половина сделки ИИ 2–4–1: искусственная глупость (далее AS™).

Увы, искусственная глупость так же неизбежна, как и естественная глупость, но мы принимаем природную глупость в значительной степени как должное, потому что знаем, что все мы ошибаемся. Это совершенно обычное последствие наличия мягких, мягких мозгов с ограниченной способностью что-либо понимать, не говоря уже о мире, который мы можем воспринимать лишь смутно.

В царстве чувств

Хотя в этом не должно быть стыда. Я думаю, что мы неплохо справляемся по сравнению, например, с осами позднего лета, которые скорее умрут в славной битве против оконного стекла, чем отлетят в сторону на два дюйма и убегут через открытое окно. Тем не менее, наши чувства индивидуально слабы, даже если наш более крупный мозг в определенной степени компенсирует это: наши глаза (обычно) имеют только три типа цветовых рецепторов, тогда как креветка-богомол имеет двенадцать (плюс чувствительность к ультрафиолетовому излучению и поляризации); говорят, что обоняние собак может быть в сто миллионов раз более чувствительным, чем наше, — а самец тутового шелкопряда может обнаружить единственную молекулу бомбикола; мы можем слышать только до 20 кГц (если мы молоды и удачливы), но дельфины и летучие мыши могут слышать 100 кГц и более.

Тем не менее, независимо от качества данных, к которым у вас есть доступ как у осы, летучей мыши, мотылька, дельфина или человека, всегда есть пределы, всегда индивидуально неоднозначные сигналы, и что действительно важно, так это то, как вы понимаете (очевидно) все сенсорные данные. вместе взятые. Как только мы объединим зрение, звук, слух и т. д., становится труднее — но не невозможно — быть обманутым, смутно воспринимать и действовать глупо.

Поскольку быть разумным, в конечном счете, означает достигать целей, используя соответствующие инструменты, модели поведения и знания, мы должны сосредоточиться на правильных вещах. И даже самые умные, бдительные и внимательные люди — т. е. мы с вами — можем иногда совершенно не видеть слона в комнате, потому что мы не ищем слона; наши способности познания дают нам силу, но они также могут предать нас. (Если вы хотите в полной мере оценить, насколько мы уязвимы перед слабостью внимания, пройдите этот тест. Сколько раз проходит баскетбольный мяч?)

Несмотря на то, что это обычно достаточно хорошо, наше мышление может быть хрупким, и хотя мы можем признавать свои слабости, мне иногда кажется, что мы верим, что если бы только у нас был ясный, четкий кремниевый мозг, работающий с лучшими данными, все, несомненно, шло бы более гладко. — Боюсь, нет.

Отсутствие интеллекта

Если мы определим интеллект как способность использовать информацию — как это сделал я, но с большим содержанием слова эксплуатация, возможно, как-нибудь в другой раз (см. Legg & Hutter, A Formal Measure of Machine Intelligence, 2006, о котором я не знал до последнего времени) — тогда мы могли бы также определить глупость как неспособность использовать информацию, которая может проявляться множеством способов. Хотя я подозреваю, что только царапаю поверхность нашей информационной слабости, мы можем не использовать имеющуюся у нас информацию, не знать, что у нас слишком мало, не искать больше, не знать, как или где искать более качественную информацию, и не признают информацию актуальной и полезной.

Тем не менее, один из наиболее частых, вредных и неизбежных способов, которыми мы не можем использовать информацию, — это делать предположения, когда данные, которые раскрывают правду, действительно доступны для нас, если только мы достаточно умны, чтобы использовать их.

Я живу в Англии; Выглядываю в окно, вижу, что солнечно, и решаю прогуляться без зонта. Я мог бы проверить прогноз погоды или даже метеорологический радар, но нет, я предположил, что, поскольку было солнечно, солнечно и дальше будет. Это не так. И все же предположение необходимо: мы должны встроить закономерности мира в наши ментальные модели, иначе мы никогда ничего не добьемся — и мы не убежим вовремя от голодного крокодила, если не будем исходить из того, что он не может лазить по деревьям. . Из чего мы видим, что еще один способ потерпеть неудачу — не делать предположения.

(Плохая) логика Уловки Машинного Обучения-10110 (22 для сторонников десятичной системы счисления) проявляется повсюду: у вас не может быть разума без модели мира, но глупость — это неизбежный результат необходимое несовершенство — и несовершенство — любой модели мира: "карта — не территория". Мы можем быть полностью убеждены в истинности вещи и в то же время неправы, и нет выхода из этой связи, мы можем только признать ее.

Признание этого только заведет нас до сих пор. Мы не должны обвинять машину в недальновидности, если у нее нет доступа к информации и пониманию, которые так же хороши, как у нас. Мы не должны, но мы делаем. Таким образом, хотя Искусственная Глупость передает чувство закатывания глаз, что не совсем неуместно для ошибочной идентификации чихуахуа как пиццы просто потому, что на чихуахуа написано "Пицца", я думаю, что наивность была бы быть более справедливым термином — у него есть прецедент.

Если бы у нас был только мозг

В рассказе Волшебник страны Оз, полагая, что у него его нет, Страшила сокрушается, если бы у меня был мозг — а оказывается, ему всего несколько дней от роду и он еще не успел многому научиться; он наивен в буквальном смысле того, что (недавно) родился невежественным.

Увы, ИИ, который мы внедряем, еще не является общим ИИ, и он не продолжает учиться: в настоящее время системы ИИ — или машинного обучения — обучаются, тестируются, а затем развертываются в фиксированном состоянии (хотя некоторые обученные модели теперь можно повторно использовать в качестве компонентов в более крупных моделях, что, по крайней мере, является шагом в правильном направлении).

Наш ИИ в худшем состоянии, чем Пугало, а убогая, тупая, чисто алгоритмическая (процедурная) касса самообслуживания в супермаркете еще хуже: что-то берешь, а вес с одной стороны кассы опускается, так и должно быть. быть отсканирован до того, как его вес появится на другой стороне, и даже если это так, горе тому покупателю, который также положит туда что-нибудь еще, чтобы он мог взять следующий предмет для сканирования: неожиданный предмет в багажном отделении. Это не пример машинного обучения, не говоря уже об ИИ, но это глупая машина, и мы склоняемся к концептуальной экономике (это должно быть прекрасным британским парламентским оскорблением наравне с «Уважаемый член довольно экономен с правдой». .») — нам нет нужды пока различать машины по интеллекту.

Но как насчет машины, которая может смотреть на изображение, а также читать и распознавать изображения? У таких машин очень ограниченное чувство «идентификации» (возможно, всего несколько тысяч вещей; сколько вещей вы можете распознать в мире?), и на самом деле это шаг вперед для машины, чтобы обрабатывать изображения и текст и один раз. Разочаровывает тех из нас, кто умеет видеть и читать, что он каким-то образом не просто знает правильный ответ.

Согласованность

Причина, по которой это важно, заключается в том, что истинный общий интеллект (подробнее об этом в другой раз) в значительной степени синтетический — он опирается на разнообразные источники данных и способы согласования информации на множестве уровней абстракции; наш нынешний машинный интеллект не может достичь этого общего интеллекта, потому что он не может синтезировать в той же степени, что и мы. Они не могут обнаружить несоответствия.

Когда мы смотрим на мир, мы не просто видим образы, слышим звуки и т. д., мы интерпретируем их — мы синтезируем модель мира, которая должна соответствовать тому, что мы можем видеть, слышать, осязать и т. д. — эта интерпретация формирует то, что мы воспринимаем, а то, что мы воспринимаем, формирует наш сознательный опыт, который контролирует внимание, направляющее наши чувства… и так далее.

Прелесть мозга в том, что этот процесс в значительной степени автоматический и легкий, настолько, что мы обычно принимаем синтетическую природу нашего восприятия как должное.

Некоторые использовали это весьма приземленное наблюдение о синтезе восприятия, чтобы утверждать, что мы вообще не видим реального мира, но помимо привлечения внимания к тому факту, что то, что мы «видим», и то, как мы реагируем на это, подвержено многим виды перцептивных и психологических предубеждений, и, несмотря на мое общее понимание философии, это кажется совершенно бесполезным. Если вы не убежденный солипсист, вы живете в реальном мире, где то, что вы видите, в значительной степени совпадает с тем, что вы получаете. И, поскольку мир не является плодом вашего воображения, он следует своим собственным правилам, которые вам лучше понять, если вы хотите избежать отравления этой красивой красной ягодой, тошноты от этой вонючей коричневой воды или съеденного на обед полосатым животным. пушистая вещь с длинными усами.

Я хочу сказать, что наше понимание мира — удивительно сложная вещь, обязательно основанная на объективных фактах: ваши убеждения о красных ягодах, пригодности для питья или привлекательности животных не окажут никакого влияния на их воздействие на вас. Но эта изощренность возникает из-за одновременного сочетания многочисленных шумовых входных данных и прошлого опыта таким образом, что наш нынешний машинный интеллект еще не может сравниться.

Наши самые сложные модели чрезвычайно ограничены по объему, подавляющее большинство из них имеет дело с текстом или статическими изображениями, и, как мог бы— а мог и не сказать — сказать д-р Джонсон,ИИ в настоящее время похож на собаку, идущую на задних лапах. Это не сделано хорошо; но вы удивлены, обнаружив, что это вообще сделано.

Машины в нашем образе

Пройдет еще некоторое время, прежде чем мы будем регулярно и подробно разговаривать с машинами, еще дольше, прежде чем они перестанут совершать глупые ошибки, а скорее наши ошибки, и еще дольше, пока они не смогут оправдать наши надежды на ИИ — что эти новые мозги, как и у Страшилы, смогут «разгадать каждую загадку для любого человека, В беде или в боли».

Но не забывайте, ум и глупость — это две стороны одной медали, и хотя мы признаем идеи вины через небрежность (простую и грубую) и безрассудство, мы не придумали, как нам поступать с недостатками ИИ. .

Помимо корпоративной ответственности и т. д. для производителей или пользователей ИИ, должны ли быть стандарты интеллекта для наших систем с машинным обучением? Какие виды или частота ошибок простительны, какие глупости должны оставаться за решеткой?

Я не знаю. Но тогда я всего лишь человек.