История конфликта, повлиявшего на развитие и исследования в области искусственного интеллекта.
Молодой Фрэнк Розенблатт находится на пике своей карьеры психолога, он впервые в истории создал искусственный мозг, который мог обучаться навыкам, даже New York Times освещала его историю. Но друг из его детства издает книгу, в которой критикует его работу, развязав интеллектуальную войну, парализовавшую исследования по ИИ на долгие годы.
Этим другом был Марвин Мински, он знал Розенблатта с юности, и его книга стала для сторонников символического ИИ прекрасным предлогом для распространения идеи о том, что нейронные сети не работают ».
Многие инженеры и ученые думают, что им не следует беспокоиться о политике или социальных событиях вокруг них, потому что они не имеют ничего общего с наукой. Мы узнаем, что конфликты интересов, политики и денег оставили человечество без надежд в области ИИ в течение очень длительного периода прошлого века, что неизбежно положило начало тому, что стало известно как Зима ИИ.
Это не история о математике, искусственном интеллекте или науке. Это история о жадности, невежестве и торжестве человеческого любопытства.
Это история AI Wars.
Нейрон
11-летний испанский мальчик с известным бунтарским поведением строит самодельную пушку, стреляет и разрушает дверь своего соседа, за что был арестован и заключен в тюрьму.
Тот же ребенок, Сантьяго Рамон-и-Кахаль, 40 лет спустя получил Нобелевскую премию.
Он был сыном хирурга, профессия которого заставляла семью постоянно путешествовать. Сантьяго был очень хорошим художником и гимнастом, но его отец никогда не поощрял эти способности. Эти таланты будут способствовать его успеху в дальнейшей жизни. Он изучал медицину в Сарагосе, а после завершения своей карьеры был завербован в испанскую армию и был отправлен на Кубу, где заболел малярией и туберкулезом. После выздоровления в Испании и нескольких лет работы профессором он начал использовать новый метод для наблюдения за тканями мозга, из которого он сделал обширные подробные рисунки основных областей мозга.
До 1900-х годов ученые полагали, что мозг представляет собой единую непрерывную сеть без каких-либо промежутков между ними.
Сантьяго использовал новую технику, чтобы продемонстрировать, что связь между нервными клетками не является непрерывной. Немецкий анатом Генрих Вальдейер выучил испанский язык, чтобы изучить открытия Сантьяго, и суммировал наблюдения в том, что он назвал: теорией нейронов (концепции «нейрон» до этого не существовало).
Способность нейронов расти у взрослого человека и их способность создавать новые связи могут объяснить обучение.
Сантьяго Рамон-и-Кахаль, 1894 г.
Благодаря этой последней цитате Сантьяго известен как первый нейробиолог в истории. Эти открытия навсегда изменили наше понимание мозга.
Благодаря этим новым знаниям психолог Фрэнк Розенблатт через несколько лет смог воспроизвести человеческие нейроны в том, что он назвал перцептроном.
Первый искусственный нейрон
В полдень 1935 года ребенка по имени Уолтер Питтс преследовали хулиганы, и он быстро нырнул в местную библиотеку, чтобы спрятаться. Библиотека была его убежищем от жестокого внешнего мира.
Питтс оставался в библиотеке три дня не только из-за хулиганов, но и потому, что его внимание привлекла книга Principia Mathematica, пытался свести всю математику к чистой логике. Питтс сел и начал читать почти 2000 страниц книги. В те дни он обнаружил некоторые ошибки и написал письмо Бертрану Расселу, автору, который был поражен тем, что Уолтеру было всего 12 лет ².
В 15 лет он сбежал из дома и с тех пор отказывался говорить о своей семье. Затем он начал свой жизненный путь, посещая лекции нескольких математиков в Чикагском университете. Там он познакомился с физиком Николаем Рашевским, основоположником математической биофизики, и был заинтригован его работой.
Эти новые знания вдохновили Уолтера воспроизвести функции мозга с помощью компьютера. Несколько лет спустя он опубликовал газету с человеком, который помог ему уйти с улицы (он был бездомным в течение нескольких лет), Уорреном Маккалоком. Они предложили первую математическую модель нейронной сети. Эта модель, простой формализованный нейрон, до сих пор является эталоном в области нейронных сетей. Когда они представили эту работу, Питту было всего 20 лет, и они были в разгаре Второй мировой войны. Оба ученых были вдохновлены Аланом Тьюрингом, британским математиком, который считается отцом компьютерных наук. Они использовали недавно опубликованную концепцию машины Тьюринга для воспроизведения мозга.
Перцептрон
Как сказал Сантьяго Рамон-и-Кахаль, люди учатся, когда наши нейроны создают новые связи. Если собака кусает нас, нейроны, отвечающие за распознавание собаки, и нейроны, распознающие боль, одновременно запускают сигналы, и создают связи между ними. По мере того, как мы собираем больше опыта с собаками, которые не причиняют нам вреда, связь между двумя группами нейронов ослабевает, и мы перестаем связывать боль с собаками ³.
Фрэнк Розенблатт, главный герой этой истории, родился в США в 1928 году, изучал психологию, но его исследовательские интересы были широкими: от нейробиологии до компьютерных наук. Эти различные поля позволили ему создать свой самый известный артефакт: перцептрон, электронное устройство, которое было сконструировано в соответствии с биологическими принципами и продемонстрировало способность к обучению .
Исследования многих ученых о том, как работает мозг, и создание компьютеров привели к созданию искусственного мозга, способного учиться. Фрэнк Розенблатт разработал персептрон, математическую структуру, которая имитирует процесс обучения в нейронах.
Персептрон - это структура, состоящая из трех элементов: нейронов, связей и параметра под названием вес, имитирующего силу связи между нейронами. Это разновидность искусственной нейронной сети.
Каждый нейрон хранит число, и это число является «сигналом» для других нейронов. На следующей анимации вы можете увидеть, как изменение в первом нейроне повлияет на следующий нейрон, если соединение сильное (вес), и не повлияет на него, если соединение слабое. Точно как человеческий мозг.
Полная структура перцептрона состоит из трех слоев и весов:
Вход - первый слой (синий) в нейронной сети. Он принимает входные значения и передает их на следующий уровень.
Скрытый слой (серый) - группа нейронов, которые помогают в обработке данных.
Выходной слой (зеленый) - слой, который используется для получения результата после операции.
В общем, перцептрон - это просто функция со входами и выходами, а веса - это всего лишь внутренняя работа функции.
Эту сеть можно обучить, как обучается ребенок, мы введем в сеть много примеров и увидим результаты в выходном слое, каждый раз, когда мы получаем плохой ответ, алгоритм изменит значения весов.
Более подробное объяснение вы можете найти в моей статье Забавное и очень простое введение в искусственный интеллект и машинное обучение.
Мужской против женского эксперимента
Розенблатт руководил разработкой компьютера для реализации этой идеи и пытался научить его распознавать различия между мужчинами и женщинами на фотографиях.
«Эмбрион электронного компьютера, который [ВМФ] ожидает, сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование».
The New York Times сообщает о персептроне.
Хотя перцептрон изначально казался многообещающим, быстро было доказано, что перцептроны нельзя обучить распознавать многие классы паттернов. Система не могла понять разницу между мужчинами и женщинами.
Именно тогда начался крах ИИ.
Книга
Чего исследователи не знали, когда работали над этой проблемой, это то, что сообщество ИИ обнаружило позже: для распознавания сложных паттернов нам нужно более одного слоя скрытых нейронов, и это ключ концепция того, что мы знаем сегодня как Глубокое обучение.
В книге Персептроны, опубликованной в 1969 году Марвином Мински и Сеймуром Папертом, представлены математические доказательства, которые признают некоторые сильные стороны перцептрона, но при этом демонстрируют основные ограничения. Самый важный из них связан с вычислением одной из самых простых операций, которые обычно выполняет ЦП: функции XOR.
Проще говоря, XOR - это логическая функция, которая возвращает истину, если истинно только одно из входных значений. В общих чертах, XOR - это логический вентиль, который возвращает истину, если количество истинных входов нечетно. Книга демонстрирует, что перцептрон только с одним скрытым слоем не способен отображать функцию XOR, подразумевая также, что он неспособен воспроизводить несколько сложных функций. Для обработки сложных функций нам просто нужно было больше слоев, но сообщество просто проигнорировало этот факт.
Розенблатт и Мински стали центральными фигурами дискуссии внутри исследовательского сообщества ИИ и, как известно, способствовали громким дискуссиям на конференциях, но оставались дружелюбными.
Выводы книги были неверно истолкованы как показывающие, что дальнейший прогресс в нейронных сетях невозможен и что от этого подхода к ИИ необходимо отказаться.
Марвин Мински оставался скептиком всю свою жизнь, и даже в последние годы своей жизни он не верил в достижения искусственного интеллекта. Он сделал много плохих прогнозов, даже будучи экспертом в этой области ».
Войны ИИ
Шумиха распространена во многих новых технологиях, таких как железнодорожная мания, пузырь доткомов и, в последнее время, рост биткойнов.
За всю свою историю исследования искусственного интеллекта пережили несколько циклов ажиотажа, за которыми следовали разочарование и критика, за которыми следовало сокращение финансирования с последующим возобновлением интереса спустя годы или десятилетия. Термин «AI Winter» был придуман по аналогии с идеей ядерной зимы.
Когда изучался перцептрон, появились новые подходы, в том числе символический ИИ. Основная проблема, развязавшая эту «войну с искусственным интеллектом», заключалась в том, что различные группы оказались в конкурентной борьбе за финансирование и людей, и их спрос на вычислительные мощности намного превышал доступное предложение ⁴.
Символический ИИ легче понять, а его результаты легко объяснимы, в отличие от нейронных сетей. Для работы с символическим ИИ нам нужно описать вселенную проблемы компьютеру, указав их объекты и правила, а затем компьютер будет делать предположения, основанные на этих правилах. Ученые, которые поддерживали этот подход, в целом были против использования нейронных сетей.
Спустя несколько лет исследователи обнаружили, что нейронные сети более полезны для решения проблем, связанных с неопределенностью, например, при формулировании прогнозов ⁵. Но после публикации книги «Персептроны» финансирование исследований было на стороне символического ИИ.
В 1973 году парламент Великобритании попросил профессора сэра Джеймса Лайтхилла оценить состояние исследований в области искусственного интеллекта. В его отчете, который теперь называется Отчет Лайтхилла, критиковалась неспособность ИИ достичь своих «грандиозных целей». Он пришел к выводу, что ничего, что делается в искусственном интеллекте, невозможно сделать в других науках.
Отчет привел к полному прекращению исследований ИИ в Англии на следующие 10 лет.
Фрэнк Розенблатт умер в июле 1971 года в свой 43-й день рождения в результате крушения на лодке в Чесапикском заливе.
Возрождение
Хотя Управление перспективных исследовательских проектов Министерства обороны США (DARPA) больше не верило в возможности ИИ, новый проект под названием Dynamic Analysis and Replanning Tool (DART) изменил судьбу исследования. Этот инструмент, используемый военными США для оптимизации и планирования транспортировки материалов или персонала, оказался настолько успешным, что получил за 4 года больше средств, чем все средства, которые DARPA направило на исследования ИИ за предыдущие 30 лет. ⁷. Благодаря DART операция «Щит в пустыне / Буря» в 1990–1991 годах была самой крупной, самой быстрой и самой дальней морской доставкой в один регион в истории войн.
Хотя DART не был той вещью, которую мы теперь называем ИИ, к тому времени он был известен как программа ИИ и помогал поддерживать огонь расследования.
Но даже в середине 2000-х исследователи искусственного интеллекта сознательно называли свою работу другими именами: информатика, машинное обучение, аналитика и т. Д. Репутация этой области была подорвана.
В последующие годы из-за непрерывного цикла шумихи и разочарований были и другие небольшие ИИ-зимы, но, в конце концов, человеческое любопытство пошло по пути, предложенному Розенблаттом, и обнаружило святой Грааль в нейронных сетях. . В конце концов, небольшие изменения произошли в ползучей нормальности, и теперь ИИ повсюду: в наших телефонах, в автобусе, который вы едете на работу, и в тех бесконечных рекомендациях, которые Instagram предлагает вам.
Но выжил ли символический ИИ в конце концов?
Символический ИИ не позволяет, например, прогнозировать цену на золото в следующем месяце. Хотя нейронная сеть может это сделать, она не может объяснить промежуточный процесс. Это похоже на темный ящик. Следующим большим шагом в развитии искусственного интеллекта может стать создание гибридов, сочетающих в себе преимущества обеих моделей ⁸.
Весна искусственного интеллекта и следующая война
Зима искусственного интеллекта считается законченной из-за большого успеха решений, основанных на машинном обучении. Google Translate, AlphaGo, Watson и GPT-3 - вот некоторые из «рок-звезд», которые сегодня движут прогрессом ИИ. В настоящее время мы живем в весне искусственного интеллекта с 2010 года благодаря этим технологиям.
Но не только из-за высоких ожиданий, которые создают эти компании, может наступить еще одна зима искусственного интеллекта, но и у нас может быть еще одна война искусственного интеллекта между двумя проектами, которые яростно конкурируют за последнюю тенденцию в области искусственного интеллекта: Deepmind (Google) и Open AI (основан Илоном Маском и другими) ⁹.
И хотя исследователи сосредоточены на создании лучшей сетевой модели для решения реальных проблем, дискуссии об этике ИИ становятся все сложнее. Несколько месяцев назад Google уволил компьютерного ученого, который предупреждал о расистских и сексистских предубеждениях нынешних моделей ИИ ¹⁰.
В конце концов, мы люди, мы по природе своей склонны к соперничеству и конфликтам, и единственное, что может спасти науку, - это наше любопытство и настойчивость.
Использованная литература:
[1] Социологическое исследование официальной истории спора о перцептронах (1996). Https://journals.sagepub.com/doi/10.1177/030631296026003005
[2] Человек, который пытался искупить мир с помощью логики (2015). Https://nautil.us/issue/21/information/the-man-who-tried-to-redeem-the-world-with-logic
[3] Невротические нейроны. Https://ncase.me/neurons/
[4] Вычислительная мощность и социальное влияние искусственного интеллекта (2018). Https://arxiv.org/abs/1803.08971v1
[5] Символический искусственный интеллект и числовые искусственные нейронные сети: на пути к разрешению дихотомии (1995). Https://link.springer.com/chapter/10.1007%2F978-0-585-29599-2_11
[6] Насколько точен был Марвин Мински в своих прогнозах искусственного интеллекта? (2020). Https://www.brightworkresearch.com/how-accurate-was-marvin-minsky-in-his-ai-predictions/
[7] DART: революция в логистическом планировании (2002). Https://ieeexplore.ieee.org/document/1005635
[8] Следующий большой скачок ИИ (2020 г.). Https://knowablemagazine.org/article/technology/2020/what-is-neurosymbolic-ai
[9] Превзошел ли OpenAI DeepMind? (2020). Https://analyticsindiamag.com/has-openai-surpassed-deepmind/
[10] Мы читали статью, в которой Тимнит Гебру был вынужден уйти из Google. Вот что там написано (2020). Https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-formed-out-timnit-gebru/
[11] https://tripleampersand.org/kernelled-connections-perceptron-diagram/
[14] http://dbe.rah.es/biografias/10967/santiago-ramon-y-cajal
[15] https://es.wikipedia.org/wiki/Walter_Pitts#/media/Archivo:Lettvin_Pitts.jpg
[16] https://en.wikipedia.org/wiki/Marvin_Minsky#/media/File:Marvin_Minsky_at_OLPCb.jpg
[17] https://es.wikipedia.org/wiki/Seymour_Papert#/media/Archivo:Papert.jpg
[18] https://es.wikipedia.org/wiki/James_Lighthill#/media/Archivo:James_Lighthill.jpg
