Естественный отбор не дал общих сведений теплым вечером. Миллионы лет предложений и неудач привели нас к тому, что такие вещи, как язык и боевые искусства, стали мыслимыми. Эволюция, кажется, имеет довольно непринужденный подход к достижению общего интеллекта.
Этот подход не разделяется исследователями, пытающимися добиться того же в машинах. Кажется, есть идея, что ОИИ просто нужно что-то эквивалентное Манхэттенскому проекту, и все будет готово. Или какой-нибудь гений, идущий по улице, однажды сделает прорыв, который поставит все на свои места. Как высокомерно с нашей стороны!
Если мы хотим совершить тот же подвиг, что и эволюция, путь может заключаться не в том, чтобы лихорадочно исследовать человеческий мозг и копировать все, что мы, кажется, понимаем, или пытаться математически придумать идеальный алгоритм, который может делать практически все. Это может быть разработка в среде, которая нам небезразлична, среде, похожей на ту, в которой мы эволюционировали. Я не удивлюсь, если для этого потребуется много лет вычислений.
Кажется, мы боимся запуска эволюционных алгоритмов в течение нескольких лет. Этот страх может быть необоснованным для той задачи, к которой у нас есть амбиции. Большинство современных алгоритмов работают в течение пары часов или, может быть, нескольких дней, пока не наступит насыщение. Это могут быть ограничения той математики, которую мы, люди, можем придумать. Не так уж много человек может удержать в голове.
Альтернативой может быть использование алгоритмов, которые уже работают вместе со случайными мутациями, которые изменяют их в лучшую или худшую сторону и предотвращают их зависание. Курс может заключаться в том, чтобы с этого момента просто позволить системе существовать. Простая неограниченная система может привести к очень сложной. Мы могли бы получить систему, которая с годами будет становиться лучше, возможно, приближаясь к человеческому интеллекту или даже превосходя его.
Одна из проблем с этим подходом может заключаться в том, что, когда он в конечном итоге сработает, у нас останется черный ящик, мало чем отличающийся от человеческого мозга, который очень сложен и труден для понимания. Однако мы были бы в гораздо лучшем положении, чем сейчас. Будем надеяться, что к тому времени мы найдем способы разобраться в том, что мы создали, и решить проблему контроля.
Может быть, это путь общего интеллекта: не какой-то простой алгоритм, который можно разумно спроектировать, а очень сложный, который в конечном итоге можно развить.
