Привет. Я твердо убежден, что прогресс в направлении общего / сильного ИИ должен быть обеспечен не только вычислительными ресурсами и медицинской визуализацией, но также саморефлексией и психологией человека. Я инженер по машинному обучению, а также практикую различные виды медитации. Здесь я делюсь некоторыми мыслями об отсутствующих частях текущих архитектур ИИ, основанными на внутреннем понимании.

Я мог быть совершенно неправ, упрощал и мог случайно пропустить какой-нибудь логический клей в своих аргументах - при необходимости попросите объяснений.

Китайская комнатная проблема и генераторы случайных чисел.

Если вы читаете это, вполне вероятно, что вы знаете, что такое аргумент о китайской комнате. Если нет - прочтите Wiki, это довольно просто. Давайте просто представим, что сильный ИИ был построен и помещен в китайскую комнату. Он работает идеально и проходит типичный тест Тьюринга, и вы не можете сказать, есть ли в комнате человек или машина. Я хочу постулировать две идеи:

  • Учитывая бесконечное время и ресурсы, внешний исследователь сможет отобразить все возможные входы и выходы вместе со всеми возможными взаимосвязями внутри алгоритма китайской комнаты. Таким образом, он сможет воспроизвести алгоритм внутри комнаты, доказав, что алгоритм действительно существует, а не человек.
  • Внешний исследователь не сможет отобразить все возможные состояния системы в комнате, если внутри находится человек, и никогда не придет к выводу, что «внутри есть машина». Не из-за какой-то формы «самопрограммирования» или «сознания», на которые способен только человек, а потому, что во влажный мозг человека встроен шумовой компонент, который ведет к непредсказуемости.

И вот моя любимая часть. Можно утверждать, что в алгоритм ИИ может быть намеренно встроена шумовая составляющая (слой исключения). Но помните, что большинство генераторов случайных чисел в наших компьютерах на самом деле являются псевдослучайными. Это знает каждый инженер и хакер. Таким образом, с учетом бесконечного времени поведение любой системы любой сложности, использующей генератор псевдослучайных чисел, может быть отображено и, таким образом, не пройти тест Тьюринга.

Итак, моя точка зрения - будет создан сильный ИИ. Вполне вероятно, что в большом корпусе, таком как «F» или «G», уже есть диалоговые боты, которые проходят не очень строгие тесты Тьюринга. Этот ИИ будет развиваться, и эти алгоритмы определенно будут использовать генераторы случайных чисел в своей функциональности. И однажды у нас будет идеальный ИИ, который пройдет очень сложный тест Тьюринга. На мой взгляд, будет ли эта машина иметь разум / сознание? Нет. Но если вы поменяете псевдослучайную функцию на истинный генератор случайных чисел, основанный на квантовом шуме, я приветствую этот ум как равный. Я действительно думаю, что у нас (людей) есть какой-то шум, и этот шум имеет очень фундаментальное свойство.

Еще один безумный момент - хотя это часть маргинальности и псевдонауки, я думаю, что роль квантовых флуктуаций в сознании еще предстоит открыть. Прочтите о Принстонском проекте Ноосфера, где вы найдете вдохновение.

Решение мотивационной проблемы с противоположными функциями потерь.

Хорошо, замена источника случайных чисел была своего рода этическим, а не технологическим вопросом. Вот еще кое-что, что ближе к реальным результатам. Как я вольно объяснил в своем предыдущем посте, я весьма недоволен направлением роста нейронных сетей текущего поколения. Это из-за общей вещи пузыря фильтров, создаваемого социальными сетями, поисковыми системами и правилами социального взаимодействия.

Обучение нейронной сети фактически основано на той же идее «пузыря фильтров» и доведено до максимума. Поскольку эта система основана на исторических данных, она учится использовать существующие тенденции. А применительно к реальному миру он начинает поддерживать уже существующие тенденции, создавая потенциально бесконечный цикл обратной связи. Человеческий разум работает не так.

Подумайте об этом примере - обучении с подкреплением. Обучение с подкреплением (как и любая другая форма обучения с учителем) имеет цель, метрику или оценку - как бы вы это ни называли, и оптимизирует себя, чтобы улучшить эту метрику. Человеческий разум действует не так.
Главное отличие в том, что у человека нет единственной цели, которую мы пытаемся оптимизировать. Я утверждаю, что у нас всегда есть как минимум двое, обычно напротив друг друга. Можно сказать, что человеческая цель сводится к одному - выживанию. Я думаю, что есть другое - борьба на смерть. Фрейд закрепил это своей концепцией Эроса и Танатоса. Эволюция без смерти невозможна, и влечение к смерти встроено в каждого из нас. Полярность и напряженность между ними - вот что заставляет просыпаться каждое утро, проявлять творческий подход и развиваться.

Вот почему мне нравятся генеративные состязательные сети. Когда вы смотрите на прогресс обучения правильно настроенной GAN, всегда есть борьба и напряжение между генератором и дискриминатором. Это можно как-то перенести на обучение с подкреплением в форме Конструктора и Деструктора.

Во всяком случае, моя главная мысль. Прогресс в области ИИ в целом может и должен быть обеспечен открытиями, происходящими в результате саморефлексивных практик, таких как медитации, предпочтительно выполняемых самими исследователями.

Пожалуйста, комментируйте, делитесь, хлопайте, чтобы ввести меня в цикл положительных отзывов и заставить продолжить писать. Свяжитесь со мной, если вы хотите поделиться своим или, возможно, что-то реализовать. саша (точка) савсуненко (в) gmail (точка) com