Поскольку искусственный интеллект и роботы становятся частью нашей жизни, нам необходимо определить набор универсальных правил взаимодействия. я

Нам нужен четкий набор правил, которые в конечном итоге будут внедрены в качестве основного поведения — набор правил порядка робота, очень похожих на правила порядка Роберта; расширенный набор Азимовских Законов робототехники.

Фактически, за последние шесть месяцев или около того у меня было две итерации в этом направлении, и в этом блоге я еще раз пересматриваю!

На RRO v1 и RRO v2 повлияла статья Google Конкретные проблемы безопасности ИИ и статья @slate о взглядах генерального директора MSFT Сатьи Наделлы Партнерство будущего

Недавно еще две ссылки сформировали мои мысли и вдохновили меня на этот следующий пересмотр: Принципы искусственного интеллекта Asilomar, разработанные совместно с Конференцией Asilomar 2017 (видео здесь), посредством процесса, описанного здесь и…

… интересный доклад об Открытом интеллекте, лауреате премии Курцвейла за лучшую идею искусственного интеллекта, на конференции Искусственный общий интеллект 2016.

Все четыре ссылки очень поучительны — вы должны прочитать их, когда будете наиболее сообразительны, поразмыслить над их уместностью и обсудить их значение.

  • Принципы искусственного интеллекта Asilomar усиливают правила алгоритмической подотчетности, разумности (ошибки и судебной прозрачности), согласования ценностей, неподрывной деятельности, интеллектуальной конфиденциальности и самоосознания своего идиотизма.
  • Обычно мы думаем об AGI как о «способности достигать сложных целей в сложных условиях». В документе OEI отмечается, что «интеллект никогда не начинается с решения проблемы, а гораздо раньше, с ее формирования» — искусство стать умным! Мне очень нравится эта диаграмма.

  • OEI также включает в себя взаимодействие набора агентов, которые взаимодействуют друг с другом, изменяя свое поведение — это ядро ​​​​ИИ, особенно роботов.

Агенты преодолевают свою первоначальную несовместимость и становятся скоординированными, ограничивая собственный набор возможных действий или набор возможных действий друг друга, а также свою связность.

Другими словами, они взаимно определяют или выбирают поведение друг друга. Взаимная модификация поведения требует прямой или косвенной рефлексии между агентами (обратная связь).

Скоординированное коллективно-рефлекторное поведение является основой нашей цивилизации и должно быть неотъемлемой и структурной частью мира ИИ — поведение, которое заложено во всех создаваемых нами роботах…

Что ты говоришь?