Поскольку искусственный интеллект и роботы становятся частью нашей жизни, нам необходимо определить набор универсальных правил взаимодействия. я
Нам нужен четкий набор правил, которые в конечном итоге будут внедрены в качестве основного поведения — набор правил порядка робота, очень похожих на правила порядка Роберта; расширенный набор Азимовских Законов робототехники.
Фактически, за последние шесть месяцев или около того у меня было две итерации в этом направлении, и в этом блоге я еще раз пересматриваю!
На RRO v1 и RRO v2 повлияла статья Google Конкретные проблемы безопасности ИИ и статья @slate о взглядах генерального директора MSFT Сатьи Наделлы Партнерство будущего
Недавно еще две ссылки сформировали мои мысли и вдохновили меня на этот следующий пересмотр: Принципы искусственного интеллекта Asilomar, разработанные совместно с Конференцией Asilomar 2017 (видео здесь), посредством процесса, описанного здесь и…
… интересный доклад об Открытом интеллекте, лауреате премии Курцвейла за лучшую идею искусственного интеллекта, на конференции Искусственный общий интеллект 2016.
Все четыре ссылки очень поучительны — вы должны прочитать их, когда будете наиболее сообразительны, поразмыслить над их уместностью и обсудить их значение.
- Принципы искусственного интеллекта Asilomar усиливают правила алгоритмической подотчетности, разумности (ошибки и судебной прозрачности), согласования ценностей, неподрывной деятельности, интеллектуальной конфиденциальности и самоосознания своего идиотизма.
- Обычно мы думаем об AGI как о «способности достигать сложных целей в сложных условиях». В документе OEI отмечается, что «интеллект никогда не начинается с решения проблемы, а гораздо раньше, с ее формирования» — искусство стать умным! Мне очень нравится эта диаграмма.
- OEI также включает в себя взаимодействие набора агентов, которые взаимодействуют друг с другом, изменяя свое поведение — это ядро ИИ, особенно роботов.
Агенты преодолевают свою первоначальную несовместимость и становятся скоординированными, ограничивая собственный набор возможных действий или набор возможных действий друг друга, а также свою связность.
Другими словами, они взаимно определяют или выбирают поведение друг друга. Взаимная модификация поведения требует прямой или косвенной рефлексии между агентами (обратная связь).
Скоординированное коллективно-рефлекторное поведение является основой нашей цивилизации и должно быть неотъемлемой и структурной частью мира ИИ — поведение, которое заложено во всех создаваемых нами роботах…
Что ты говоришь?