Искусственные агенты сталкиваются с той же проблемой, что и люди!
Успех человеческой цивилизации основан на нашей способности сотрудничать путем общения и разработки совместных планов.
Для людей введение в заблуждение других относительно наших намерений является препятствием для сотрудничества.
Дипломатия требует рассуждений о планах наших противников на будущее, что позволяет нам изучать нарушенные обязательства между агентами и условия для честного сотрудничества.
Координация, сотрудничество и переговоры играют ключевую роль в нашей повседневной жизни.
Поскольку системы, основанные на искусственном интеллекте, контролируют растущую часть нашей жизни, от личных помощников до важных решений, мы должны понимать важность честности.
Мы уже обеспечиваем наши системы ИИ инструментами для координации и переговоров с другими.
Общение играет ключевую роль в таких условиях, поскольку оно позволяет нам делиться убеждениями, целями и намерениями с другими, позволяя нам вести переговоры, формировать союзы и находить взаимовыгодные соглашения.
В то время как ложь традиционно была человеческим делом, системы ИИ, которые делают сложные словесные заявления, становятся все более распространенными.
Так как же нам ограничить вред, причиняемый ложью ИИ?
Правдивость человека регулируется социальными нормами и законом.
Различия между ИИ и людьми дают возможность установить более точные стандарты правдивости для ИИ, но кто их будет определять? И исходя из каких ценностей?
Установление норм или законов правдивости ИИ также потребует значительной работы:
1. Чтобы определить четкие стандарты достоверности.
2. Создать несколько децентрализованных сообществ/организаций, которые могут «судить» о соблюдении этих стандартов.
3. Разрабатывать системы искусственного интеллекта, которые будут абсолютно правдивыми.
Беспокоит возможность того, что механизмы оценки возможных стандартов правдивости могут быть захвачены политическими интересами, что приведет к вредоносной цензуре и пропаганде.
Избегание этого может потребовать особого внимания.
