Почему системы принятия решений с открытым исходным кодом и открытыми данными, несмотря на их недостатки, по-прежнему этически предпочтительнее, чем судьи-люди

У вас есть выбор: привлечь общество к ответственности машиной с открытым исходным кодом, которую любой может прочитать, разобрать, тщательно изучить, протестировать, отладить и исправить в течение относительно короткого периода времени или людьми.

В обозримом будущем человеческий разум станет непостижимой нейронной сетью, состоящей из бесконечного психосоциального лабиринта предубеждений, стереотипов и предрассудков; манипулируемыми взятками и шантажом; компрометирует все на свете, от противоречивых экономических интересов до неразрешенной психосоматической детской травмы и просто плохого настроения в тот день.

Система должна быть…
1. Открытый исходный код и открытые данные. Все входы и все выходы.
2. Все процессы должны быть детерминированными, т. е. воспроизводимыми
3. Выводить криптографический хеш своего внутреннего состояния для каждого решения
4. Доступно для публичного тестирования во время выполнения

Исходный код одного основан на разрешениях, другой — без разрешений.

Один скрывает свою жизнь, другой — полностью автономный и экономически эгоистичный ИИ, призванный дать машинам интуитивное понимание реального мира. И побочный продукт этого искусственного экономического поведения заставляет его не только раскрывать жизнь каждого самому себе, но и свободно любому другому объекту, который наблюдает за его внутренним состоянием. Больше никаких секретов.

Тотальная ответственность. Но не обязательно человеку, «машине» с открытым исходным кодом, которая может видеть всех.

И по крайней мере с ИИ, даже если он был обучен на наборе данных, который делает его изначально предвзятым по отношению к определенной демографической группе, он, по крайней мере, раскроет вам свои предубеждения. Более того, если он был обучен на человеческих данных, он может свидетельствовать о значительных предубеждениях в ваших человеческих системах принятия решений.

Но человеческие алгоритмы — это совсем другая история. Они знают, когда их тестируют. А благодаря жестокому эволюционному конфликту интересов их функция вознаграждения побуждает их скрывать свои самые опасные предубеждения всякий раз, когда их тестируют. Лишь бы их запустить в производство! И люди плохо разбираются в своих предубеждениях даже в лучшие времена. Так что, если алгоритм тестирования также является человеческим, у вас есть «слепой ведет слепого».

Дьявол, которого ты не знаешь

Многие из нас живут в фильмах ужасов. Наши родители жили в фильмах ужасов, а их родители жили в фильмах ужасов… В жанре ужасов всегда можно заметить несколько приемов. Элементы, которые, кажется, говорят о многом для человеческой психики.

  1. Аномальные способности. Чтобы быть настоящим фильмом ужасов, монстр должен быть «сверхъестественным» в той или иной форме. Другими словами, его сила ошибочна и кажется неудержимой обычными средствами. Серия кризисов вскоре открывает главным героям истории, что монстр не только существует вне морального и политического «общественного договора», который они понимают, но и что нет никакого известного оружия, не говоря уже о юридических системах, которые могли бы спасти их от него. . Формирование центрального конфликта жанра.
  2. Удивительное недоверие. Что еще хуже, каждый персонаж, для которого монстр не представляет личной опасности, должен отрицать его существование. Вплоть до того, что даже если совершенно очевидно, что монстр убивает людей, им приходится отрицать то, что они видят. Они будут постоянно изобретать какое-то ложное объяснение, чтобы не дискредитировать общественный договор, который, по их мнению, является универсальным принципом, управляющим их реальностью.
  3. Преследование: монстр никогда не сидит на месте. Он охотится на главных героев; они никогда не могут по-настоящему отдохнуть. Создание «восходящего действия» рассказа.
  4. Ненормальное решение: из-за дилеммы, вызванной 1, 2 и 3, любые протагонисты, которые доживут до конца, неизбежно придут к пониманию того, что с монстром нужно бороться самостоятельно. условия. Его можно победить только с помощью чего-то, что является ненормальным и сверхъестественным дополнением к собственной убогости ужаса. А что касается чудовищности, то она еще более безжалостна.