Когда ИИ делает что-то лучше, чем люди, но не идеален, что ему нужно делать, чтобы быть действительно полезным? Знайте его ограничения.
Когда искусственный интеллект с хорошей репутацией решает сложную задачу, но люди не знают, насколько ему можно доверять, что ему нужно сделать, чтобы гарантировать? Объясните свое решение.
Когда объем или полезность доступной информации различаются, что должен сделать ИИ, чтобы прояснить это? Выразите степень уверенности в своих выводах.
Они рассматриваются как проблемы; препятствия, которые необходимо преодолеть, прежде чем мы сможем включить системы и перестать думать о них. По большому счету это неправильно.
Решение этих проблем поднимет ИИ на новый уровень сложности и компетентности. И отношения между людьми и машинами существенно изменятся.
Прилагаются серьезные усилия. Беспилотные автомобили нуждаются и будут нуждаться в периодической помощи. Основные разработчики (включая GM, Waymo и Nissan) заменяют рули и тормоза центрами дистанционного управления, которые могут взять на себя управление при необходимости. Чтобы эти центры работали, разработчики оценивают «отсоединения» своих тестовых автомобилей (события захвата людей), чтобы иметь возможность их предсказать и обработать удаленно. Надежная идентификация неуправляемых обстоятельств теперь является ключом к вводу этих транспортных средств в широкое использование.
DARPA финансирует дюжину отдельных программ в рамках своей инициативы «Объясняемый искусственный интеллект». Некоторые из них выявляют критические факторы принятия решения или архетипические примеры на лету. Другие используют системы «на болтах» или более высокого уровня для оценки базовой сети, чтобы понять ее решения.
Nvidia продемонстрировала систему глубокого обучения, которая может управлять автомобилем и, что более интересно, выделять области ввода, на которых система фокусируется в любой конкретный момент при принятии решений.
Некоторые исследовательские программы определяют, какие сигналы приводят к автоматизированным решениям о видении, путем систематического систематического изменения входных данных и наблюдения за изменениями выходных данных. Аналогичный подход пробуется с текстовыми процессорами. Другие подходы фактически исследуют внутренние элементы сетей, чтобы найти влияющие факторы.
Это не отдаленные или гипотетические события. Ожидается, что беспилотные автомобили без бортовых средств управления начнут коммерческое использование в течение года. Правила Европейского Союза, требующие объяснений для решений ИИ, только что вступили в силу. Прогресс стремительный.
Взятые вместе, эти разработки - не просто еще одна скромная ступенька технологической лестницы. Они создадут принципиально другие системы и отношения человек-машина.
ИИ будут знать свои ограничения, смогут очертить свои процессы принятия решений, а также смогут оценивать и сообщать о вероятностях. Это сделает их более полезными и, что еще более важно, более надежными.
Нам будет намного удобнее, как пассажирам в автомобиле, который постоянно следит за обстоятельствами, с которыми он может не справиться, а просто делает все возможное, чтобы справиться с вещами самостоятельно.
Мы будем гораздо более уверены в медицинском диагнозе, судебном решении или рекомендациях по кибербезопасности, подкрепленных подробным факторным анализом, а не в непрозрачных выводах, которые мы получаем сегодня.
Мы будем уверены, что сможем найти способ действий, который кажется, скажем, на 90% многообещающим, вместо того, чтобы слепо принимать то, что казалось системе лучшим.
Скорее всего, у нас будут совсем другие взаимодействия. Представьте себе удобные речевые интерфейсы для этих систем самооценки:
ИИ сообщит о сомнениях, процентах и причинах. Они смогут пересмотреть позицию с учетом новых данных и объяснить новый вывод. Они будут бесконечно терпеливы в этих обменах. Они могут даже показаться скромными.
Совершенно верно отмечено, что современные системы искусственного интеллекта с глубоким обучением, которые работают быстро, параллельно и сложно анализировать, лучше назвать искусственной интуицией. Развитие разума в ИИ считается важным для всего, что напоминает общий интеллект. Но разум - это не единая неделимая вещь, и объективная оценка и переосмысление интуиции, несомненно, является его формой.
Мы собираемся приветствовать в нашей жизни искусственный интеллект, который внимателен, доступен и понятен.
Разумный.
