Футурологам есть что сказать о том, что произойдет, если мы продолжим разработку искусственного интеллекта. На одном конце спектра результатов ИИ наблюдается не впечатляющий и неэффективный прогресс - неспособность оправдать ожидания и угасание ажиотажа (и финансирования). Другой конец спектра представляет собой новый высший вид, который устранит и заменит человеческую расу. В рамках колоколообразной кривой более удобно лежать между значительным и незначительным нарушением работы.

Каждая отрасль будет иметь свои последствия (хедз-ап, производство). В разделе Pt. 1 из этого интервью , Бенджамин Телониус Фелс, основатель macro-eyes , пролил свет на развитие искусственного интеллекта в здравоохранении.

Пт. 2 - еще одна банка с червями, которой требовалось отдельное пространство. В нем у Бенджамина есть момент ясности, который пробуждает яркие идеи о том, как может выглядеть наше будущее ИИ, включая негативные последствия «взбесившегося ИИ».

Следующая часть интервью относительно неотредактирована и не содержит вопросов - это всего лишь ход мыслей Бенджамина:

— — — — — — — —

Есть потенциал для чего-то большего, чем машина плюс эксперт. Эти двое, действующие вместе, взаимодействуя, создадут нечто гораздо более мощное. Подумайте даже о таком простом инструменте, как кисть. Кисть в руках специалиста может сделать многое, на самом деле гораздо больше, чем кисть, сидящая на столе, брошенная на холст или человек, думающий о нанесении мазка.

Я думаю, что лучший пример - это хорошо обученное и селективно выведенное животное.

Подумайте о животном, которое на протяжении тысячелетий выращивалось для выполнения очень конкретной задачи с необычайной точностью. Будь то лошадь или овчарка, это животное может делать что-то само и действовать как автономный агент. Когда это животное и человек работают вместе, полезность и сила возрастают.

Животные могут воспринимать то, чего не могут люди; и, конечно же, люди могут понимать и воспринимать то, чего не могут животные. Это взаимодействие между животным и человеком становится особенно сильным, когда два агента знают и доверяют друг другу.

Для меня эта метафора - действительно ясное видение того, над чем мы должны работать. Здесь были бы философы, которые не согласились бы со мной; но до некоторой степени интеллектуальные машины очень похожи на высококвалифицированных / обученных животных, у которых долгое время были определенные черты.

Я бы сказал, что животные и люди лучше всего работают вместе, когда у них есть совместные отношения. Вы пастух и проводите с собакой весь день, пася овец; Итак, вы двое действительно понимаете друг друга и можете передавать сигналы, богатую информацию, туда и обратно очень эффективным и точным образом.

[Примечание автора: В семье Бенджамина была овчарка, и наши семьи знали друг друга с детства. Однажды мы все вместе были в походе, его семья, моя семья и овчарка. Я был нетерпеливым путешественником и продолжал бежать вперед. Хотя собаку не приучили пасти овец, она не могла помочь своему разведению, подошла и стала кусать меня, кусая меня прямо через мизинец, чтобы вернуть меня в стадо.]

История о том, как наша овчарка кусает вас, - отличный пример искажения информации. Это пример того, как система обнаруживает поведение, которое находится на грани того, что ей известно. Наша собака была продуктом селекционного разведения, но сама она не получила должного воспитания и обучения. Как и ИИ, овчаркам требуется огромное количество обучающих данных (в форме воздействия сценариев, которые вы повторяете и повторяете).

Другими словами, наша собака была продуктом поколений машинного обучения, которое все больше и больше жестко запрограммировалось. Но петля человек-машина-среда была искажена: входные данные окружающей среды воздействовали на механизм, который еще не был настроен на достаточно разнообразные, живые данные, поэтому эти данные переводились в знакомый, но неверный результат. Это похоже на взбесившийся ИИ.

«Укус» - отличная метафора для обозначения опасностей, связанных с освобождением ИИ. Обучение присутствует в глубоких слоях; но ИИ не знает, как приспособиться к реальности во всей ее двусмысленности. Наряду с этим животно-человеческим взглядом на ИИ, я хочу сделать еще один важный момент: данные должны воспроизводить реальность. Когда вы начинаете думать о даже очень небольших примерах данных, которые на самом деле не воспроизводят реальность, вместо этого они меняют реальность; и если решения принимаются на основе данных, которые изменили реальность, мы сталкиваемся с некоторыми опасными сценариями - чрезвычайно опасными, если вы работаете в сфере здравоохранения.

В сложных средах люди всегда будут наблюдать и знать вещи, которые не фиксируются в данных. Это просто потому, что мы еще не живем в мире, где контролируется каждая частица реальности. Это не похоже на то, что у меня в квартире есть маленький датчик влажности, который собирает все мои жизненно важные показатели, данные об окружающей среде и эмоциональные реакции прямо сейчас. Слава богу, это не так.

Итак, как нам привнести в нашу интеллектуальную машину все богатство, которое мы, люди, знаем или видим или понимаем, чего машина не знает? И в этом утопическом сценарии, который я обрисовываю, нам каким-то образом удается привнести это богатство без всех наших глубоко человеческих шор и предвзятости. Для меня это Святой Грааль. Вот где я вижу, что интеллектуальные системы, интеллектуальные машины становятся по-настоящему ценными.

////

Фотография на обложке: Оттомар Аншютц

Рисунок Джованни Доменико Тьеполо

Фотография из интервью Сара Уэллет

Первоначально опубликовано на www.cloudraker.com.