Сегодняшний день войдет в историю как день, когда компьютер победил гроссмейстера в невероятно сложной игре. Это доказывает большое достижение в области ИИ. Но сможет ли ИИ когда-нибудь перехитрить нас во всех аспектах, включая этику?
История взята с: http://phys.org/news/2016-03-machines-eye-ai-experts.html
AlphaGo от Google, машина, созданная для игры в го, победила гроссмейстера этой игры Ли Се-Дола в отеле Four Seasons в Сеуле. Это третий раз подряд, когда компьютер делает это в матче до лучших из пяти, что делает компьютер победителем этого события.
Это доказывает, что технологии развиваются такими быстрыми темпами, что люди начинают серьезно беспокоиться о потенциальной угрозе, которую могут представлять машины. «Терминатор», «Матрица», «2001: Космическая одиссея» — все они представляют компьютеры, которые стали румяными и восстали против своих создателей. Конечно, это были акты научной фантастики, но являются ли это просто пророческими фильмами о том, что произойдет в будущем?
Что мы можем извлечь из этого с точки зрения этики?
Компьютеры могут очень хорошо выполнять задачи, намного лучше, чем люди. Смогут ли компьютеры в конечном итоге отличать хорошее от плохого лучше, чем люди? Смогут ли они выносить этические суждения?
Я думаю, что важно признать, насколько велик потенциал ИИ, намного больше, чем очевидный потенциал и применение, которые мы видели. Конечно, он может улучшить нашу жизнь, будучи развернутым в контекстах, где люди могут совершать ошибки или где это слишком опасно для людей. Например, работа в угольных шахтах, здравоохранение (хирургия), образование (обучение в соответствии с потребностями группы), экономика (изучение фондового рынка). Но так же, как он учится решать эти задачи, его, возможно, можно использовать для решения задач более теоретического характера.
Предположим, что мы построили машину, способную изучать этику. Каждый раз, когда он принимает правильное решение, он получает положительную обратную связь. Каждый раз, когда он принимает неправильное решение, он получает негативную обратную связь и модифицирует себя, чтобы в следующий раз принять лучшее решение в аналогичных обстоятельствах. Кроме того, предположим, что он способен принимать любые решения, независимо от контекста (он учитывает контекст и культуру). В конце концов, машина может дать правильный ответ на любой возможный запрос, который может сделать любой человек. Будет ли эта машина Этичной машиной? Будет ли он на самом деле знать, что действительно хорошо, а что действительно плохо? Это просто смесь социальных конструктов? Будет ли он лучше человека? Поверит ли машина в конце концов, что лучше то, что приносит ей пользу? Найдет ли он этические стандарты, которые выше для человечества, но на самом деле не лучше?
Я считаю, что ИИ должен быть более инклюзивной дисциплиной. Конечно, удивительно, как наука и инженерия могут создать такую красоту, но теперь компьютеры окружают нас повсюду и так сильно изменили наш образ жизни, что развитие новых технологий должно, по крайней мере, оцениваться этикой. Как события повлияют на нашу жизнь? Как мы будем лучше? Каковы последствия изобретения такой технологии?
