Существует реальная опасность говорить о компьютерах как о живых (антропоморфизация). Эта опасность состоит в том, что общественность поверит, что компьютеры могут знать о том, что они делают, и, как только это убеждение будет утверждено, они согласятся разрешить использование компьютеров в жизненно важных функциях.
Такой способ говорить о машинах как о «осведомленных», «разумных» и «отзывчивых» полностью вводит в заблуждение, когда речь идет о компьютерных программах, но использование слова «понять» для описания того, что делает компьютер при статистическом сопоставлении выражений лица с образцом, это, пожалуй, худшее преступление. Это фундаментальная ошибка, которая объединяет обработанные данные с пониманием. Люди с массой знаний не обязательно понимают это, в то время как людям с пониманием не обязательно нужны конкретные знания, чтобы иметь возможность чего-то достичь. Но у машин нет ни того, ни другого.
Например, те, кто работает с системами машинного обучения, в большинстве своем откровенно заявляют о своей неспособности объяснить, как их системы приходят к выводам, даже несмотря на то, что у них есть масса данных о том, что эти системы делают. И я предпочитаю нанять опытного профессионала, чтобы починить мою машину, даже если он или она не знакомы с моей конкретной моделью - их понимание, накопленное за годы и десятилетия практики, позволяет им что-то делать системы машинного обучения не могу - импровизировать.
Креативность - это еще одно слово, которым злоупотребляют, когда говорят о программном обеспечении, работающем на оборудовании: они исправляются, как только скомпилированный код помещается в физическое оборудование. Не может быть «творчества», пока это слово описывает то, что люди делают, когда, понимая потребность, создают ее решение.
Понятно, что знания больше не сила - это технологии. Как и древняя человеческая мудрость, которую оно вытеснило, знание - которое имеет значение для разумного человека, но не программа - пошло по пути додо, замененное данными - массами, океанами и галактиками данных, запертыми в указателях, вероятностях. , и взаимные ссылки, которые можно использовать для предсказания того, что произойдет, даже если технология не может объяснить, о чем она предсказывает, совершенно ничего не подозревая.
Вместо того, чтобы превращать слова в бессмысленные, следует разработать более честный словарный запас и использовать его при описании систем машинного обучения и искусственного интеллекта. Возможно, наступит день, когда эти новые слова больше не будут нужны, но пока это не произойдет, они нам действительно понадобятся, чтобы мы могли принимать разумные решения об использовании этих технологий, особенно в жизненно важных системах.
