В 1970 году робототехник Масахиро Мори придумал фразу зловещая долина (不気味の谷 на японском языке), чтобы обозначить феномен, когда машина кажется близкой, но не совсем человеческой, она вызывает негативную реакцию. Особенно мы видим этот эффект в анимационных фильмах, таких как Полярный экспресс.
Или, по крайней мере, мы привыкли. Современные анимационные фильмы и видеоигры достигли такого уровня реализма, что мы воспринимаем их реализм как должное. Сейчас мы находимся в точке, где дипфейковые фотографии и видео угрожают подорвать нашу историческую способность отличать реальность от искусственности. Это не похоже на зловещую долину — на самом деле, это звучит гораздо более зловеще.
Генеративные модели не особенно новы — Клод Шеннон говорил о генеративных языковых моделях еще в 1940-х годах. Но 2022 год явно был годом генеративного ИИ, с такими моделями, как DALL-E 2 и Стабильная диффузия, превращающими искусство, созданное ИИ, в товар, а ChatGPT дразнит превращение в товар знаний, созданных ИИ.
Достигли ли мы точки перегиба, когда ИИ может обеспечивать производительность на уровне человека? Неужели Сингулярность пришла, когда мы не смотрели?
Я, например, приветствую наших повелителей роботов; но я думаю, что они еще не прибыли. Вместо этого у нас есть абсолютный газлайтинг: контент, созданный искусственным интеллектом, который выглядит и ощущается созданным человеком, но все же совершает забавные ошибки, когда дело доходит до сути.
Вот отличный пример из ChatGPT:
Вопрос: Если А больше, чем В, а А больше, чем С, то является ли В больше, чем С?
Ответ: Если А больше, чем В, и А больше, чем С, возможно, что В больше, чем С, но это не обязательно верно. Например, если А равно 5, В равно 3 и С равно 2, то А больше В и А больше С, но В не больше С.
ChatGPT правильно предполагает, что A › B и A › C не обязательно означает, что B › C. Но его пример до смешного неверен, поскольку, конечно, 3 › 2.
Вот более тонкая ошибка:
Вопрос: Является ли мощность множества рациональных чисел больше, чем мощность множества целых чисел?
Ответ: Да, мощность множества рациональных чисел больше мощности множества целых чисел. Мощность относится к количеству элементов в наборе, и в этом случае набор рациональных чисел содержит больше элементов, чем набор целых чисел. Это связано с тем, что множество рациональных чисел — это большее множество, включающее все целые числа, а также другие числа, которые можно представить в виде простых дробей. Поскольку набор рациональных чисел больше, он имеет большую мощность, чем набор целых чисел.
Это объяснение хорошо написано и убедительно. Но неправильно.
К счастью, в детстве мой папа любил объяснять мне, что такое бесконечности, так что я узнал о исчисляемых и неисчисляемых бесконечностях. Оказывается, хотя, как говорит ChatGPT, множество рациональных чисел включает в себя все целые числа, а также нецелые числа, которые можно представить в виде дробей, его мощность не больше, чем у множества целых чисел. Это потому, что вы можете установить однозначное соответствие между двумя наборами. Оба множества счетно бесконечны, и их мощность равна алеф ноль.
Но я уверен, что принял бы объяснение ChatGPT, если бы еще не изучил эту проблему. И я содрогаюсь при мысли о том, какие ответы он мог бы дать, которые я бы принял в областях, в которых мне не хватает знаний в предметной области.
Потому что то, что мы имеем сегодня, — это не та система, которая надежно понимает вопросы и правильно на них отвечает — хотя многие ее ответы верны. Скорее, у нас есть система, которая дает ответы, которые выглядят и кажутся правильными. Это ИИ-расширение, высшая форма газлайтинга.
Итак, мы из зловещей долины? Становится ли он хитрее? Не знаю, как назвать это новое место, куда мы прибыли. Но нам лучше подумать, что с этим делать. Потому что нам нужно будет быстро развить некоторые новые навыки, чтобы более критически относиться к контенту, созданному ИИ.
