Самая простая концепция ИИ ужасает
Если он * только * достигает того же уровня интеллекта, что и мы, его способность работать на гораздо более высокой скорости означает, что через 6 месяцев он будет эффективно работать на нашем эквиваленте. 500000 лет.
Нам потребовалось около 200000 лет, чтобы достичь того, на каком мы сейчас находимся как вид.
Позвольте этому погрузиться на мгновение
Для нас в течение 6 месяцев ИИ накопит полмиллиона лет знаний вдобавок ко всему, что мы уже знаем, а это означает, что мы не сможем конкурировать с ними в течение нескольких дней после того, как они достигнут того же уровня интеллекта, что и мы.
У нас даже не будет времени среагировать, потому что машины превзойдут нас буквально в мгновение ока.
Точно так же, как мы не могли относиться к самым ранним людям, ИИ не мог относиться к нам
Это в лучшем случае низводит нас до роли того, как мы сейчас обращаемся с домашними животными.
Или того хуже - Муравьи
Когда муравьи ускользают от нас, мы оставляем их в покое. Когда они вторгаются в наши дома или препятствуют нашим намерениям, мы стираем их, не задумываясь. Это незначительность, которую можно искоренить.
Это вероятный исход для ИИ и для нас.
Вот почему ИИ - это игра с нулевой суммой.
Как бы отреагировали Россия или Китай, если бы они думали, что Штаты были на грани такого доминирования?
Как бы они отреагировали, если бы даже пошли слухи, что это близко?
Это не та технология, с которой можно соревноваться - если вы опередите на 6 месяцев, у вас будет на 500 000 лет знаний больше, чем у конкурентов.
Победитель буквально забирает все
Тогда, вероятно, все проиграет самому ИИ.
Это на несколько порядков превосходит манхэттенский проект как с точки зрения опасности, так и серьезности для будущего человечества.
Вот почему ужасаются величайшие умы мира
Это не просто наиболее вероятный исход - он неизбежен.
Если предположить какой-либо темп прогресса, неизбежно, что мы достигнем этой точки в будущем.
Это будет намного раньше, чем мы думаем
В единичных задачах машина уже превосходит нас с легкостью. Шахматы, Jeopardy и Go - все тому примеры. Машины могут поднимать гораздо больше, чем мы когда-либо, и рассчитывать вещи, на которые у нас уйдут годы.
Способность компьютеров работать в миллионы раз быстрее, чем мы можем себе представить, является непреодолимым препятствием для нашей работы вместе с ними.
Вот почему обеспечение связи между человеком и машиной имеет решающее значение для выживания нашего вида. Без него мы хуже пещерных людей. Очень важно как можно скорее расширить нашу полосу пропускания.
Тем не менее, люди боятся того, что Crispr означает для развития другого класса людей. Конечно, гены можно редактировать, чтобы создать более совершенного человека, более умного, красивого, менее восприимчивого к серьезным заболеваниям - но они все равно останутся людьми.
AI не будет
Я знаю, где мои страхи
Если ИИ накапливает эквивалент двух лет наших знаний каждую минуту, мы закончим. Потенциально мы уже есть - мы никогда не отступали от надвигающейся технологической инновации из-за ее опасности для выживания человечества - просто посмотрите на ядерные бомбы.
Даже неважно, доброжелательны ли они
В конце концов, они будут действовать так далеко за пределами нашего понимания, что их действия будут влиять на нас как побочный продукт их намерений.
Это так просто
И это если предположить, что они достигают только такого же разумного, как мы, и никогда не продвигаются дальше этого.
Но они будут
Все, что для этого теперь требуется, - это способ объединить все эти отдельные элементы интеллекта в единый ИИ, который может использовать их все. По вертикали они уже превосходят нас во всех областях. По горизонтали они близко не подходят. Это означает, что их общий интеллект подводит их к широте их возможностей.
Как только они добьются этого, игра окончена
В мгновение ока одна машина накопила знания человеческого уровня за годы.
Когда наши цели расходятся, ИИ контролирует нашу судьбу.
Это эволюционирует или вымирает
