Нам нужно серьезно задуматься о нашей позиции в отношении ИИ
Поэтому, хотя я думаю, что недавнее открытое письмо Института будущего жизни
немного запутанный, чрезмерно драматичный и нагнетающий панику и — имхо — движимый сочетанием хороших и сомнительных целей, я твердо поддерживаю его настроения и считаю, что нам нужно серьезно задуматься о том, как мы управляем ИИ.
Потому что, даже если риски невелики, в конечном итоге нам понадобятся политики, пусть ИИ застанет нас врасплох (и мы действительно не хотим, чтобы правые популистские политики делали эти призывы вместо нас).
Кроме того, сейчас самое время, потому что, хотя я считаю, что мы все еще далеки от сильного ИИ, это не имеет значения, даже слабый, плохо спроектированный незрелый «ИИ», или, скорее, те модели машинного обучения, которые пресса, компании и общественность беспокоятся или говорят о том, что уже оказывают влияние на общество («интеллектуальное» или нет).
Помните, что речь идет не только о вашем чрезмерном увлечении стилем Терминатора или Матрицы, это гораздо более тонко. Речь идет о моделях, которые будут управлять нашей жизнью самыми крошечными способами, такими как алгоритмы, банки, страховки, полиция, ваше правительство будет применять для информирования или принятия решений.
Оружие математического разрушения — Википедия
Переключить оглавление Из Википедии бесплатная энциклопедия «Оружие математического разрушения — американская книга 2016 года…en.wikipedia. орг»
Но кроме того, кого волнует, является ли он разумным или разумным в принципе, если он выглядит так, то этого достаточно на практике… (вы знаете своего Тьюринга…)
Итак, независимо от всех опасений, которые могут быть у вас по поводу Института Будущего Жизни и их позиции в отношении долгосрочных подходов, их аргументы в порядке, так что отправляйтесь в Институт Будущего Жизни и подпишите это письмо…
Кроме того, хороший подкаст на эту тему:
