СОВЕТ ОТ ПРОФЕССИОНАЛА: больше статей, историй, кода и исследований по искусственному интеллекту и машинному обучению можно найти на моем веб-сайте: www.theapemachine.com
Я решил сделать серию из нескольких частей по этому поводу, потому что тема довольно плотная и сложная, и я не думаю, что мы можем полностью деконструировать ее как одну статью.
Я думаю, что есть необходимость разбить это на несколько разных тем, каждая из которых может исследовать часть последствий, связанных с идеей регулирования в ИИ. и М.
Прежде чем мы начнем, я хочу прояснить, что я занял позицию наблюдателя-агностика, когда дело доходит до ИИ. безопасность, и не претендую на то, чтобы точно знать, как будет развиваться будущее.
Я также считаю, что в мире нет никого, независимо от того, насколько близок ваш доступ к ультрасовременному искусственному интеллекту, способного точно предсказать, будет ли искусственный интеллект или нет. станет опасным для нас в будущем, и даже если так, то как эта опасность проявит себя.
Я предлагаю вам помнить об этом не только при чтении этих статей, но и при чтении чего-либо еще об искусственном интеллекте. безопасность.
Передний край
Есть очевидная причина, по которой люди с радостью называют «передовой край» искусственного интеллекта, не давая каких-либо указаний на то, что это на самом деле представляет, и эта причина состоит в том, что описание будет совершенно не впечатляющим.
Некоторые из наиболее практичных и достаточно мощных реализаций машинного обучения, которые сегодня находятся в открытом доступе, - это генеративные модели и так называемые модели Q-обучения (обучения с подкреплением), которые дают впечатляющие результаты в очень узких областях.
Мы говорим, что играть в игры лучше, чем люди, и создавать визуальные образы в человеческом стиле.
Например, весьма впечатляюще то, что недавно OpenAI победил лучшего игрока в Dota 2 с помощью своего нового игрового бота.
Что особенно впечатляло, так это то, как он тренировался сам по себе, поскольку в основном он играл в игры против самого себя. постоянно совершенствоваться за счет обучения с подкреплением.
Что не было упомянуто в твите, написанном Маском по этому поводу, где он радостно хвастался, что эта победа была более впечатляющей, чем недавняя победа ИИ Google в Го, так это то, что игра Dota была сильно ограничена в своей обычной игровой среде.
Он играл только 1 на 1, оба игрока могли выбрать только 1 персонажа (одного и того же «героя») с ограниченным набором атак.
Это представляло лишь малую часть сложности полного командного соревнования, и в действительно честном сравнении не было таким сложным, как игра в го.
Что очень интересно здесь, так это то, что, хотя Маск очень громко заявляет о том, что компании хотят «замедлить темп» и дождаться регулирования, его собственная компания теперь хвастается огромным прогрессом, которого они добились ...
Другой большой скачок вперед, который мы недавно совершили в машинном обучении, - это генеративные состязательные сети, где две нейронные сети постоянно «борются» друг с другом, чтобы улучшить себя.
Эти сети используются для создания вещей например, перенос стиля возможен, метод, используемый для придания вашей фотографии такой вид, как будто она была нарисована Винсентом Ван Гогом.
Они также вполне способны превратить грубые рисунки в более реалистичные изображения или даже создать полные картинки из текстового описания.
Все это реальные достижения, и не следует упускать из виду их важность прямо сейчас с функционального уровня, а затем в дальнейшем, поскольку они сыграли свою роль в развитии сильного искусственного интеллекта.
Наконец, есть менее известные разработки, которые существуют в основном либо на бумаге в виде концепций, либо в виде грубой версии в лабораториях, которые представляют собой теоретические, нефункциональные и недоказанные мечты.
Именно эти мечты подпитывают большинство страхов, связанных с искусственным интеллектом. , но их пока нельзя подпиливать под режущую кромку, потому что их просто нет.
Регулирование
Итак, идея состоит в том, чтобы ввести регулирование в области искусственного интеллекта, и она сразу же оказалась очень интересной темой.
Есть несколько аргументов, которые вы видите снова и снова по этому поводу.
«Удачи в регулировании искусственного интеллекта. когда другим странам, вероятно, будет наплевать, что вы ограничиваете себя, пока они идут полным ходом ».
Это достаточно справедливый аргумент, хотя у нас уже есть модель, которая уже существует и достаточно хорошо работает, когда дело доходит до войны, - Организация Объединенных Наций.
Когда мы говорим об искусственном интеллекте, который будет существовать в будущем, мы должны всегда учитывать это в глобальном масштабе и понимать, что независимо от ситуации в настоящее время, это повлияет на каждого из нас.
«Как мы могли ожидать контроля и / или ограничения общего интеллекта, его непредсказуемость - это не то, что мы в первую очередь могли бы понять».
Еще один очень хороший момент, и на данный момент на него нет ответа, поскольку вся область, связанная с искусственным интеллектом. безопасность в настоящее время является одной большой нерешенной проблемой.
Тем не менее, это не означает, что есть что-то против попытки ввести правила прямо сейчас, реализуемые снизу вверх, так сказать.
В одном я согласен с Илоном Маском. : Если мы должны реагировать на ИИ регулирование, вероятно, будет слишком поздно.
Затем у меня есть один вопрос, который я разработал сам, и, честно говоря, у меня нет реального ответа на него в настоящий момент.
Если люди могут сказать, что какой-то код красив, а какой-то уродлив, делает ли это кодирование связанным с искусством или, по крайней мере, творческим процессом, и должно ли оно унаследовать права на свободу выражения / слова?
Прогноз…
Когда я впервые услышал о заявлениях, сделанных Илоном Маском в Ассоциации губернаторов, и прочитал все больше и больше об эволюции стоящих за ними идей, у меня в голове возникли две мысли.
Первая была о «свободе свободы». выражение / речь »аргумент против регулирования, который я подробно описал выше, и второй, вероятно, будет столь же решительным, особенно если вы являетесь заядлым поклонником Илона Маска.
Я знаю, что Маск зарекомендовал себя как человек, твердо разбирающийся в технологиях и теоретиках, лежащих в основе искусственного интеллекта, особенно после его небольшого сближения с Марком Цукербергом, но я не верю, что это правда.
Он очень умный парень, это нельзя отрицать, и я думаю, что он настолько разбирается в концепциях, насколько это возможно, не будучи явным экспертом, который работает в этой области изо дня в день, но это не делает его правильный представитель искусственного интеллекта и машинного обучения.
Это подтверждается количеством настоящих экспертов, таких как Ян ЛеКун, которые выступили против него.
Я всегда описываю Илона Маска как в первую очередь бизнесмена, причем великого, и его цель - завоевать рынки. Я не отрицаю, что он прав, когда говорит, что хочет изменить мир к лучшему, но это все же не умаляет того факта, что это отличная маркетинговая стратегия, и добавляет к общему бренду, который он представляет.
И этот бренд - это не OpenAI, Tesla, SpaceX или Boring Company, и не бренд, который представляет Илон Маск: Илон Маск.
Таким образом, даже несмотря на то, что OpenAI является некоммерческой организацией, если им случится совершить в будущем какой-то огромный прорыв в области искусственного интеллекта в целом, стоимость всех других компаний под брендом Илона Маска значительно выиграет от этого.
Маск непоследователен, поэтому я начал сомневаться в его намерениях еще до того, как он высказал свои пожелания по регулированию в секторе, в котором он сам заинтересован.
Хотя я не основываю нижеследующее на каких-либо фактах, и это чистое предположение, граничащее с теорией заговора, я все равно хотел записать это, потому что у меня есть предчувствие, и было бы очень весело проверить это в ближайшем будущем.
Я думаю, что Илон Маск, который ранее сказал, что он подарил миру идею Hyperloop, потому что у него самого не было времени над ней поработать, основал Boring Company, которая не совсем Hyperloop и поэтому намного проще на самом деле. реализовать, чтобы дать правительствам возможность частично решить проблему транспортных потоков.
Транспортный поток напрямую связан с экономикой, и для правительств нет ничего лучше, чем рост экономики.
Это позволило бы ему стать одной из ключевых фигур в возможных нормативных конструкциях, которые продвигаются прямо сейчас.
Опять же, это, конечно, спекуляция, но даже название: «Скучная компания» - это именно то, что Маск предпочел бы дать компании, которой поручено выполнять очень маленькую и скучную часть гораздо более крупной компании. стратегия.
Это только мое мнение, фанаты меня не убивают! ;)
Первоначально опубликовано на www.theapemachine.com.
