Сегодня утром горстка топ-руководителей ИИ была вызвана в Белый дом, чтобы обсудить, что они делают, чтобы соответствовать руководящим принципам ИИ, предложенным администрацией Байдена. Еще до начала встречи был выпущен пресс-релиз, в котором объявлялось о независимом обязательстве ведущих разработчиков ИИ продвигать ответственный ИИ путем оценки их систем, чтобы изучить, как модели соответствуют принципам и практикам, изложенным в недавней администрации. заявления.

Между тем, во вчерашней резкой статье New York Times председатель Федеральной торговой комиссии Лина Хан заявила: Мы должны регулировать ИИ. Вот как." В своем эссе она фактически объявляет открытую войну американским новаторам в области алгоритмов, говоря, что предыдущая цифровая революция «обошлась дорогой ценой, и она настаивает на том, что политики должны убедиться, что история не повторится с помощью бизнес-моделей гонки на выживание. и монополистический контроль».

Таким образом, усилия по регулированию бэкдора ИИ идут полным ходом.

Стремление администрации Байдена к усилению федерального контроля над алгоритмами ускорилось в октябре прошлого года с выпуском ее Проекта Билля о правах ИИ и сопровождающего его списка Ключевых действий по продвижению технической подотчетности и защите прав американской общественности. ». К сожалению, как я отметил в недавнем отчете R Street, структура искусственного интеллекта администрации Байдена больше похожа на план для начинающих технических критиков и судебных юристов, которые надеются блокировать алгоритмические инновации, а не помогать их продвижению.

AI Blueprint начинается с перечисления пугающих заявлений о том, что алгоритмические системы небезопасны, неэффективны или предвзяты, очень вредны, угрожают правам американского общества и используются чтобы ограничить наши возможности и предотвратить наш доступ к критически важным ресурсам или услугам. Документ продолжается более 50 страниц, постоянно подчеркивая возможные опасности, а не потенциальные возможности. В этом документе и во многих заявлениях администрации об ИИ преобладают сценарии наихудшего случая и мышление, основанное на страхе. Большие преимущества, связанные с искусственным интеллектом и алгоритмическими системами, рассматриваются как второстепенные.

Тем временем FTC Хана была занята публикацией серии последних блогов постов, в которых представители агентства намекали, что они готовы обрушить молот на новаторов в области алгоритмов. Хотя агентство обладает широкими полномочиями по контролю рынков за недобросовестную и вводящую в заблуждение практику, эти полномочия по защите прав потребителей в основном были сосредоточены на принудительном исполнении постфактум после официального расследования. Недавние заявления агентства предполагают переход к более агрессивным и немедленным действиям на фронте ИИ. Другие агентства, похоже, тоже готовы действовать. На прошлой неделе Хан и главы Отдела гражданских прав Министерства юстиции США, Бюро финансовой защиты прав потребителей и Комиссии США по равным возможностям трудоустройства опубликовали совместное заявление, в котором говорится, что они ожидают, что алгоритмические системы ускорят мошенничество и автоматизируют дискриминация, и что они будут стремиться предпринять упреждающие шаги для решения этой проблемы.

Между тем, министерство торговли Байдена также недавно начало новое расследование подотчетности ИИ, запросив публичные комментарии о том, как внедрить один из все более популярных механизмов управления: алгоритмический аудит и оценка воздействия. Это будет включать своего рода формальную оценку алгоритмических систем либо до, либо после выпуска, что в основном является тем, на что в сегодняшнем заявлении Белого дома говорится, что крупные фирмы ИИ уже добровольно согласились.

Таким образом, многие потенциальные регуляторы ИИ потенциально находятся в процессе разработки, несмотря на тот факт, что Конгресс еще не принял никакого закона, разрешающего широкое расширение полномочий, которое многие чиновники в администрации Байдена, по-видимому, готовы предпринять в одностороннем порядке.

Насколько добровольно это добровольно?

По крайней мере, до сих пор многое из того, что администрация предлагала в отношении алгоритмического управления, объявлялось добровольными рекомендациями и принципами, а некоторые из них носили вполне разумный характер. В январе Национальный институт стандартов и технологий (NIST) выпустил свою Концепцию управления рисками ИИ, которая, по мнению агентства, представляет собой добровольный набор руководящих принципов, предназначенных для реагирования на новые риски по мере их возникновения. ” вместо того, чтобы пытаться перечислить их все заранее. NIST отмечает, что его гибкость особенно важна, когда последствия трудно предвидеть, а приложения развиваются. NIST заметил, что некоторые риски и преимущества ИИ хорошо известны, оценка степени фактического вреда, связанного с некоторыми негативными последствиями, может быть сложной из-за проблем с измерением или различных концепций того, что представляет собой вред в первую очередь.

Это разумный способ думать о рисках ИИ, поскольку он дает понять, что будет сложно заранее определить и решить все потенциальные проблемы и опасения. Эта AI Risk Framework NIST, основанная на предыдущих многосторонних усилиях по борьбе с рисками кибербезопасности, предназначена для того, чтобы помочь разработчикам ИИ лучше понять, как выявлять и устранять различные типы потенциальных алгоритмических рисков. Напротив, AI Blueprint Байдена продвигается вперед с более паническим подходом к решению проблемы предполагаемых страданий. И риторика председателя FTC Кана и других глав агентств предполагает, что в результате, вероятно, будет проведено гораздо больше проверок и силовых мер.

Встреча в Белом доме с руководителями ИИ на этой неделе также предвещает рост разглагольствования как косвенной стратегии регулирования алгоритмических вопросов, с помощью которой политики будут стремиться добиться уступок от новаторов и обойти нормальные процедуры нормотворчества и конституционные ограничения. . Jawboning был популярной стратегией, использовавшейся в прошлом для информационных платформ аналоговой эпохи, особенно для радио- и телевещательных компаний. В течение многих десятилетий регулирующие органы Федеральной комиссии по связи (FCC) использовали бессрочные полномочия агентства в отношении общественных интересов, чтобы направлять или ограничивать выбор медиакомпаний на рынке. Этот процесс стал настолько распространенным, что стал известен в отрасли как регулирование с помощью поднятой брови или регулятивные угрозы, которые уговаривают участников отрасли внести небольшие изменения в их программы, как это определил один ученый.

Мы должны ожидать, что разглагольствование и косвенное регулирование путем поднятия бровей станут обычной частью политики в области ИИ — и что обе стороны будут использовать их в соответствии со своими приоритетами. Сегодня Белый дом призывает к «добровольным действиям» или уступкам; завтра каждый член Конгресса будет требовать решения своих излюбленных проблем — безопасности, защиты, «дезинформации» и т. д. В процессе не будет принято никаких официальных законов; все будет регулироваться запугиванием. «У вас там очень интересный алгоритм… Было бы обидно, если бы с ним что-то случилось». Это имплицитная логика того, как работает регулирование запугиванием.

Люди уже забыли о последнем саммите Белого дома по алгоритмическому контролю: саммите по социальным сетям президента Трампа в 2019 году, на котором он пытался использовать силу запугивающей кафедры для запугивания частных социальных сетей. Многие члены Конгресса от обеих партий играют в одну и ту же игру на каждом слушании, где они горячо высказывают недовольство и громко угрожают каждому техническому руководителю, который предстает перед комитетами. В ближайшие месяцы и годы нам следует ожидать гораздо больше подобного демонстративного поведения новаторов в области ИИ во имя решения проблемы алгоритмической справедливости и дискриминации, даже несмотря на то, что демократы и республиканцы определяют эти термины диаметрально противоположными способами.

Между тем, я ожидаю, что FTC Хана в полной мере воспользуется чрезвычайно широкими полномочиями, которыми обладает агентство, для решения любых вопросов, которые она сочтет алгоритмически несправедливыми и вводящими в заблуждение. И риторика, которую она использовала в последнее время, наряду с агрессивными действиями ее агентства по отношению к технологическим компаниям во время ее пребывания в должности, предполагает, что она попытается запугать новаторов ИИ и заставить их подчиниться, используя крайние тактики, такие как повторное открытие старых дел для повторного судебного разбирательства. имеет значение (что произошло только вчера со старым делом Facebook, на самом деле). В то же время, наряду с другими членами администрации Байдена и Конгресса, Кан будет и впредь стремиться настроить общественное мнение против любой продолжающейся алгоритмической свободы для инноваций без предварительного получения разработчиками предварительного благословения от бюрократов на каждом этапе процесса. Как намекает ее колонка New York Times, новаторов в области ИИ будут считать виновными, пока их невиновность не будет доказана.

Стоила ли цифровая революция того?

Действительно, более широкая проблема с тем, что сегодня происходит в администрации Байдена на этом фронте, заключается в том, что тон их недавних заявлений об ИИ коренится в более глубоком пренебрежении к американским цифровым новаторам и современной экономике, основанной на данных, в целом. Это имеет последствия для той инновационной культуры, которую Америка создаст для новых, управляемых данными и алгоритмических секторов и технологий в будущем.

Инновационная культура относится к различным социальным и политическим отношениям и заявлениям в отношении инноваций, технологий и предпринимательской деятельности, которые в совокупности влияют на инновационный потенциал культуры или нации. Предприниматели и венчурные капиталисты берут пример с позиций и заявлений политиков, а затем соответствующим образом корректируют свои решения. В мире, в котором новаторы и инвесторы могут перемещаться легче, чем в прошлом, очень важно, какой тон принимают политики по отношению к новым секторам и инновациям.

Желание Хан гарантировать, что история не повторится, предполагает, что она считает цифровую революцию большой ошибкой. Но стоит вспомнить, что на самом деле дала нам та история. Цифровая экономика возникла благодаря смелому двухпартийному видению Интернета и электронной коммерции, разработанному двадцать пять лет назад администрацией Клинтона и Конгрессом под руководством республиканцев. Приняв серию мудрых политических решений в середине 1990-х годов, президент Клинтон и законодатели Конгресса решили позволить американским секторам информационных и коммуникационных технологий вырваться из инновационной клетки, которая ограничивала предпринимательство и потребительский выбор в раннюю аналоговую эру, в какие поставщики информации и средств массовой информации очень жестко регулируются. Это сильно ограничивало инновации, конкуренцию и выбор.

Благодаря этим политическим решениям, которые Хан и другие в администрации Байдена сейчас осуждают и хотят отменить, компьютерные и цифровые технологии Америки стали локомотивом роста, который привел к выдающимся достижениям, стимулируя реальный экономический рост и занятость, как Brookings ученые резюмировали. Результаты были ошеломляющими. По данным Бюро экономического анализа, в 2021 году на цифровую экономику США приходилось 3,7 триллиона долларов валового продукта, 2,41 триллиона долларов добавленной стоимости (что составляет 10,3 процента валового внутреннего продукта США, 1,24 триллиона долларов компенсации и 8,0 миллиона долларов США). рабочих мест.

В процессе генерирования всей этой экономической активности американские технологические компании стали широко известны во всем мире, привлекая к нашим берегам талантливых иммигрантов и масштабные венчурные инвестиции. Почти половина из 100 ведущих мировых технологических компаний с самым большим количеством сотрудников — это американские компании, а 18 из 25 ведущих мировых технологических компаний по рыночной капитализации — американские фирмы.

А еще есть самая важная история успеха цифровой революции: она помогла нам перейти от мира информационной бедности к миру информационного изобилия. Человечеству никогда не нравилось больше средств связи и средств массовой информации, и теперь каждый из нас наслаждается возможностью быть типографией, издательством и вещательной компанией в одном лице. Это выдающееся достижение, и просвещенное политическое видение Америки помогло нашим новаторам добиться этого.

Кан и другие хотели, чтобы мы поверили, что все это того не стоило, потому что на этом пути были некоторые проблемы. Это правда, но американцы — и, если уж на то пошло, весь остальной мир — никогда бы не воспользовались многими положительными преимуществами цифровой революции, если бы США просто навязали старый порядок регулирования интернета и новых цифровых технологий. Сегодня легко принять все эти преимущества как должное, но из истории мы знаем, что гражданам было отказано в выборе информации из-за ошибочной бюрократической политики и сильно политизированных процессов регулирования в прошлом. Действительно ли нам было лучше в эпоху дисковых телефонов, нескольких радио- и телестанций и одной местной газеты или библиотеки (при условии, что они у вас вообще были)? Единственная причина, по которой мы смогли выйти за рамки этого положения дел, заключается в том, что политики приняли смелое решение дать технологической свободе выбора шанс на победу.

Чиновники, такие как Хан и другие, теперь настаивают на том, что только предупредительные меры регулирования могут предотвратить проблемы, связанные с новыми алгоритмическими системами. По сути, администрация Байдена хочет, чтобы Америка приняла европейскую модель регулирования цифровых технологий, а Федеральная торговая комиссия Кана уже позиционирует себя де-факто как Федеральная комиссия по искусственному интеллекту, стремящаяся установить широкомасштабный контроль на основе принципов предосторожности над всей вычислительной экономикой. . Конечно, этот режим регулирования стал настоящей катастрофой для Европы и оставил континент без крупных игроков на мировой арене цифровых технологий. Многие из лучших изобретателей и крупнейших инвесторов давно бежали из Европы в США или другие страны, чтобы получить свободу разрабатывать новые интересные продукты. Для Америки было бы ужасной моделью для алгоритмических систем.

Что дальше?

Итак, что происходит дальше? Я предполагаю, что Кан и другие агентства перейдут в наступление в ближайшие месяцы и придумают широкие теории вреда, чтобы в одностороннем порядке и упреждающе регулировать алгоритмические инновации. Чтобы получить некоторые мысли о том, что будет дальше, прочитайте эти недавние эссе ветеранов FTC Олдена Эбботта (Четыре всадника бюрократического апокалипсиса приходят за ИИ) и Дэниела Дж. Гилмана (Искусственный интеллект встречается с органической глупостью).

Неясно, что происходит с общественной оценкой систем ИИ, которую Белый дом сегодня заставил крупные компании ИИ согласиться провести на платформе оценки, разработанной Scale AI в Деревне ИИ на конференции DEFCON 31 в августе, но Politico предсказывает «Расплата ИИ придет в августе.» Я подозреваю, что расплата вызовет усиленную политическую реакцию после того, как оценка в основном не даст нам ничего, кроме того, что мы уже знаем о существующих генеративных системах искусственного интеллекта. И тогда политики скажут: Ну что у вас еще есть для нас? К тому времени Министерство торговли завершит процесс подотчетности ИИ и предложит создать документ, оправдывающий полномасштабные обязательные алгоритмические аудиты для разработчиков, которые, вероятно, проводятся в рамках какого-то процесса FTC. На самом деле это всего лишь вопрос характера и объема мандатов, задействованных под видом алгоритмической прозрачности или объяснимости.

Есть и другие аспекты алгоритмического регулирования, затрагивающие другие вопросы, такие как антимонопольное законодательство, конфиденциальность, безопасность детей и антидискриминационная политика. Выяснилось, что Хан активно вступает в сговор с официальными лицами Европейского Союза с целью регулирования американских технологических компаний в соответствии с законодательством о конкуренции за рубежом, но теперь она, вероятно, также будет стремиться к сотрудничеству с европейскими официальными лицами, чтобы навязать американским фирмам еще более экстерриториальное регулирование через ЕС». • Общее положение о защите данных 2018 года и Новый закон ЕС об искусственном интеллекте, который предусматривает агрессивный глобальный контроль над алгоритмическими системами. Опасения по поводу онлайн-безопасности также вызывают растущую нормативную нагрузку на федеральном уровне и уровне штатов, и политики все чаще рассматривают, как решить эту проблему, используя алгоритмическую объяснимость в качестве обоснования, чтобы избежать проверки Первой поправкой. Наконец, более широкие опасения по поводу алгоритмической справедливости и проблемы дискриминации уже стимулируют политическую деятельность в сфере трудового законодательства, при этом усилия по регулированию в этой области продвигаются на федеральном уровне, уровне штатов и местном уровне.

Чтобы внести ясность, политики должны продолжать изучать риски ИИ, но этот процесс не должен управляться деспотичным, ограничивающим инновации федеральным режимом регулирования, полностью основанным на мышлении, основанном на страхе, и наихудших сценариях маленького цыпленка. Культура проектирования безопасности для ИИ разумна. Но не менее убедительно заинтересованы в том, чтобы алгоритмические инновации разрабатывались и делались широко доступными для общества. Хотя потребуются некоторые меры предосторожности для минимизации определенных рисков ИИ — а многие законы и правила уже существуют для решения возникающих проблем — гибкий восходящий подход к управлению может решать алгоритмические проблемы, не создавая властных, нисходящих мандаты, которые будут препятствовать обогащающим и даже спасающим жизнь инновациям в области ИИ.

Последствия этих политических решений также значительны, поскольку искусственный интеллект и алгоритмические системы будут играть решающую роль в глобальном конкурентном преимуществе и относительной геополитической мощи Америки в ближайшие годы. Поскольку Китай становится основным конкурентом в секторах передовых информационных технологий, а другие страны стремятся быть в авангарде разворачивающейся вычислительной революции, Соединенные Штаты должны создать позитивную инновационную культуру, если они надеются на экономическое процветание и обеспечение более безопасного, более надежного, и постоянно динамичная технологическая база.

___________

Дополнительная литература: