Написано Роханом Шармой 30 мая 2023 г. https://www.linkedin.com/in/rohansharma9/

Поскольку искусственный интеллект (ИИ) продолжает развиваться стремительными темпами, растет потребность в регулировании ИИ. Системы искусственного интеллекта становятся экспоненциально мощными и сложными, они могут оказать значительное влияние на жизнь людей и цивилизацию, какой мы ее знаем. Так что пришло время установить барьеры. Как было сказано в недавнем выступлении в Конгрессе Сэмом Альтманом, генеральным директором Open AI». Если эта технология пойдет не так, она может пойти очень плохо».

Подходы к регулированию ИИ:

В отношении регулирования ИИ рассматривается ряд различных подходов. Один из подходов заключается в создании новых законов и правил специально для ИИ, аналогично тому, к чему ЕС приближается с AIA. Другой подход заключается в адаптации существующих законов и правил для применения к системам ИИ. Третий подход заключается в разработке отраслевых стандартов и лучших практик для разработки и использования ИИ, некоторые из которых были реализованы в США, но многое еще предстоит сделать.

Наилучший подход к регулированию ИИ, вероятно, будет включать комбинацию этих различных подходов. Важно найти способ сбалансировать необходимость защиты людей от рисков, связанных с ИИ, с необходимостью разрешить инновации на основе ИИ, которые окажут преобразующее воздействие на некоторые из самых серьезных проблем нашего времени.

Если это так критично, давайте оформлять регламент? Что ж, не все так просто

Регулирование ИИ относится к процессу создания и обеспечения соблюдения законов, политик и руководств, регулирующих разработку и использование ИИ.

Но в случае генеративного ИИ непросто определить, где может применяться регулирование.

Давайте рассмотрим созданный пользователем скрипт, который работает с плагинами, которые подключаются к точно настроенным моделям, которые подключаются к базовым моделям LLM, которые подключаются к наборам данных. В приведенном выше сценарии, где и как применяется нормативная и нормативно-правовая политика дезинформации в чат-боте?

Регулируете ли вы использование больших языковых моделей, таких как Open AI? Наборы данных, на которых они обучаются, например, в Интернете? Поставщики облачного хостинга, такие как AWS, Azure, GCP? поставщики графических процессоров, такие как Nvidia? производители продукции? Или создатели приложений для конечных пользователей, таких как AutoGPT.

Хотя не совсем ясно, когда, как и на чем лежит ответственность за соблюдение требований, важно начать разговор.

Важно отметить, что правила могут принимать разные формы. В качестве примера возьмем 2 самых известных:

1. Правительственные постановления

2. Саморегуляция

Давайте посмотрим на текущее состояние регулирования ИИ применительно к обоим этим типам.

Правительственные постановления

Это законы, принятые для регулирования разработки и использования конкретной технологии. Законы и правительственные постановления имеют силу, то есть за их несоблюдение предусмотрена гражданская и уголовная ответственность.

Изображение взято с PixelPlex.io

Европейский союз

Европейский союз продвинулся дальше всего в разработке законов и правил, касающихся ИИ. По состоянию на май 2023 года ЕС завершает работу над Европейским Союзом: Закон об искусственном интеллекте (AIA).

AIA — это предлагаемый регламент, который будет регулировать разработку и использование ИИ в Европейском союзе. Регламент создаст основанную на рисках основу для регулирования ИИ с различными требованиями к системам ИИ, которые представляют разные уровни риска. AIA также создаст Европейский совет по искусственному интеллекту для наблюдения за выполнением регламента.

США

В США федеральное правительство через Министерство торговли начало предпринимать шаги по созданию правил безопасности ИИ.

Белый дом также выпустил Билль о правах ИИ, который является необязательным документом, в котором изложены пять ключевых принципов ответственного использования искусственного интеллекта (ИИ).

Некоторые федеральные агентства также приняли меры против неэтичного и незаконного использования ИИ. Например: FTC предприняла ряд принудительных мер против компаний, которые использовали ИИ обманным или несправедливым образом. В 2021 году FTC оштрафовала Facebook на 5 миллиардов долларов за обманное использование технологии распознавания лиц.

Точно так же существует руководство Управления управления и бюджета (OMB) по регулированию приложений искусственного интеллекта. Это руководство, выпущенное OMB в ноябре 2020 года, содержит рекомендации для федеральных агентств по регулированию приложений ИИ. В руководстве подчеркивается необходимость риск-ориентированного подхода к регулированию, и оно призывает агентства учитывать потенциальные преимущества ИИ, а также потенциальный риск.

В том же духе Национальный институт стандартов и технологий выпустил Систему управления рисками ИИ.

Роль правительства в регулировании технологий

Это подводит нас к тому, какой должна быть роль правительства в регулировании ИИ и подобных технологий, оказывающих огромное влияние на общество. Изображение ниже, взятое с веб-сайта Европейской комиссии ОЭСР, точно показывает масштабы участия правительства.

Изображение взято с сайта ОЭСР

Система саморегулирования

Саморегулирование играет жизненно важную роль в различных отраслях. В сфере финансов такие органы, как FINRA, устанавливают правила для фирм по ценным бумагам и брокеров. В Великобритании медицинские работники имеют регулирующие органы, такие как Генеральный медицинский совет, которые обеспечивают соблюдение стандартов этического поведения и образования. Даже в рекламной индустрии есть Управление по стандартам рекламы, обеспечивающее законность рекламы. В сфере технологий тоже есть органы саморегулирования, такие как Международная ассоциация профессионалов в области конфиденциальности, которые защищают конфиденциальность и кибербезопасность.

По аналогии мы могли бы создать форум стандартов генеративного ИИ, который объединит ведущих лидеров ИИ и более широкое сообщество для эффективного регулирования технологий и продуктов ИИ.

Будущее регулирования ИИ неопределенно. Тем не менее, одно можно сказать наверняка: ИИ — это трансформирующая технология, которая окажет большое влияние на наше общество, и сейчас самое время подумать о надежной нормативно-правовой базе для ИИ, которая устанавливает основополагающие правила для предотвращения неправильного использования и распространения этих мощных технологий. со стороны недобросовестных субъектов, включая государственных субъектов, но не слишком посягающих на то, что конкурентоспособность и инновации Америки находятся под угрозой.

Таким образом, задача регулирования ИИ состоит в том, чтобы найти способ сбалансировать регулирование, сохраняя при этом инновации. Это потребует тщательного планирования и координации между правительствами, бизнесом и гражданским обществом.

Обнимающее лицо NVIDIA AI LANGCHAIN Databricks Pinecone Openai TechCrunch Onion Mashable GigaOm #AI #Искусственный интеллект #DataScience #Machine Learning #NLP