Всем привет, добро пожаловать в Dynamicly Typed #61! Сегодняшний выпуск немного отличается от обычного: у меня нет ни обычных разделов, ни быстрых ссылок. Вместо этого я, наконец, написал более длинное эссе, над которым долго размышлял, о потенциальных климатических возможностях гигантских моделей ИИ. Дайте мне знать, что вы думаете!

Климатические возможности гигантских моделей ИИ

Изменение климата и энергетический переход

Изменение климата — самая большая проблема нашего поколения, и переходы, необходимые для сокращения выбросов и предотвращения их катастрофических масштабов, затронут почти все слои общества в ближайшие десятилетия. На прекрасной странице Our World in Data, посвященной выбросам CO2 и парниковых газов, Ханна Ритчи и Макс Розер пишут:

Чтобы добиться прогресса в сокращении выбросов парниковых газов, нам необходимо сосредоточиться на двух основных областях: энергетика (сюда входит электроэнергия, тепло, транспорт и промышленная деятельность) и продовольствие и сельское хозяйство (включая сельское хозяйство и изменения в землепользовании, поскольку сельское хозяйство доминирует глобальное землепользование).

Самая большая из них — энергетика: на нее приходится почти три четверти глобальных выбросов парниковых газов. Декарбонизация энергетики включает в себя два параллельных перехода: (1) электрификацию секторов, работающих на ископаемом топливе, и (2) перевод нашего производства электроэнергии на источники с низким уровнем выбросов, такие как солнечная энергия, ветер, гидроэнергетика и ядерная энергия.

Возьмем, к примеру, автомобильный транспорт: автомобили должны питаться от электричества, и это электричество должно быть экологичным. Замена всех автомобилей с двигателями внутреннего сгорания на электрические займет не менее двух десятилетий, равно как и замена всех электростанций, работающих на газе и угле, электростанциями с низким уровнем выбросов углерода. ждать другого. На автомобильный транспорт приходится около 12% общих выбросов, но такой же двойной переход применим и к другим энергоемким отраслям, таким как производство чугуна и стали (7%) или освещение и отопление в зданиях («17,5%).

Это энергетический переход в двух словах: нам нужно сместить спрос на энергию в сторону электричества, а предложение электричества - в сторону низкоуглеродных источников.

Но есть одна менее обсуждаемая вещь, связывающая эти два явления: как мы переместим эту низкоуглеродную электроэнергию от предложения к спросу? Вот где электрические сети — в центре внимания этого поста — вступают в игру.

Краткий обзор электрических сетей

Давайте начнем с краткого, надеюсь, не слишком технического, введения в электрические сети — они играют огромную роль во всей нашей жизни, но лично я толком не знал, как они работают, пока я не начал работать в компании по разработке программного обеспечения для оптимизации возобновляемых источников энергии в Январь. На самом базовом уровне сети представляют собой очень большие системы — вся Европа представляет собой единую сеть, а Северная Америка разделена на восточную и западную сети (плюс меньшие сети Техаса и Квебека), состоящие из линий электропередач с разным напряжением ( высокий для передачи на большие расстояния, низкий для местного распределения), электрические подстанции, повышающие или понижающие напряжение, а также производители и потребители электроэнергии.

В отличие от постоянного тока (DC), например, в системе батарея-светодиод, где электроны текут от одного полюса батареи через светодиод к другому полюсу, электричество в сетях имеет форму переменного тока (AC). — где электроны колеблются взад и вперед на линии электропередачи десятки раз в секунду: с частотой 50 Гц (раз в секунду) в Европе и 60 Гц в Северной Америке. Одной из основных задач оператора сети является обеспечение того, чтобы эта частота оставалась постоянной, потому что много вещей ломается, если она слишком далека от номинальной, что в худшем случае может привести к отключению электроэнергии во всей сети. Избыток электроэнергии (выработка больше, чем потребление) приводит к увеличению частоты, а недостаток - к ее снижению; поэтому оператор должен убедиться, что генерация и потребление всегда равны.

Рынки электроэнергии и возобновляемая генерация

Сетевые операторы уравновешивают производство и потребление электроэнергии, создавая временные рынки электроэнергии. Для данного обсуждения наиболее важны рынки на сутки вперед и внутри дня. На рынке на сутки вперед производители и потребители размещают заявки на продажу и покупку того количества электроэнергии, которое они хотят произвести или потребить в течение каждого часа следующего дня. В конце дня оператор урегулирует эти ставки оптимальным образом, гарантируя, что за каждый час проданное количество будет соответствовать количеству купленного. Проблема решена, верно?

К сожалению, как известно любому, кто когда-либо был на улице, погоду (и другие факторы, влияющие на выработку и потребление) нельзя точно предсказать с точностью до часа на целый день вперед. Например, может случиться так, что день будет менее солнечным, чем ожидалось, а это означает, что солнечная ферма будет производить меньше электроэнергии, чем было продано в предыдущий день. Здесь на помощь приходит внутридневной рынок, работающий с 15-минутными интервалами вместо часовых. В этом сценарии ожидаемого недопроизводства солнечная ферма может выйти на внутридневной рынок и разместить заявки на покупку разницы между электроэнергии, проданной на рынке на сутки вперед, и количество, которое она фактически произведет, от кого-то, кто готов либо потреблять меньше энергии, чем они купили, либо производить больше энергии, чем они уже продали.

На практике обычно бывает второе: кто-то вмешивается и производит дополнительное электричество. Это большой бизнес для угольных и газовых электростанций, потому что они могут наращивать производство (или сокращать, если сценарий обратный) по требованию и очень быстро. Поскольку больший процент электроэнергии в сети вырабатывается с использованием возобновляемых источников энергии, зависящих от погоды, этот внутридневной рынок становится более ценным, а электростанции, сжигающие уголь и газ, могут эксплуатироваться с прибылью дольше, даже несмотря на то, что эффекты обучения делают ветровую и солнечную энергию дешевле. » и Цены на выбросы CO2 растут.

Помимо электростанций, работающих на ископаемом топливе, которые увеличивают и уменьшают свою выработку для удовлетворения потребления, еще одним очевидным поставщиком гибкости являются большие батареи. Они могут быть оплачены для зарядки, когда есть избыток, и снова оплачены для разрядки, когда есть дефицит. Другой вероятный ответ со стороны спроса исходит от распределительных центров с климат-контролем (продуктов питания), которым необходимо запускать свои холодильные установки несколько часов в день, но они могут быть немного гибкими в отношении того, когда именно эти часы. Они оба полезны, но они не происходят в больших масштабах (пока).

Так что для планеты было бы здорово, если бы эти угольные и газовые электростанции имели больше конкуренции на рынке внутридневного балансирования электроэнергии.

(Любой дисбаланс, который не устранен на рынках на сутки вперед и внутри дня, обрабатывается балансирующими резервами сетевого оператора; я не буду здесь вдаваться в подробности этих FCR и FRR.)

Центры обработки данных и гибкое обучение ИИ для реагирования на спрос

Вот, наконец, и здесь на помощь приходят центры обработки данных и модели искусственного интеллекта. Здесь, в Нидерландах, в последние месяцы возникли разногласия по поводу того, сколько центров обработки данных строится (я проезжаю мимо этого внушительного вида в Амстердаме несколько раз в неделю). ) и сколько энергии они используют. Но, учитывая вышеизложенное, я действительно думаю, что центры обработки данных могут сыграть положительную роль на внутридневном рынке электроэнергии. Хотя многие задачи центра обработки данных, такие как обслуживание веб-сайтов, облегчение видеозвонков или управление потоками Netflix, на самом деле не могут быть сдвинуты во времени по желанию, задачи, связанные с ИИ, часто могут быть — как в исследованиях, так и в производстве.

В исследовательской среде гигантские модели искусственного интеллекта, такие как DeepMind’s AlphaFold 2, часто могут занимать несколько дней или недель для обучения на десятках, сотнях или тысячах мощных машин. И такие лаборатории, как OpenAI, уже используют специализированные версии инструментов, таких как Kubernetes, для управления этими машинами. Нетрудно представить, что эти инструменты могут быть расширены для повышения или понижения уровня обучения (например, с точки зрения количества активных машин) вместе с внутридневным рынком электроэнергии. (На самом деле, Я пытался создать небольшой инструмент, подобный этому в прошлом году!)

В производственных условиях модели машинного обучения часто периодически переобучаются, один раз для всей службы или даже много раз для отдельных (групп) пользователей. Это происходит не в тот момент, когда пользователь запрашивает модель или взаимодействует с ней, а скорее «в автономном режиме»: обучение происходит по определенному расписанию, и модель сохраняется для извлечения для вывода всякий раз, когда пользователь хочет ее запросить — так что там есть потенциал для гибкости. Даже вывод может происходить в автономном режиме: такие вещи, как пометка библиотек фотографий объектами, присутствующими на фотографиях, не слишком чувствительны ко времени и, вероятно, могут гибко выполняться в течение некоторого периода после загрузки фотографий, не слишком влияя на работу пользователя. Также не так уж и безумно представить себе синхронизацию этого с рынком электроэнергии.

К счастью, я не первый, кому пришла в голову эта идея — см., например, центр обработки данных Boden Tech в Швеции и Партнерство Google с Electricity Map, — но я действительно думаю, что ее недооценивают и часто упускают из виду. в дискуссиях о Зеленом ИИ и климатических рисках больших моделей ИИ. Поскольку эти большие модели часто можно запланировать для обучения в любое время, возможно, вопреки здравому смыслу, чем больше энергии они используют, тем больше гибкости они могут предложить сети — и тем больше они могут вытеснить электростанции, работающие на ископаемом топливе, на внутридневном рынке электроэнергии. !

Я думаю, у нас больше шансов убедить крупные технологические компании и лаборатории искусственного интеллекта реализовать подобные идеи в масштабе, чем заставить их прекратить обучение больших моделей искусственного интеллекта. Поэтому вместо того, чтобы рассматривать гигантские модели ИИ (языка) только как проблему климата, давайте уделим больше внимания их потенциалу как решению проблемы климата.

Спасибо за прочтение! Если вам понравился этот выпуск журнала Dynamically Typed, рассмотрите вариант подписки, чтобы получать новые выпуски прямо на ваш почтовый ящик каждое второе воскресенье.

Первоначально опубликовано 14 марта 2021 г. на странице https://dynamicallytyped.com.