Прорывы NVIDIA 2021
Введение:
l Я создатель, сочетающий искусство и технологии, чтобы погрузить наши чувства.
l Я целитель, помогающий нам сделать следующий шаг и увидеть, что возможно.
l Я пионер в поиске спасающих жизни ответов и расширении границ до крайних пределов.
l Я страж, защищающий наши океаны и великолепных существ, которые называют их своим домом.
l Я защитник, помогающий земле дышать легко и охраняющий ее для будущих поколений.
l Я рассказчик, придающий словам эмоции и оживляющий их.
l Я даже композитор музыки. Я — искусственный интеллект, воплощенный в жизнь NVIDIA, Deep Learning и блестящими умами во всем мире.
Программное обеспечение для искусственного интеллекта предоставляется как услуга из облака, выполняя автоматизацию со скоростью света. Программное обеспечение теперь состоит из микросервисов, которые масштабируются по всему центру обработки данных, рассматривая центр обработки данных как единую вычислительную единицу. Искусственный интеллект и 5G — это ингредиенты, с которых начнется четвертая промышленная революция, когда автоматизация и робототехника могут быть развернуты в дальних уголках мира. Нам нужно еще одно чудо — метавселенная, виртуальный мир, который является нашим цифровым близнецом.
Новые технологии NVIDIA:
Вселенная Исаака
Квантовые вычисления Megatron Drug Discovery
Машина Джарвиса Мерлина Morpheus с искусственным интеллектом NVIDIA
ПРИВОД
RTX
DGX Grace BlueField DOCA
EGX 5G
Гиперион Атлан Орин
Разделено на 4 стопки:
1. Omniverse — создан с нуля на базе разработок NVIDIA. Это платформа для создания и моделирования виртуальных миров. Мы представим множество приложений Omniverse, таких как совместная работа над дизайном, моделирование и роботизированные фабрики.
2. DGX и высокопроизводительные центры обработки данных. Я расскажу о BlueField, новых DGX, новых чипах и новой работе, которую мы делаем в области ИИ, открытия лекарств и квантовых вычислений.
3. NVIDIA EGX с Aerial 5G: теперь предприятия и отрасли могут создавать ИИ и развертывать ИИ в сети 5G. таких как ИИ NVIDIA и предварительно обученные модели, такие как разговорный ИИ Джарвиса.
4. NVIDIA Drive: работайте с автомобильной промышленностью, чтобы революционизировать транспортную отрасль.
Добро пожаловать на GTC Talks:
RTX — это перезагрузка компьютерной графики, она позволила нам построить Omniverse — платформу для соединения 3D-миров в общий виртуальный мир. Те, что мало чем отличаются от научно-фантастической метавселенной, впервые описанной Нилом Стефенсоном в его романе начала 1990-х годов «Снегопад», где метавселенная представляет собой совокупность общих трехмерных пространств и виртуально улучшенных физических пространств, являющихся продолжением Интернета. Части видения ранней метавселенной уже здесь. Массовые социальные онлайн-игры, такие как Fortnite, или созданные пользователями виртуальные миры, такие как Minecraft. Давайте посмотрим на Omniverse с точки зрения двух приложений — совместной работы над дизайном и цифровых двойников. Платформа состоит из нескольких основных частей:
Во-первых, ядро Omniverse, механизм базы данных, который объединяет пользователей и позволяет обмениваться 3D-ресурсами и описаниями сцен. После подключения дизайнеры, занимающиеся моделированием, компоновкой, затенением, анимацией, освещением, спецэффектами или рендерингом, могут совместно создавать сцену. Omniverse Nucleus описывается с помощью открытого стандарта USD, универсального описания сцены, невероятной структуры обмена, изобретенной Pixar. Несколько пользователей могут подключаться к Nucleus, передавая и получая изменения в своих мирах в виде фрагментов в долларах США.
Вторая часть Omniverse — это композиция, рендеринг и движок анимации — симуляция виртуального мира. Omniverse — это платформа, созданная с нуля, чтобы иметь физическую основу. Он полностью отслеживается. Физика моделируется с помощью NVIDIA PhysX, материалы моделируются с помощью NVIDIA MDL, а Omniverse полностью интегрирован с NVIDIA AI. Omniverse является облачным, масштабируемым с несколькими графическими процессорами, работает на любых платформах RTX и осуществляет удаленную потоковую передачу на любое устройство.
Третья часть — NVIDIA CloudXR — ваши звездные врата, вы можете телепортироваться в Омниверс с помощью виртуальной реальности, а ИИ может телепортироваться из Омниверса с помощью дополненной реальности. Omniverse была выпущена для открытого бета-тестирования в декабре.
Что авторы делают с Omniverse:
Создатели творят удивительные вещи с Omniverse в Foster and Partners, дизайнеры в 17 местах по всему миру вместе проектируют здания в своем общем виртуальном пространстве Omniverse. ILM тестирует Omniverse, чтобы объединить внутренние и внешние конвейеры инструментов для нескольких студий. Omniverse позволяет им сотрудничать, визуализировать окончательные снимки в режиме реального времени и создавать массивные виртуальные наборы, такие как голодеки.
Эрикссон использует Omniverse для моделирования распространения волн 5G в режиме реального времени с множеством многолучевых помех. Twin Earth создает цифрового двойника Земли, который будет работать на 20 000 графических процессоров NVIDIA, а Activision использует Omniverse для организации своих более чем 100 000 3D-ресурсов в общий мир с возможностью поиска. Bentley — мировой лидер в разработке программного обеспечения для инфраструктуры. Все, что строится, дороги и мосты, железнодорожные и транзитные системы, аэропорты и морские порты составляет около 3% мирового ВВП или три с половиной триллиона долларов в год. Программное обеспечение Bentley используется для проектирования, моделирования и моделирования крупнейших инфраструктурных проектов в мире. 90% из 250 ведущих мировых инженерных компаний впервые используют Bentley. У них есть новая платформа под названием iTwin, захватывающая стратегия использования 3D-модели после построения для мониторинга и оптимизации производительности на протяжении всего срока службы.
WPP — крупнейшая организация маркетинговых услуг на планете, поэтому мы также являемся одной из крупнейших производственных компаний в мире, использующих Omniverse. Они сотрудничают с NVIDIA, чтобы виртуально снимать локации и воплощать их в жизнь с помощью студий в Omniverse.
Одной из наиболее важных особенностей Omniverse является то, что она подчиняется законам физики. Omniverse может моделировать частицы, жидкости, материалы, пружины и тросы. Это фундаментальная способность робототехники.
BMW использует Omniverse для моделирования своих заводов и производственных процессов.
SDK Omniverse Connector уже доступен для скачивания; вы можете видеть, что самые важные инструменты дизайна уже зарегистрированы. Партнерами NVIDIA Lighthouse являются представители крупнейших мировых отраслей: медиа и развлечений, игр, архитектуры, проектирования, строительства, производства, телекоммуникаций, инфраструктуры и автомобилестроения.
Производители компьютеров по всему миру создают сертифицированные NVIDIA рабочие станции, ноутбуки и серверы, оптимизированные для Omniverse. Этим летом Omniverse будет доступен по корпоративной лицензии. Наконец, мы можем определить Omniverse как платформу NVIDIA для создания и моделирования общих виртуальных миров.
Что такое сервис GeForce:
GeForce Now — это облачный сервис NVIDIA GeForce, сейчас GeForce обслуживает 10 миллионов участников в 70 странах. GeForce now — это очень сложная потребительская услуга. Все имеет значение: скорость света, качество изображения, частота кадров, отклик, плавность, время запуска, стоимость сервера и, самое главное, безопасность.
С помощью Bluefield мы можем изолировать инфраструктуру от экземпляров игры, а также разгрузить и ускорить работу сети, хранилища и безопасности. Инфраструктура GeForce стоит дорого. С Bluefield мы улучшим качество обслуживания и одновременных пользователей, ROI Bluefield превосходен.
NVIDIA анонсировала первый пакет SDK для инфраструктуры центров обработки данных — DOCA доступен уже сегодня.
DOCA — это SDK для программирования Bluefield. Внутри есть все виды замечательных технологий, таких как глубокая проверка пакетов, безопасная загрузка, разгрузка TLS Crypto, ускорение RegEX и очень интересная возможность — аппаратные часы реального времени, которые можно использовать для синхронных центров обработки данных, 5G и Видео трансляция. Многие партнеры работают с NVIDIA над оптимизацией ведущих платформ поставщиков инфраструктуры BlueField, поставщиков периферийных устройств и CDN, решений для кибербезопасности и поставщиков хранилищ.
BlueField 3 также анонсирован с 22 миллиардами транзисторов и первым сетевым чипом 400 Гбит/с. 16 процессоров Arm для запуска всего стека программного обеспечения для виртуализации, например, работая под управлением VMware ESX, BlueField 3 выводит безопасность на совершенно новый уровень, полностью разгружая и ускоряя криптографию IPSEC и TLS, управление секретными ключами и обработку регулярных выражений.
NVIDIA MEGATRON TRITON:
Nvidia анонсирует сервер инференса Megatron Triton. DGX с Мегатроном Тритоном отвечает в течение секунды! Не минуту - секунду! И за 16 Запросов одновременно.
DGX в 1000 раз быстрее и открывает множество новых вариантов использования, таких как поддержка колл-центра, где одноминутный ответ практически бесполезен. NAVER — поисковая система № 1 в Корее, они установили DGX SuperPOD и используют свою платформу искусственного интеллекта CLOVA для обучения языковых моделей для корейского языка. Многие ведущие компании рассчитывали использовать DGX для разработки и эксплуатации региональных и отраслевых языковых сервисов. NVIDIA Clara discovery — это набор библиотек ускорения, созданных для вычислительного поиска лекарств — для визуализации, квантовой химии, вызова вариантов генов, использования НЛП для понимания генетики и использования ИИ для создания новых лекарственных соединений.
NVIDIA объявила о выпуске четырех новых моделей: Clara Discovery, MegaMolBART — модель для создания биомолекулярных соединений. Этот метод недавно добился успеха в Insilico Medicine с использованием ИИ для поиска нового лекарства менее чем за два года.
Алгоритм шумоподавления NVIDIA ATAC-seq для эпигеномики редких и одиночных клеток помогает понять экспрессию генов в отдельных клетках.
Этот метод недавно добился успеха в Insilico Medicine с использованием ИИ для поиска нового лекарства менее чем за два года. Алгоритм шумоподавления NVIDIA ATAC-seq для эпигеномики редких и одиночных клеток помогает понять экспрессию генов в отдельных клетках. AplhaFold1 — это модель, которая может предсказывать трехмерную структуру белка по аминокислотной последовательности. GatorTron — крупнейшая в мире модель клинического языка, которая может читать и понимать записи врачей. GatorTron был разработан в UoF с использованием Megatron и обучен на DGX superPOD, подаренном его альма-матер Крисом Малаховски, основавшим NVIDIA вместе с Кертисом и Хуангом.
ОБЪЯВЛЯЕМ, что OXFORD NANOPORE TECHNOLOGIES ПРИНИМАЕТ NVIDIA DGX:
Oxford Nanopore — это технология секвенирования генома 3-го поколения, способная обеспечить сверхвысокую производительность при оцифровке биологии. 1/5 геномов вируса SARS-CoV-2 в глобальной базе данных была создана на Oxford Nanopore. В прошлом году Oxford Nanopore разработала диагностический тест на COVID-19 под названием LamPORE, который используется Национальной службой здравоохранения. Oxford Nanopore полностью использует GPU-ускорение. Образцы ДНК проходят через нанопоры, и текущий сигнал подается в модель ИИ, похожую на распознавание речи, но обученную распознавать генетический код. Другая модель по имени Медака считывает код и обнаруживает генетические варианты. Обе модели обучались на DGX superPOD. Эти новые алгоритмы глубокого обучения достигают 99,9% точности обнаружения однонуклеотидных вариантов, что является золотым стандартом секвенирования человека. Фармацевтика — это 1,3-триллионная отрасль, где новое лекарство может существовать более 10 лет и терпит неудачу в 90% случаев. Schrodinger — ведущая вычислительная платформа, основанная на физике и машинном обучении, для открытия лекарств и материаловедения. Шредингер уже является активным пользователем графических процессоров NVIDIA, недавно заключив соглашение об использовании сотен миллионов часов графических процессоров NVIDIA в Google Cloud. Некоторые клиенты не могут использовать облако, поэтому NVIDIA объявила о партнерстве для ускорения рабочего процесса Шредингера по поиску лекарств с помощью библиотек NVIDIA Clara Discovery и NVIDIA DGX.
Сегодня 20 лучших фармацевтических компаний мира используют Schrodinger. Их исследователи увидят гигантский прирост производительности. Recursion — биотехнологическая компания, использующая передовые компьютерные технологии для расшифровки биологии, чтобы индустриализировать открытие лекарств. Операционная система рекурсии построена на NVIDIA DGX SuperPOD для создания, анализа и получения информации из массивных наборов биологических и химических данных. Они называют свой superPOD BioHive-1, который сегодня является самым мощным компьютером в любой фармацевтике, использующим глубокое обучение на DGX. Recursion классифицирует клеточные ответы после воздействия низкомолекулярных препаратов.
Квантовые вычисления:
Квантовые вычисления — это область физики, изучающая использование естественного квантового поведения, суперпозиции, запутанности и интерференции для создания компьютера. Вычисления выполняются с использованием квантовых схем, которые работают с квантовыми битами, называемыми кубитами.
Во всем мире существует большое сообщество, занимающееся исследованиями в области квантовых компьютеров и алгоритмов, более 50 команд в промышленности, академических кругах и национальных лабораториях исследуют эту область.
ЦП GRACE:
Первый в мире ЦП, предназначенный для ускоренных вычислений в терабайтном масштабе, секретное кодовое имя — GRACE. Этот мощный процессор на базе Arm дает нам третью основополагающую технологию для вычислений и возможность перепроектировать каждый аспект центра обработки данных ИИ. Они объявили, что Швейцарский национальный суперкомпьютерный центр создаст суперкомпьютер на базе Grace и графического процессора NVIDIA следующего поколения. Этот новый суперкомпьютер под названием Alps будет иметь 20 экзафлопс для ИИ, что в 10 раз быстрее, чем самый быстрый суперкомпьютер в мире сегодня. Альпы будут использоваться для моделирования погоды и климата в масштабе всей Земли, квантовой химии и квантовой физики для Большого адронного коллайдера. Alps будет построена компанией HPE и будет запущена в эксплуатацию к 2023 году. ARM только начинает свою деятельность и имеет большие возможности для роста. Каждый рынок имеет разные приложения и уникальные системы, программное обеспечение, периферийные устройства и экосистемы.
Для рынков, которые обслуживает NVIDIA, можно ускорить внедрение ARM. Давайте поговорим об облаке, одним из первых разработчиков процессоров Arm для центров обработки данных является AWS, его процессоры Graviton чрезвычайно впечатляют. NVIDIA объявила, что NVIDIA и AWS сотрудничают, чтобы объединить графические процессоры Graviton2 и NVIDIA.
Это партнерство позволяет Arm использовать самые требовательные облачные рабочие нагрузки, искусственный интеллект и облачные игры. Мобильные игры быстро развиваются и являются основной формой игр на некоторых рынках. С Graviton2, разработанным AWS, пользователи могут транслировать приложения на базе Arm и игры для Android прямо на AWS.
NVIDIA объявила о партнерстве с Ampere Computing для создания SDK для научных и облачных вычислений и эталонной системы. Процессор Altra от Ampere Computing превосходен — 80 ядер, 285 SPECint17, что соответствует высочайшей производительности x86.
Следующим объявлением NVIDIA является партнерство с Marvell для создания SDK для периферийных и корпоративных вычислений и эталонной системы. Marvell Octeon превосходно справляется с вводом-выводом, хранением и обработкой 5G. Эта система идеально подходит для гиперконвергентных пограничных серверов.
Кроме того, NVIDIA объявила о партнерстве с Mediatek для создания эталонной системы и SDK для ПК с Chrome OS и Linux.
ИИ, компьютерная автоматизация интеллекта, является самой мощной технологической силой нашего времени.
Первая волна заключалась в том, чтобы заново изобрести компьютеры для этого нового способа создания программного обеспечения. Мы все в этом и движемся уже почти 10 лет. Первыми, кто внедрил ИИ, были интернет-компании. У них отличные компьютерщики, большая компьютерная инфраструктура и возможность собирать много обучающих данных.
Мы в начале следующей волны. Следующая волна — это корпоративное и промышленное преимущество, где ИИ может произвести революцию в крупнейших мировых отраслях. От производства, логистики, сельского хозяйства, здравоохранения, финансовых услуг и транспорта. Есть много проблем, которые нужно преодолеть. Одной из них является возможность подключения, которую решит 5G. А потом автономные системы. Беспилотные автомобили — отличный пример. Но все, что движется, со временем станет автономным. Промышленные периферийные устройства и автономные системы — самые сложные, но и самые большие возможности для ИИ, которые могут оказать влияние. Промышленность с оборотом в триллион долларов вскоре сможет применять ИИ для повышения производительности и создания новых продуктов, услуг и бизнес-моделей. NVIDIA упрощает использование ИИ, превращает ИИ из информатики в компьютерные продукты. NVIDIA создает новую вычислительную платформу для этого принципиально нового подхода к программному обеспечению, компьютер для эпохи ИИ.
ИИ — это не просто алгоритм, создание и эксплуатация ИИ — это фундаментальное изменение во всех аспектах программного обеспечения. Машинное обучение на самом высоком уровне — это система непрерывного обучения, которая начинается с специалистов по данным, разрабатывающих стратегии данных и инженерных прогнозирующих функций, эти данные — цифровой жизненный опыт компании.
Обучение включает в себя изобретение или адаптацию модели ИИ, которая учится делать желаемые прогнозы. Моделирование и проверка проверяют приложения ИИ на точность, обобщение и потенциальную погрешность. И, наконец, управление парком компьютеров, будь то в вашем центре обработки данных или на периферии склада, фермы или базовой станции беспроводной связи. NVIDIA создала чипы, системы и библиотеки, необходимые для сквозного машинного обучения. Библиотеки искусственного интеллекта NVIDIA ускоряют каждый шаг от обработки данных до оркестровки парка. ИИ NVIDIA интегрирован во все популярные в отрасли инструменты и рабочие процессы. ИИ NVIDIA присутствует в каждом облаке, используемом крупнейшими мировыми компаниями, а также более чем 7500 стартапами в области ИИ по всему миру. А NVIDIA AI работает на любой системе, включающей графические процессоры NVIDIA, от ПК и ноутбуков до рабочих станций, суперкомпьютеров, в любом облаке и на нашем роботизированном компьютере Jetson за 99 долларов.
Один сегмент компьютеров, которые NVIDIA не обслуживает, — это корпоративные компьютеры, на которых 70% корпоративных компьютеров в мире работают под управлением VMWare, как и у нас в NVIDIA. VMWare была создана для запуска множества приложений на одной виртуализированной машине. ИИ, с другой стороны, выполняет одно задание на «голом железе» на нескольких графических процессорах и часто на нескольких узлах. Все оптимизации NVIDIA для вычислений и передачи данных теперь реализованы через стек VMWare, поэтому рабочие нагрузки ИИ можно распределять между несколькими системами и достигать производительности «голого железа». Стек VMWare также разгружается и ускоряется на NVIDIA BlueField. ИИ NVIDIA теперь работает во всей красе на VMWare, а это означает, что все, что было ускорено ИИ NVIDIA, теперь отлично работает на VMWare.
Приложения ИИ можно развертывать и управлять с помощью Kubernetes, работающего на VMWare Tanzu.
Эта платформа называется NVIDIA EGX для предприятий. Корпоративная ИТ-экосистема в восторге: наконец, 300 000 корпоративных клиентов VMware могут легко построить вычислительную инфраструктуру ИИ, которая легко интегрируется в существующую среду.
В общей сложности более 50 серверов от ведущих мировых производителей серверов будут сертифицированы для NVIDIA EGX Enterprise. BlueField 2 разгружает и ускоряет стек VMWare, а также создает сеть для распределенных вычислений. Предприятие может выбрать большие или маленькие графические процессоры для тяжелых вычислительных или графических рабочих нагрузок, таких как Omniverse, или смешивать и сочетать, и все они работают на NVIDIA AI.
Корпоративные компании составляют крупнейшие мировые отрасли промышленности и работают на периферии, в больницах, фабриках, заводах, складах, магазинах, на фермах, в городах и на дорогах, вдали от центров обработки данных. Недостающее звено — 5G. Потребительский 5G — это здорово, но частный 5G — это революция.
NVIDIA анонсировала Aerial A100, объединяющую 5G и искусственный интеллект в вычислительную платформу нового типа, предназначенную для периферийных устройств. Aerial A100 объединяет GPU Ampere и DPU BlueField в одну карту, это самая передовая карта PCI Express из когда-либо созданных. Поэтому неудивительно, что Aerial A100 в системе EGX станет полноценной базовой станцией 5G.
Aerial A100 обеспечивает до полных 20 Гбит/с и может обрабатывать до 9 массивных MIMO 100 МГц для 64T64R или 64 передающих и 64 приемных антенных решеток с самыми современными возможностями. Aerial A100 определяется программным обеспечением и обладает такими ускоренными функциями, как PHY, функция виртуальной сети, ускорение сети, синхронизация пакетов и криптография на скорости линии. Партнеры NVIDIA, ERICSSON, Fujitsu, Mavenir, Altran и Radisys, будут создавать свои полные решения 5G на основе библиотеки Aerial.
Сервер NVIDIA EGX с Aerial A100 — это первая базовая станция 5G, которая также является облачным центром обработки данных с искусственным интеллектом. NVIDIA привнесла мощь облака на границу 5G. Aerial также расширяет возможности 5G в облаке.
NVIDIA объявила, что Google будет поддерживать NVIDIA Aerial в облаке GCP.
Развитие приложений на основе микросервисов и гибридного облака сделало миллиарды подключений в центре обработки данных уязвимыми для потенциальных атак. Современные модели безопасности с нулевым доверием предполагают, что злоумышленник уже находится внутри, и все соединения между контейнерами должны быть проверены, даже внутри узла. Загрузка ЦП при мониторинге каждого фрагмента трафика просто слишком велика.
NVIDIA анонсировала NVIDIA Morpheus, платформу безопасности центров обработки данных для проверки всех пакетов в режиме реального времени.
Morpheus построен на базе NVIDIA AI, NVIDIA BlueField, программного обеспечения сетевой телеметрии Net-Q и EGX. NVIDIA работает над созданием решений с лидерами отрасли в области безопасности центров обработки данных, Fortinet, Red Hat, Cloudflare, Splunk, F5 и кибербезопасностью Aria. И первые клиенты, Booz Allen Hamilton, Best buy и, конечно же, наша собственная команда в NVIDIA.
ИТ-экосистема нуждается в вычислительной платформе ИИ, которая является корпоративной и готовой к работе на периферии. NAVIDA AI на EGX с антенной 5G — это основа того, чего ждала ИТ-экосистема.
Искусственный интеллект NVIDIA:
Вот несколько систем, которые NVIDIA использует для фундаментальных исследований в области ИИ и создания новых продуктов и услуг ИИ:
1. DLSS (суперсэмплинг глубокого обучения)
2. StyleGAN (генератор изображений с высоким разрешением на основе ИИ)
3. GANcraft (движок нейронного рендеринга, превращающий Minecraft в реалистичное 3D)
4. GANverse3D (превращает фотографии в анимируемые 3D-модели)
5. Sime2Real(Четвероногое, обученное в Omniverse, а ИИ может работать в настоящем роботе-цифровом близнеце)
6. Face Vid2Vid (механизм рендеринга говорящей головы, который может уменьшить пропускную способность потоковой передачи в 10 раз при повторной публикации головы и глаз)
7. BioMegatron (крупнейшая из когда-либо обученных биомедицинских языковых моделей)
8. 3DGT(генерация комплексных синтетических данных)
9. SimNet(решатель нейронной сети, основанный на физике, который может моделировать крупномасштабную мультифизику)
10. OrbNet (квантовый решатель машинного обучения для квантовой химии)
NVIDIA также упаковывает модели, чтобы их можно было легко интегрировать в ваши приложения.
ПРЕДВАРИТЕЛЬНО ОБУЧЕННЫЕ МОДЕЛИ NGC
По сути, это приложения с открытым исходным кодом, не требующие кодирования, которые вы можете модифицировать. Предварительно обученные модели NGC, которые мы можем подключить к этим приложениям или разрабатываемым нами. Эти предварительно обученные модели NGC имеют производственное качество, обучены экспертами и будут продолжать улучшаться. Есть новые учетные данные, чтобы рассказать вам о разработке, тестировании и использовании модели, и каждый поставляется с образцом кода эталонного приложения.
Предварительно обученные модели NVIDIA являются современными и тщательно обученными, но существует бесконечное разнообразие областей применения, сред и специализаций. Всех данных ни у кого нет, иногда это редкость, иногда это коммерческая тайна. NVIDIA создала технологию, позволяющую пользователям настраивать и адаптировать предварительно обученные модели NVIDIA для своих приложений.
СТРОЙКА NVIDIA TAO:
Nvidiaобъявила о TAO Framework, TAO применяет трансферное обучение к вашим данным для точной настройки наших моделей с вашими данными. TAO имеет отличную федеративную систему обучения, которая позволяет нескольким сторонам коллективно обучать общую модель, защищая при этом конфиденциальность данных.
Федеративное обучение NVIDIA имеет большое значение: исследователи из разных больниц могут совместно работать над одной моделью ИИ, сохраняя при этом свои данные раздельно для защиты конфиденциальности пациентов. TAO использует великолепный TensorRT от NVIDIA для оптимизации модели для целевой системы графического процессора. С предварительно обученными моделями NVIDIA и TAO то, что раньше было невозможно для многих, теперь можно сделать за несколько часов.
Fleet command — это облачная платформа для безопасной работы и управления ИИ на распределенном парке компьютеров. Она была специально создана для работы с ИИ на периферии. Команда Fleet, работающая на сертифицированных системах EGX, будет обеспечивать безопасную загрузку, аттестацию, восходящую и нисходящую связь с конфиденциальным анклавом.
У NVIDIA есть все виды моделей компьютерного зрения, речи, языка и робототехники, и все больше и больше. Некоторые работы посвящены генетике и медицинской визуализации. Например, эта модель прогнозирует дополнительные потребности в кислороде на основе рентгеновских снимков и электронных медицинских карт. Это сотрудничество 20 больниц в 8 странах и 5 континентах для COVID-19. Федеративное обучение и NVIDIA TAO были необходимы для того, чтобы это стало возможным.
NVIDIA Джарвис:
Миру нужен современный диалоговый ИИ, который можно настраивать и обрабатывать где угодно.
NVIDIA объявила о выпуске NVIDIA Jarvis, современного искусственного интеллекта с глубоким обучением для распознавания речи, понимания языка, перевода и речи. Благодаря сквозному ускорению на графическом процессоре Джарвис взаимодействует примерно за 100 миллисекунд, слушая, понимая и отвечая быстрее, чем мигает человеческий глаз.
NVIDIA обучает Jarvis несколько миллионов часов работы графического процессора, более 1 миллиарда страниц текста и шестьдесят тысяч часов речи на разных языках, с разными акцентами, в различных средах и жаргонах. По умолчанию Jarvis обеспечивает точность распознавания 90% мирового уровня.
Сегодня Jarvis поддерживает 5 языков: английский, японский, испанский, немецкий, французский, русский. Джарвис отлично переводит: в тесте Bilingual Evaluation Understudy Джарвис набирает 40 баллов за перевод с английского на японский и 50 баллов за перевод с английского на испанский. 40 — это высокое качество и современный уровень техники. 50 считается беглым переводом. Джарвиса можно настроить для доменного жаргона. Мы обучили Джарвиса работе с техническими и медицинскими сценариями. С TAO это легко, и Джарвис может говорить с выражениями и эмоциями, которые вы можете контролировать, больше никаких механических разговоров. И, наконец, это важный момент: Jarvis можно развернуть в облаке, на EGX в вашем центре обработки данных, на периферии в магазине, на складе или на заводе, работающем на EGX Aerial, или внутри робота-доставщика, работающего на компьютере Jetson. Программа раннего доступа Jarvis началась в мае прошлого года, и наше программное обеспечение для разговорного ИИ было загружено 45 000 раз. Среди первых пользователей американского телекоммуникационного гиганта T-Mobile. Они используют Jarvis, чтобы предложить исключительное обслуживание клиентов, требующее высокого качества и низкой задержки, необходимой для распознавания речи в реальном времени.
NVIDIA MERLIN:
Рекомендательные системы — самый важный конвейер машинного обучения в современном мире. Это движок для поиска, рекламы, интернет-магазинов, музыки, книг, фильмов, пользовательского контента, новостей. Рекомендательные системы предсказывают ваши потребности и предпочтения на основе прошлых взаимодействий с вами, ваших явных предпочтений и изученных предпочтений, используя методы, называемые совместной фильтрацией и фильтрацией контента. Триллионы предметов, которые нужно рекомендовать миллиардам людей, проблемное пространство довольно велико. Мы хотели бы создать современную рекомендательную систему, чтобы все компании могли извлечь выгоду из преобразующих возможностей этого ИИ.
Мы создали рекомендательную систему с открытым исходным кодом под названием Merlin, которая упрощает сквозной рабочий процесс от ETL до обучения, проверки и вывода. Он рассчитан на масштабирование по мере роста вашего набора данных, и если у вас уже есть тонна данных, это самая быстрая рекомендательная система из когда-либо созданных. Merlin теперь доступен на NGC.
NVIDIA MAXINE:
NVIDIA Maxine со временем станет вашим аватаром в виртуальных мирах, созданных в Omniverse, для обеспечения виртуального присутствия. Технологии виртуального присутствия сегодня могут принести пользу видеоконференциям. NVIDIA Maxine, набор технологий искусственного интеллекта, который может улучшить качество видеоконференций для всех. Когда Maxine объединяется с Nvidia Jarvis, Maxine может обеспечить наиболее точное преобразование речи в текст, а с помощью Jarvis Maxine также может помочь перевести то, что я говорю, на несколько языков. Это значительно упрощает международные встречи. Еще одна замечательная особенность Maxine — функция зрительного контакта. Maxine может даже улучшить качество видео, когда пропускной способности недостаточно.
СЕРВЕР ИНФЕРЕНЦИИ:
Анонсирован NVIDIA TRITON INFERENCE SERVER:
Сервер логических выводов, используемый для получения информации из непрерывных потоков данных, поступающих на ваши серверы EGX или в ваш облачный экземпляр.
NVIDIA triton — это сервер логических выводов, triton — это механизм планирования и диспетчеризации моделей, который может обрабатывать практически все, что вы ему подбрасываете. Любая модель ИИ, работающая на cuDNN, то есть практически любая модель ИИ. Из любого фреймворка, TensorFlow, Pytorch, ONNX, OpenVINO, TensorRT или пользовательских бэкендов C++/Python. Triton планирует использовать несколько поколений графических процессоров NVIDIA и процессоров x86. Triton максимально использует ресурсы ЦП и ГП. Triton масштабируется с помощью Kubernetes и обрабатывает оперативные обновления. Triton отлично подходит для всего: от изображений до распознавания речи, от рекомендаций до понимания языка.
ОБЪЯВЛЕНИЕ ОБЪЯВЛЕНИЯ КОРПОРАТИВНОЙ ПЛАТФОРМЫ NVIDIA AI:
NVIDIA AI на EGX с Aerial 5G, вычислительной платформой ИИ для предприятий и Edge, следующей волной ИИ.
ПРОДОЛЖАЙТЕ АВТОМОБИЛЬ:
Платформа и сервис NVIDIA AV, AV — это самая интенсивная задача машинного обучения и робототехники, одна из самых сложных, но также и самых важных. NVIDIA строит комплексную платформу AV от AV-чипов и компьютеров, архитектур датчиков, обработки данных, картографирования, разработки программного обеспечения для вождения, создания симулятора и цифрового двойника, управления автопарком и дорожных испытаний. Все это соответствует самым высоким стандартам функциональной безопасности и кибербезопасности.
Стандарты безопасности и кибербезопасности, ни один из них не доступен в открытом доступе, поэтому NVIDIA создает их. NVIDIA создает модели, чтобы их клиенты и партнеры в транспортной отрасли стоимостью 10 триллионов долларов могли использовать нужные им детали.
NVIDIA DRIVE: (центральный компьютер Orin для автомобилей)
На NVIDIA AI постоянно изобретаются новые технологии искусственного интеллекта, эти изобретения станут новыми сервисами завтрашнего дня. Orin — удивительный AV-компьютер. Orin будет обрабатывать на одном центральном компьютере кластер, информационно-развлекательную систему, ИИ для взаимодействия с пассажирами и все самое важное, представление о доверии или модель восприятия мира.
НОВЫЕ ТЕХНОЛОГИИ NVIDIA:
Ссылка:
Написал: Сохаил Анджум (安頌海), архитектор инфраструктуры команды NFVI | SD10
