Публикации по теме 'distributed-systems'


Масштабирование обучения нейронной сети с помощью SageMaker Distributed
Авторы Оливье Крючан, Эмили Уэббер и команда AWS Облака Гавайев. Прекрасные напоминания о мире, безмятежности и потенциально впечатлениях ждут нас, когда мы выйдем из глобальной пандемии 2020 года и вернемся в мир, позволяющий путешествовать по всему миру. Но до тех пор почему бы не потратить некоторое время на изучение того, как новые библиотеки параллелизма данных и параллелизма моделей в Amazon SageMaker могут значительно повысить производительность нашей модели при..
Представляем AutoDist | Петуум
Представляем AutoDist Petuum рада объявить о нашем последнем проекте с открытым исходным кодом AutoDist , распределенной системе обучения глубокому обучению. Он предоставляет простой в использовании интерфейс для автоматического распределения обучения широкому спектру моделей глубокого обучения между многими процессорами и графическими процессорами в масштабе с минимальным изменением кода. Зачем использовать AutoDist? Вы ищете интуитивно понятную библиотеку TensorFlow для..
Представляем AdaptDL
АВРИК ЦЯО Что такое АдаптДЛ? Компания Petuum очень рада объявить о запуске нашего новейшего предложения с открытым исходным кодом AdaptDL , адаптивной системы обучения и планирования для глубокого обучения (DL). Цель AdaptDL — сделать распределенное DL простым и эффективным в средах с динамическими ресурсами, таких как общие кластеры и облако. Во время наших контрольных исследований при использовании AdaptDL с Amazon Web Services (AWS) мы зафиксировали снижение затрат до..
Вопрос из интервью по распределенной системе: как избежать несогласованности чтения во время транзакции
Создание изоляции моментальных снимков в распределенной среде Представьте, что вы пытаетесь перевести 100 долларов со счета А на счет Б, и оба счета находятся в одном банке. После того, как вы инициируете передачу, вы обновляете свой экран. Однако, когда вы обновляете свой экран, ваш общий баланс падает — эти 100 долларов, кажется, исчезают из воздуха. Вы видите, что счет А на 100 долларов меньше. Однако счет B не на 100 долларов больше. Затем вы обновляете экран пару раз, чтобы..
Что такое Apache Zookeeper?
Apache zookeeper  — это служба координации и настройки в больших распределенных системах, в которой распределенные процессы координируются друг с другом через нее. Он имеет высокую пропускную способность и низкую задержку, поскольку данные хранятся в памяти. Он отличается высокой доступностью, поскольку реплицирует свои данные в кластере хостов. Он отличается высокой надежностью, так как все операции записи/обновления записываются на диск для удобства восстановления. Теперь..
Демистификация компиляторов ИИ
ИИ ИНЖИНИРИНГ Демистификация компиляторов ИИ Ускорьте AI/ML за счет компиляции: NVIDIA TensorRT, ONNX Runtime, Apache TVM и т. д. Глубокое обучение было основным направлением AI/ML в течение последнего десятилетия. Это меняет нашу повседневную жизнь почти везде. Мы не можем сосчитать, от устройств Alexa до рекомендаций Ads, складских роботов, беспилотных автомобилей и многого другого. Но обучение и обслуживание становятся все более сложными с развитием глубокого обучения и..
Как установить Ray под Windows
Почему вы хотите использовать Ray Прежде всего, Windows поддерживает Ray в альфа-версии и, очевидно, не рекомендуется для использования в производственной среде. Тем не менее, при изучении ray некоторые из вас могут захотеть установить его на свой ноутбук с Windows, если вы не предпочитаете использовать установку на основе Linux. Когда вы взглянете на официальные инструкции по установке , это будет очень просто не только в Linux, но и в Windows: обновите среду выполнения Visual C++,..