По сравнению с Macbook Pro 13 на базе Intel

Несколько недель назад Apple выпустила свой первый специально разработанный кремниевый чип для Mac, M1. Было проведено несколько впечатляющих тестов его производительности по сравнению с его предшественниками на базе Intel, но мы были заинтересованы в том, чтобы протестировать его на рабочих нагрузках машинного обучения (и, в частности, компьютерного зрения).

Хотя Apple объявила о поддержке обучения TensorFlow на M1, набор инструментов еще не совсем готов. Приложив некоторые усилия, мы смогли, например, запустить ноутбуки Jupyter на Apple Silicon, но предварительная версия TensorFlow для Mac еще не была готова к использованию в прайм-тайм (примечательно, что SciPy еще не совместим с M1, который требуется для API обнаружения объектов TensorFlow).

Вместо этого мы использовали Apple's CreateML для выполнения наших тестов. Это должно быть справедливое сравнение относительной производительности, которую вы сможете ожидать при обучении моделей машинного обучения, после того как через несколько месяцев в конечном итоге будут устранены проблемы совместимости. (Предположительно, Apple уже проделала работу по оптимизации CreateML для своих устройств Intel и M1.)

К сожалению, поскольку CreateML несовместим с чипами NVIDIA, он по-прежнему не дает нам хорошего прямого сравнения между новым M1 и, например, 3090 или 2080ti (Apple утверждает, что 11 триллионов операций в секунду на нейронном движке M1 против заявленных NVIDIA 14,2 TOPS на 2080ti).

Когда вы решаете, покупать или нет новый ноутбук M1 - который только что получил« неожиданное снижение цен » - мы решили оценить, насколько хорошо ноутбук Apple M1 работает по сравнению с процессорами Intel и AMD Radeon на компьютерах предыдущего поколения. Стоит ли оно того?

TL; DR: если вы хотите решить проблемы машинного обучения и компьютерного зрения на своем Mac, Apple M1, возможно, стоит обновить, если необходимое программное обеспечение станет совместимым, но он еще не готов заменить дискретный графический процессор. .

Испытательные машины

Для сравнения мы использовали три последних MacBook Pro:

  • MacBook Pro 13 дюймов (ноябрь 2020 г.), интегрированная система M1 на кристалле с 8 ГБ памяти. 1499 долл. США
  • MacBook Pro 13 дюймов (май 2020 г.), четырехъядерный процессор Intel Core i5 с тактовой частотой 1,4 ГГц, 16 ГБ памяти и Intel Iris Plus Graphics 645 (1536 МБ видеопамяти). 1 699 долл. США
  • MacBook Pro 16 дюймов (2019 г.), 8-ядерный процессор Intel Core i9 с тактовой частотой 2,4 ГГц, 64 ГБ памяти и AMD Radeon Pro 5500M (графическая память 8 ГБ). 3 899 долл. США

Методология испытаний

Для сравнения производительности мы использовали Create ML, чтобы решить проблему отсутствия распознавания объектов кода. (Хотите воссоздать это? Мы выписали шаги здесь.)

  • Мы отслеживали это на всех трех компьютерах в течение полных 5000 итераций / эпох.

Судя по производительности модели, мы, вероятно, еще не готовы развернуть ее в дикой природе. (Если вы хотите увидеть, как развернуть свою модель, посмотрите это видео.) Однако 5000 итераций достаточно для нас, чтобы получить хорошее представление о том, как две системы работают друг с другом.

В этой задаче обнаружения объектов в Create ML 13-дюймовый Macbook Pro с процессором Apple M1 показал себя значительно лучше, чем 13-дюймовый Intel Core i5, но уступил 15-дюймовому i9 с его дискретным графическим процессором Radeon Pro 5500M.

  • Intel Core i5 потребовалось 542 минуты для выполнения 5000 итераций (обучение ЦП).
  • Apple M1 потребовалось 149 минут, чтобы сделать то же самое (загрузка графического процессора 8%).
  • Процессор Intel Core i9 с Radeon Pro занял 70 минут (100% использование графического процессора).

Примечательно, что при обучении не удалось использовать преимущества встроенной графической карты Intel Iris для ускорения обучения, но можно было частично использовать встроенную видеокарту на M1. Это весьма впечатляюще для системы на кристалле.

К сожалению, в то время как AMD Radeon смогла достичь 100% -ного использования на 15-дюймовом Macbook Pro, 13-дюймовый M1 так и не смог использовать более 10%. Несмотря на то, что на бумаге он работает быстрее, ему все еще требуется больше программных улучшений, чтобы извлечь выгоду из своего оборудования. Apple продолжает активно работать над этим, создав свой порт TensorFlow и свой фреймворк для машинного обучения.

Вердикт: на основе этого теста Apple M1 в 3,64 раза быстрее Intel Core i5, но не полностью использует свой графический процессор и, таким образом, уступает i9 с дискретной графикой.

Похоже, Apple еще предстоит провести значительную оптимизацию программного обеспечения в CreateML, чтобы в полной мере использовать все преимущества M1. В конечном итоге он сможет полностью использовать свой графический процессор, как и i9. В этот момент он, скорее всего, легко превзойдет его.

При покупке нового ноутбука следует учитывать множество факторов; Подбор модели обнаружения объектов с помощью Create ML - только один. Но если сравнить эти два ноутбука, приобретенных в 2020 году, друг с другом в этой задаче, Apple M1 представляется многообещающей архитектурой, которая должна быть лучше, поскольку программное обеспечение обновляется, чтобы использовать его преимущества. Но пока я планирую подождать, пока все уладится.

Пройдите весь процесс обучения и развертывания модели CreateML на вашем iPhone через наш YouTube.

Первоначально опубликовано на https://blog.roboflow.com 15 декабря 2020 г.