Ядро NT не использует архитектуру с несколькими каналами памяти?

связанные: Почему Skylake настолько лучше, чем Broadwell-E для однопоточной пропускной способности памяти? двух контроллеров памяти достаточно для однопоточной пропускной способности памяти. Только если у вас есть несколько потоков/процессов, которым много не хватает кэша, вы начинаете получать выгоду от дополнительных контроллеров памяти в большом Xeon.

(например, ваш пример из комментариев о параллельном запуске множества независимых задач обработки изображений на разных изображениях может сделать это, в зависимости от задачи.)

Переход от двух к одному каналу DDR4 может повредить даже однопоточной программе на четырехъядерном процессоре, если большую часть времени она будет ограничена пропускной способностью DRAM, но одна важная часть настройки производительности — для оптимизации повторного использования данных, чтобы вы получали как минимум попадания в кэш L3.

Умножение матриц — классический пример: вместо перебора строк/столбцов целой матрицы N^2 раз (что слишком велико, чтобы поместиться в кеш) (скалярное произведение одной строки на столбец для каждого выходного элемента ), вы разбиваете работу на «плитки» и вычисляете частичные результаты, таким образом, вы многократно перебираете плитку матрицы, которая остается горячей в кеше L1d или L2. (И, надеюсь, у вас есть узкое место в пропускной способности FP ALU, выполнении инструкций FMA, а не памяти вообще, потому что matmul требует O (N ^ 3) операций умножения + сложения над элементами N ^ 2 для квадратной матрицы.) Эти оптимизации называются «замощением цикла». " или "блокировка кеша".

Таким образом, хорошо оптимизированный код, который затрагивает большой объем памяти, часто может выполнять достаточно работы в виде циклов, что фактически не ограничивает пропускную способность DRAM (промах кэша L3) большую часть времени.

Если одного канала DRAM достаточно, чтобы не отставать от аппаратных запросов на предварительную выборку того, насколько быстро/медленно код фактически касается новой памяти, не будет никакого измеримого замедления из-за пропускной способности памяти. (Конечно, это не всегда возможно, и иногда вы зацикливаетесь на большом массиве, выполняя не очень много работы или даже просто копируя его, но если это составляет лишь небольшую часть общего времени выполнения, это все равно не имеет значения.)

Теоретически каждое удвоение каналов памяти системы удваивает пропускную способность доступа к памяти, поэтому теоретически должен быть прирост производительности, однако в реальных приложениях прирост незначителен. Почему?

Думайте об этом как об иерархии, например «ЦП ‹-> Кэш L1 ‹-> Кэш L2 ‹-> Кэш L3 ‹-> RAM ‹-> пространство подкачки». Пропускная способность ОЗУ имеет значение только тогда, когда кеш-память L3 недостаточно велика (и пропускная способность пространства подкачки имеет значение только в том случае, если ОЗУ недостаточно велика и ...).

Для большинства (не всех) реальных приложений кэш-память достаточно велика, поэтому пропускная способность ОЗУ не важна, а выигрыш (многоканальность) незначителен.

Мое предположение состоит в том, что когда ядро ​​NT выделяет физическую память, оно не нарушает распределения равномерно по каналам памяти.

Это так не работает. ЦП в основном работает только с целыми строками кэша (например, 64-байтовыми фрагментами); а при одном канале вся строка кэша идет из одного канала; и с 2 каналами половина строки кэша поступает из одного канала, а другая половина - из другого канала. Практически ничего из того, что может сделать любое программное обеспечение, не имеет значения. Ядро NT работает только с целыми страницами (например, фрагментами размером 4 КиБ), так что все, что делает ядро, еще менее важно (пока вы не начнете думать об оптимизации NUMA, а это совсем другое).