ARM простаивает, пока NEON выполняет свою работу?

(Изображение из TI Wiki Cortex A8)

ARM (точнее, целочисленный конвейер) не простаивает, пока обрабатываются инструкции NEON. В Cortex A8 NEON находится в «конце» конвейера процессора, инструкции проходят через конвейер, и если это инструкции ARM, они выполняются в «начале» конвейера, а инструкции NEON выполняются в конце. Каждые часы продвигают инструкцию по конвейеру.

Вот несколько советов о том, как читать диаграмму выше:

• Каждый цикл, если это возможно, процессор выбирает пару инструкций (две инструкции).
• Выборка является конвейерной, поэтому требуется 3 цикла для распространения инструкций в блок декодирования.
• Для декодирования инструкции требуется 5 тактов (D0-D4). Опять же, это все конвейеры, поэтому они влияют на задержку, но не на пропускную способность. Там, где это возможно, по конвейеру продолжают проходить дополнительные инструкции.
• Теперь мы подошли к части выполнения/загрузки хранилища. Инструкции NEON проходят через этот этап (но они делают это, пока другие инструкции, возможно, выполняются).
• Мы добираемся до части NEON, если инструкция, полученная 13 тактов назад, была инструкцией NEON, теперь она декодируется и выполняется в конвейере NEON.
• Пока это происходит, целочисленные инструкции, следующие за этой инструкцией, могут выполняться одновременно в целочисленном конвейере.
• Конвейер — довольно сложный зверь, некоторые инструкции многоцикловые, некоторые имеют зависимости и зависнут, если эти зависимости не будут соблюдены. Другие события, такие как ветки, будут очищать конвейер.

Если вы выполняете последовательность, которая на 100% состоит из инструкций NEON (что бывает довольно редко, поскольку обычно задействованы некоторые регистры ARM, поток управления и т. д.), то есть некоторый период, когда целочисленный конвейер не делает ничего полезного. В большинстве кодов оба выполняются одновременно, по крайней мере, какое-то время, в то время как умело спроектированный код может максимизировать производительность с помощью правильного сочетания инструкций.

Этот онлайн-инструмент Счетчик циклов для Cortex A8 отлично подходит для анализа производительности ваш ассемблерный код и дает информацию о том, что выполняется в каких модулях и что останавливается.

В Application Level Programmers’ Model вы не можете различить блоки ARM и NEON.

Хотя NEON является отдельным аппаратным блоком (который доступен в качестве опции для процессоров серии Cortex-A), именно ядро ​​ARM управляет им жестко. Это не отдельный DSP, с которым вы можете общаться асинхронно.

Вы можете написать лучший код, полностью используя конвейеры на обоих устройствах, но это не то же самое, что иметь отдельное ядро.

Блок NEON существует, потому что он может выполнять некоторые операции (SIMD) намного быстрее, чем блок ARM на низкой частоте.

Это как иметь друга, который хорошо разбирается в математике, и всякий раз, когда у вас есть трудный вопрос, вы можете задать ему. В ожидании ответа вы можете делать некоторые мелкие вещи, например, если ответ такой, я должен сделать это, а если нет, то сделать то, но если вы зависите от этого ответа, вам нужно подождать, пока он ответит, прежде чем идти дальше. Вы можете рассчитать ответ самостоятельно, но это будет намного быстрее, даже с учетом времени общения между вами двумя, чем если бы вы выполняли всю математику самостоятельно. Я думаю, вы можете даже продолжить эту аналогию, например, «вам также нужно купить обед этому другу (потребление энергии), но во многих случаях это того стоит».

Любой, кто говорит, что ядро ​​ARM может делать другие вещи, в то время как ядро ​​NEON работает над своим материалом, говорит об инструкции- параллелизм на уровне не похож на параллелизм на уровне задач.

ARM не "бездействует" во время выполнения операций NEON, а управляет ими.
Чтобы полностью использовать мощность обоих блоков, можно тщательно спланировать чередующуюся последовательность операций:

loop:
SUBS r0,r0,r1  ; // ARM operation
addpq.16 q0,q0,q1  ; NEON operation
LDR r0, [r1, r2 LSL #2];   // ARM operation
vld1.32 d0, [r1]!  ; // NEON operation using ARM register
bne loop;         // ARM operation controlling the flow of both units...

ARM cortex-A8 может выполнять за каждый такт до 2 инструкций. Если обе они являются независимыми операциями NEON, нет смысла помещать между ними инструкцию ARM. OTOH, если известно, что задержка VLD (загрузки) велика, можно разместить множество инструкций ARM между загрузкой и первым использованием загруженного значения. Но в каждом случае комбинированное использование должно планироваться заранее и чередоваться.