Roofline модель оценки производительности.

Распределенная архитектура памяти.

Важность размещения данных в памяти.

Схема современного гибридного кластера с множеством сокетов, ядер и ускорителей.

Классификация Флинна.

Общая память и распределенная память.

Ошибки, специфичные для параллельных вычислений: deadlocks, memory races.

Потоки и процессы.

Синхронное и Асинхронное исполнение.

Критические секции, мьютексы и барьеры.

Сигналы, сообщения, события для коммуникации между процессами.

Наборы утилит: cpuinfo, meminfo, lscpi. Управление задачами на сервере с помощью SLURM.