HPC 学习指南

cluster、SSH、scheduler、Slurm、modules、job submission。

memory model、partitioning、dependency、communication、load balance、speedup、Amdahl。

单节点 shared-memory：thread、data scope、race、reduction、schedule。

distributed-memory：blocking point-to-point → collective → non-blocking。

CSAPP Ch.5/6：cache、locality、bandwidth、profiling、strong scaling。

完成前面后再进 MPI+OpenMP、GPU/CUDA、Berkeley CS267。

用途	材料	怎么用
OpenMP 入门	LLNL OpenMP	学基本模型和常用 construct。
OpenMP 当前查阅	OpenMP Reference Guide	查 directive / clause / runtime API。
OpenMP 完整规范	OpenMP Specifications	确认版本与高级语义。
MPI 入门	LLNL MPI	Environment → P2P → Collective → Non-blocking。
MPI 标准	MPI 4.1	查语义，不作为第一本教程。