性能优化决策树
本指南帮助您通过结构化的决策框架进行性能优化。
概述
性能优化不是随机的——它遵循系统化的方法。这个决策树帮助您针对特定情况识别正确的优化技术。
黄金法则
优化前一定要先分析！
过早优化是编程中所有罪恶（或者至少大部分罪恶）的根源。 — Donald Knuth
决策流程图
mermaid
flowchart TD
A[代码运行慢] --> B{是否已分析?}
B -->|否| C[先进行分析!<br/>perf/VTune/FlameGraph]
B -->|是| D{CPU还是内存瓶颈?}
D -->|CPU| E{热点在循环中?}
D -->|内存| F{缓存未命中率?}
E -->|是| G{可向量化?}
E -->|否| H[算法优化<br/>或数据结构变更]
G -->|是| I{已自动向量化?}
G -->|否| J[重构以支持向量化<br/>或算法变更]
I -->|是| K[✓ 完成!<br/>编译器已完成工作]
I -->|否| L[手动SIMD<br/>内在函数]
F -->|高| M{顺序访问?}
F -->|低| N[考虑预取<br/>或减少工作集]
M -->|是| O[AOS → SOA<br/>数据布局变更]
M -->|否| P[改进局部性<br/>分块/平铺]
L --> Q[用基准测试验证]
O --> Q
P --> Q
N --> Q
K --> R[文档化并提交]
H --> Q
Q --> S{变快了?}
S -->|是| R
S -->|否| T[重新分析并<br/>尝试不同方法]
C --> D
style A fill:#ff6b6b
style B fill:#ffd93d
style D fill:#ffd93d
style E fill:#ffd93d
style F fill:#ffd93d
style G fill:#ffd93d
style I fill:#ffd93d
style M fill:#ffd93d
style S fill:#ffd93d
style K fill:#6bcb77
style R fill:#6bcb77
style C fill:#4d96ff
style H fill:#4d96ff
style J fill:#4d96ff
style L fill:#4d96ff
style N fill:#4d96ff
style O fill:#4d96ff
style P fill:#4d96ff
style Q fill:#4d96ff
style T fill:#ff6b6b快速诊断清单
CPU瓶颈症状
| 指标 | 命令 | 阈值 |
|---|---|---|
| 高CPU利用率 | perf stat | CPU忙碌 > 80% |
| 低缓存未命中率 | perf stat -e cache-misses | LLC未命中 < 1% |
| 分析中热点循环 | perf report | 单循环占主导 |
跳转到： SIMD优化
内存瓶颈症状
| 指标 | 命令 | 阈值 |
|---|---|---|
| 高缓存未命中 | perf stat -e cache-misses | LLC未命中 > 5% |
| 内存带宽饱和 | perf stat -e bus-cycles | 接近峰值 |
| 长内存延迟 | perf mem | 高延迟 |
跳转到： 内存优化
并发问题
| 指标 | 命令 | 检测方式 |
|---|---|---|
| 线程扩展性差 | 变化 OMP_NUM_THREADS | 加速比 < 0.5 × 线程数 |
| 锁竞争 | perf record -e lock:* | 高锁等待时间 |
| 数据竞争 | cmake --preset=tsan | TSAN报告竞争 |
跳转到： 并发优化
按类别分类的优化技术
SIMD优化
mermaid
flowchart LR
A[可向量化循环] --> B{检查向量化}
B --> C[编译器报告<br/>-fopt-info-vec]
C --> D{已向量化?}
D -->|是| E[✓ 完成]
D -->|否| F{为什么没向量化?}
F -->|别名| G[添加 __restrict]
F -->|对齐| H[alignas 对齐]
F -->|复杂| I[手动内在函数]
G --> J[重新检查]
H --> J
I --> E
J --> D关键技术：
- 自动向量化 - 让编译器完成工作
- 对齐 -
alignas(64)用于SIMD友好数据 - Restrict指针 -
float* __restrict ptr - 手动内在函数 - 当编译器失败时使用SSE/AVX/AVX-512
参考： SIMD模块
内存优化
mermaid
flowchart TD
A[高缓存未命中] --> B{访问模式?}
B -->|顺序| C{数据布局?}
B -->|随机| D[分块/平铺<br/>或索引重构]
C -->|AOS| E[转换为SOA]
C -->|SOA| F{预取有帮助?}
E --> G[验证加速效果]
F -->|是| H[添加 __builtin_prefetch]
F -->|否| I[减少工作集<br/>或缓存感知算法]
D --> G
H --> G
I --> G关键技术：
- AOS → SOA - 数组结构体用于顺序访问
- 伪共享修复 -
alignas(64)填充 - 预取 -
__builtin_prefetch用于可预测模式 - 缓存分块 - 按缓存大小分块处理数据
参考： 内存模块
并发优化
mermaid
flowchart TD
A[扩展性差] --> B{锁竞争?}
B -->|高| C{临界区小?}
B -->|低| D{伪共享?}
C -->|是| E[无锁数据结构]
C -->|否| F[减少锁范围<br/>或RCU模式]
D -->|是| G[alignas 填充]
D -->|否| H{负载不均衡?}
H -->|是| I[工作窃取<br/>或动态调度]
H -->|否| J[检查内存带宽]
E --> K[用TSAN验证]
F --> K
G --> K
I --> K
J --> K关键技术：
- 原子操作 - 带正确内存序的
std::atomic - 无锁结构 - SPSC队列、无锁栈
- 伪共享预防 - 缓存行填充
- OpenMP并行化 -
#pragma omp parallel for
参考： 并发模块
决策快速参考
| 您的情况 | 首选方案 | 替代方案 |
|---|---|---|
| 循环迭代次数多 | 自动向量化 | 手动SIMD |
| 顺序数据访问，高缓存未命中 | AOS → SOA | 预取 |
| 多线程，扩展性差 | 检查伪共享 | 无锁 |
| 随机内存访问 | 分块/平铺 | B树结构 |
| 高分支预测错误 | 无分支代码 | 排序数据 |
| 小临界区 | 无锁 | 细粒度锁 |
分析工作流程
mermaid
sequenceDiagram
participant Dev as 开发者
participant Perf as perf
participant FG as FlameGraph
participant Code as 代码
Dev->>Perf: perf record -g ./benchmark
Perf->>FG: perf script
FG->>Dev: flamegraph.svg
Dev->>Dev: 识别热点函数
Dev->>Code: 应用优化
Dev->>Perf: perf stat ./benchmark
Perf->>Dev: 对比指标
Dev->>Dev: 变快了?常见陷阱
❌ 过早优化
cpp
// 错误：没有分析就优化
void process() {
// "这个循环看起来很慢，让我SIMD化它"
for (int i = 0; i < 10; ++i) { ... } // 只有10次迭代！
}修复： 先分析。小循环可能不重要。
❌ 对问题使用错误的优化
cpp
// 错误：对内存瓶颈代码使用SIMD
void process(float* data, size_t n) {
// 内存带宽已饱和，SIMD不会有帮助！
for (size_t i = 0; i < n; ++i) {
data[i] = data[i] * 2.0f; // 内存瓶颈，不是CPU瓶颈
}
}修复： 先检查是CPU还是内存瓶颈。
❌ 忽略算法复杂度
cpp
// 错误：优化O(n²)算法
for (int i = 0; i < n; ++i) {
for (int j = 0; j < n; ++j) { // O(n²)
// SIMD救不了你
}
}修复： 先使用更好的算法（O(n log n) 或 O(n)）。
下一步
- 使用 性能分析指南 分析您的代码
- 使用上面的决策树 识别瓶颈
- 从相关模块 应用适当的技术
- 用基准测试 度量改进
- 文档化您的发现 供将来参考