Skip to main content

1 / 4概念

Misses, Prefetch and Blocking

未命中无法消除,只能分类、隐藏或绕开。分类告诉你该加容量还是加相联度,非阻塞缓存用并发把延迟摊薄,预取把未来访问提前,分块则把工作集切到某一层装得下。四种手段针对同一件事:让核少等。

1 概念​

1.1 一句话定义​

未命中是缓存中没有所需块,代价是从下级取回。预取是在程序访问之前提前把块搬上来。阻塞式缓存一次只允许一个未完成未命中,非阻塞式用未命中状态寄存器允许多个同时在途。

1.2 它解决什么问题​

  • 定位根因:未命中分为强制、容量、冲突三类,手段完全不同。
  • 隐藏延迟:块已经在路上时,核可以继续执行别的指令。
  • 提前搬运:预取把未来的未命中转成当前的命中。
  • 压小工作集:分块让每一层的访问都落在容量之内。

1.3 不属于本页的内容​

主题去哪
替换算法、写回与直写hw-replacement-write
相联度、组索引、行大小hw-cache-organization
多级之间的包含与互斥hw-multilevel-inclusion
缺页与页表遍历hw-paging-page-tables、hw-page-fault-working-set
一致性失效造成的未命中hw-cache-coherence

1.4 关键术语​

术语含义容易混淆的点
强制未命中块第一次被访问也叫冷未命中
容量未命中全相联下仍装不下不是冲突
冲突未命中组内被其他块挤掉不是容量不足
一致未命中其他核的写使本副本失效第四类 C
MSHR记录未完成未命中的表项不是 TLB
MLP内存级并行,同时在途的请求数不是线程数
预取准确率预取中有用的比例不是覆盖率
分块把工作集切成容量大小的块英文也叫 blocking