Skip to main content

1 / 4概念

Hierarchy and AMAT

存储层次是一条用容量换延迟的阶梯。每一层都比下一层快三到十倍、小一到两个数量级,程序的时间局部性与空间局部性让大多数访问停在上面几层。AMAT 把这条阶梯折成一个可计算的平均值,也把优化方向限定为三条。

1 概念​

1.1 一句话定义​

存储层次是按容量与延迟排序、由局部性驱动的多级存储结构。AMAT 是平均访存时间,等于命中时间加上未命中率乘以未命中代价。

1.2 它解决什么问题​

  • 容量与延迟的矛盾:最快的存储器装不下程序,最大的存储器又太慢,只能分层。
  • 可计算的平均值:用一个公式比较不同层次配置的收益,而不是凭直觉。
  • 优化方向:把改进限定为降命中时间、降未命中率、降未命中代价三条。

1.3 不属于本页的内容​

主题去哪
缓存组织、索引与相联度hw-cache-organization
替换策略、写回与直写hw-replacement-write
未命中分类、预取、分块hw-misses-prefetch-blocking
多级之间的包含与互斥hw-multilevel-inclusion
页表、TLB 与缺页hw-paging-page-tables、hw-tlb
CPI 的完整分解hw-metrics-cpi

1.4 关键术语​

术语含义容易混淆的点
命中时间命中时从发起到取回的时间不含未命中的排队
未命中代价从下一层取回块的全部时间不只是下一层延迟
未命中率访问中未命中的比例分母是访问次数,不是块数
局部未命中率本层未命中占本层访问的比例用于逐层连乘
全局未命中率占最初访问的比例等于各级局部未命中率之积
工作集一段时间内被反复访问的块集合不是总数据量