CPU缓存：为什么计算机需要三份一样的"记忆"
你有没有想过，为什么CPU明明有内存可以读写，还要在芯片里再塞一块叫"缓存"的东西？更奇怪的是，缓存还不止一块——L1、L2、L3，三层叠在一起，存的东西理论上是一样的。这不是浪费吗？
问题出在速度差上
CPU的执行速度以纳秒计算，而主存（DRAM）的访问延迟在几十到一百纳秒之间。听起来不多是吧？但换算一下：如果CPU一次操作需要1秒，那从内存读数据就像等了一个多星期。CPU的大部分时间，其实是在等数据。
这就是著名的"冯·诺依曼瓶颈"——CPU跑得飞快，但被内存拖了后腿。
局部性原理：缓存存在的理由
缓存能工作的理论基础，是程序的局部性。它分两种：
时间局部性：如果你刚读过某条数据，很可能马上再读一次。比如循环里的计数器。
空间局部性：如果你读了某个地址的数据，附近的地址也很可能马上被读到。比如数组遍历。
所以缓存的策略很简单：当CPU要读地址A的数据时，不光读A，还把A附近的一整块数据都拉进缓存。下次CPU要A+1时，缓存里已经有了——瞬间完成。
三层缓存的故事
L1最快也最小，通常32KB，和CPU同频运行，延迟不到1纳秒。
L2稍大（256KB-512KB），延迟几纳秒。
L3是所有核心共享的，几MB到几十MB，延迟十几纳秒。
数据在L1里找不到，就去L2找，还找不到再去L3，最后才去主存。每一级都比上一级慢10倍左右，但也大10倍。这是一个用面积和距离换速度的精妙设计——离核心越近越快，但能放下的东西也越少。
缓存一致性：多核时代的麻烦
多核CPU里，每个核心有自己的L1和L2。如果核心A改了变量X，核心B读的还是旧值怎么办？
这里有著名的MESI协议（伊利诺伊协议），定义了四种状态：修改(Modified)、独占(Exclusive)、共享(Shared)、失效(Invalid)。一旦一个核心改了某条数据，其他核心的对应缓存行立刻标记为失效，下次读取时必须从主存或写者的缓存中拿新版。
这套机制保证了每个核心看到的数据都是一致的，但代价就是核心之间要频繁"打招呼"——这道通信开销有时候能让性能掉一半。
换个角度看
缓存其实不只是计算机的概念。大脑也有"缓存"——你经常做的事不需要从头想，熟能生巧就是缓存命中的效果。图书馆的热门书架放在门口也是缓存。甚至你每天用的搜索框里，推荐搜索词也是一种缓存——把高频请求放在最前面。
所以下次你感觉电脑"怎么这么快"的时候，记住：它不是真的快，它只是把你要的东西提前放在了手边。