在软件系统中，缓存是一种经典且高效的“空间换时间”技术手段。它的核心价值在于弥合不同存储介质之间的读取速度差距，通过将高频访问数据存放在更快速的存储区域（如内存），极大提升系统的响应性能与吞吐量。

缓存技术广泛存在于软硬件多个层面。硬件层面最典型的如CPU高速缓存（SRAM），有效缓解CPU与主存间的速度鸿沟；软件层面如Java生态中的 Guava Cache、Caffeine，或 Golang 的 BigCache、FreeCache 等，通过将数据加载至内存实现微秒级响应。本文属于“十万QPS轻松应对——高并发军火库”系列第二篇，将系统剖析内存缓存技术在高并发场景下的架构设计与实现演进。我们的核心目标始终如一：最大限度减少对数据库的直接读取请求。

▍一、本地缓存的技术演进路径

高并发场景下的缓存通常以 key, value 结构存储在内存中。客户端请求携带 key，系统通过 key 查找缓存并返回对应的 value，从而实现快速响应。

1. 初始阶段：全局 HashMap
   使用 HashMap 是实现缓存最直观的做法，设置 String, Object 结构的全局 Map 即可构建一个简单缓存。然而 HashMap 非线程安全，尤其在 JDK7 及更早版本中，并发写操作极易引发死循环，导致 CPU 占用率飙升至100%——这也是后来链表插入方式由“头插”改为“尾插”的重要原因。
2. 初步改进：ConcurrentHashMap
   使用 ConcurrentHashMap 通过分段锁机制解决了线程安全问题，读写性能也较为均衡。但该结构缺乏数据淘汰机制，随着系统持续运行，缓存容量会无限增长，最终引发内存溢出（OutOfMemoryError）。因此我们必须引入缓存容量限制与数据驱逐策略。常见的策略如 LRU（最近最少使用）、LFU（最不经常使用），它们能较好地保留热点数据，从而提高缓存命中率——这是衡量缓存有效性的关键指标。
3. 进阶实现：线程安全的 LRU Map
   可通过扩展 LinkedHashMap 并重写 removeEldestEntry() 方法实现基础的 LRU 缓存。若需线程安全，则可在外层加锁，或借鉴 ConcurrentHashMap 的分段锁思路设计并发结构。但此类自实现缓存仍存在功能短板，比如不支持键值过期（timeout），难以应对需定时失效的业务场景。
4. 工业级方案：Guava Cache
   Guava Cache 是一个功能完善、性能优秀的高并发本地缓存工具。其采用分段锁保证线程安全，并通过惰性删除机制管理过期键，避免额外的清理线程开销。无论是从设计模式还是功能实现上，它都已能满足绝大多数本地缓存需求。

5.新一代缓存之王：Caffeine
Caffeine 在架构和算法层面实现显著突破。基准测试表明，其读吞吐量达到 Guava 的 5–10 倍，写性能也领先 2–5 倍。关键改进在于采用 Window-TinyLFU 淘汰算法，该算法融合了 LRU 的访问时间特征与 LFU 的访问频率统计，显著提升了高并发场景下的缓存命中率。

▍二、Redis分布式缓存的适用边界与架构选型

Redis 凭借其纯内存操作和高效数据结构，成为分布式缓存的首选方案。但若使用不当，它也容易成为系统瓶颈，需结合业务特点谨慎设计。

适合使用 Redis 的业务场景通常有两种特征：

• 数据规模可控，全量数据可放入单机或集群内存（建议在GB级别）；
• 请求分布相对均匀，避免出现极端热点 key。

从架构演进看，Redis 主要包括以下两类主流部署模式：

• 哨兵模式（Sentinel）：
  所有节点存储全量数据，写操作集中在 Master，读可分流至 Slave。适合数据量不大、请求量中等、无“大Key”的业务。

• 集群模式（Cluster）：
  采用分片机制，支持水平扩展，具备高可用和自动容灾能力。但其结构对“热Key”和“大Key”非常敏感，容易引发单分片负载过高。

应对集群热Key的两种常见方案：

• 引入本地缓存作为一级缓存，拦截热点查询；
• 采用“多副本存储”策略，在多个分片冗余存储同一热Key，请求时随机选取分片，实现负载分摊。

因此看不同部署架构的优劣就可以看出用redis做分布式缓存的选择了。

▍三、如何设计合理的缓存架构？

一套优良的缓存系统需兼顾缓存命中率与内存使用效率。

若系统属超高并发场景，可构建多级缓存（如 Caffeine + Redis），在提升性能的同时，通过消息机制维护数据一致性。

真正优秀的缓存系统必须在“命中率”和“内存效率”之间找到最佳平衡，既要让数据尽可能靠近计算，又要避免内存无限膨胀。而这，正是架构设计的艺术所在。

保险利率又在调整了，近期有考虑配置的朋友欢迎咨询！

#Zui懂保险的IT架构师#-----求一键四连：关注、点赞、分享、收藏