你的位置:首页 > 数据库

[数据库]【系统架构】大型网站架构系列:缓存在分布式系统中的应用(三)


原文地址 

 

本文是《缓存在分布式系统中的应用》第三篇文章。

上次主要给大家分享了,缓存在分布式系统中的应用,主要从不同的场景,介绍了CDN,反向代理,分布式缓存,本地缓存的常规架构和基本原理。

因为时间关于,原计划分享《缓存常见问题》的内容,没有讲。本次主要针对缓存的常见个问题,做一个介绍。主要有以下议题:

一、分享大纲

  1. 分享大纲
  2. 数据一致性
  3. 缓存高可用
  4. 缓存雪崩
  5. 缓存穿透
  6. 参考资料
  7. 分享总结

二、数据一致性

缓存是在数据持久化之前的一个节点,主要是将热点数据放到离用户最近或访问速度更快的介质中,加快数据的访问,减小响应时间。

因为缓存属于持久化数据的一个副本,因此不可避免的会出现数据不一致问题。导致脏读或读不到数据的情况。数据不一致,一般是因为网络不稳定或节点故障导致。根据数据的操作顺序,主要有以下几种情况。

2.1场景介绍

(1)先写缓存,再写数据库

         如下图:

 

假如缓存写成功,但写数据库失败或响应延迟,则下次读取(并发读)缓存时,就出现脏读;

 

(2)先写数据库,再写缓存

         如下图:

        

         假如写数据库成功,但写缓存失败,则下次读取(并发读)缓存时,则读不到数据;

 

(3)缓存异步刷新

         指数据库操作和写缓存不在一个操作步骤中,比如在分布式场景下,无法做到同时写缓存或需要异步刷新(补救措施)时候。

 

         此种情况,主要考虑数据写入和缓存刷新的时效性。比如多久内刷新缓存,不影响用户对数据的访问。

2.2解决方法

第一个场景:

这个写缓存的方式,本身就是错误的,需要改为先写持久化介质,再写缓存的方式。

第二个场景:

(1)根据写入缓存的响应来进行判断,如果缓存写入失败,则回滚数据库操作;此种方法增加了程序的复杂度,不建议采用;

(2)缓存使用时,假如读缓存失败,先读数据库,再回写缓存的方式实现。

第三个场景:

(1)首先确定,哪些数据适合此类场景;

(2)根据经验值确定合理的数据不一致时间,用户数据刷新的时间间隔;

2.3 其他方法

(1)超时:设置合理的超时时间;

(2)刷新:定时刷新一定范围内(根据时间,版本号)的数据;

 

         以上是简化数据读写场景,实际中会分为:

         (1)缓存与数据库之间的一致性;

         (2)多级缓存之前的一致性;

         (3)缓存副本之前的一致性。

三、缓存高可用

业界有两种理论,第一套缓存就是缓存,临时存储数据的,不需要高可用。第二种缓存逐步演化为重要的存储介质,需要做高可用。

本人的看法是,缓存是否高可用,需要根据实际的场景而定。临界点是是否对后端的数据库造成影响。

具体的决策依据需要根据,集群的规模(数据,缓存),成本(服务器,运维),系统性能(并发量,吞吐量,响应时间)等方面综合评价。

3.1解决方法

         缓存的高可用,一般通过分布式和复制实现。分布式实现数据的海量缓存,复制实现缓存数据节点的高可用。架构图如下:

        

         其中,分布式采用一致性Hash算法,复制采用异步复制。

3.2其他方法

(1)复制双写:缓存节点的复制,由异步改为双写,只有两份都写成功,才算成功。

(2)虚拟层:一致性Hash存在,假如其中一个HASH环不可用,数据会写入临近的环,当HASH可用时,数据又写入正常的HASH环,会导致数据偏移问题。这种情况,可以考虑在HASH环前面加一个虚拟层实现。

(3)多级缓存:比如一级使用本地缓存,二级采用分布式Cahce,三级采用分布式Cache+本地持久化;

 

         方式很多,需要根据业务场景灵活选择。

四、缓存雪崩

         雪崩是指当大量缓存失效时,导致大量的请求访问数据库,导致数据库服务器,无法抗住请求或挂掉的情况。

         解决方法:

         (1)合理规划缓存的失效时间;

         (2)合理评估数据库的负载压力;

         (3)对数据库进行过载保护或应用层限流;

         (4)多级缓存设计,缓存高可用;

五、缓存穿透

         缓存一般是Key,value方式存在,当某一个Key不存在时会查询数据库,假如这个Key,一直不存在,则会频繁的请求数据库,对数据库造成访问压力。

解决方法:

(1)对结果为空的数据也进行缓存,当此key有数据后,清理缓存;

(2)一定不存在的key,采用布隆过滤器,建立一个大的Bitmap中,查询时通过该bitmap过滤;

六、参考资料

以下是本次分享参考的资料和推荐大家参考的资料。

 

MemCache超详细解读:http://www.mamicode.com/info-detail-1120932.html

缓存与数据库一致性保证:http://www.36dsj.com/archives/43950

HASH环和虚拟节点:http://www.111cn.net/sys/linux/58748.htm

让memcached分布式:http://blog.csdn.net/cutesource/article/details/5848253

七、分享总结

以上是本周的分享,主要讲解了缓存常见的问题,包括数据一致性,缓存高可用,缓存雪崩,缓存穿透等知识。 

我们的分享只是介绍一下知识结构,希望可以起到一个抛砖引玉的作用。因为,每个知识点都有一些细化的地方,需要学习的知识点很多,需要大家不断深入学习。也欢迎大家把好的内容,即时的分享到群内(知识链接或参加周知识分享,参加周知识分享的同学可以直接联系我哈~~)

下次分享《分布式系统服务化架构(一)》,2016年6月26日。

本次是分享规则调整后的第一次,欢迎大家积极提出问题。


大型网站架构交流(架构之家)QQ群二:464527023 ;微信公众号:itfly8。以架构为核心的兴趣群,专注大型分布式网站架构,大数据,架构模式,设计模式。技术分享,经典电子书分享,欢迎加入!