01高并发的业务场景,及需求起因
在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等数据库。
这个业务场景,主要是解决读数据从Redis缓存,一般都是按照下图的流程来进行业务操作。
读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)和数据库(MySQL)间的数据一致性问题。
不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。
举一个例子:
1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则到数据库中读取数据,写入缓存,此时缓存中为脏数据。
2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。
因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。
如来解决?这里给出两个解决方案,先易后难,结合业务和技术代价选择使用。
02缓存和数据库一致性解决方案:采用延时双删策略
1.在写库前后都进行redis.del(key)操作,并且设定合理的超时时间。
伪代码如下
publicvoidwrite(Stringkey,Objectdata){
redis.delKey(key);
db.updateData(data);
Thread.sleep();
redis.delKey(key);
}
2.具体的步骤就是:
1)先删除缓存
2)再写数据库
3)休眠毫秒
4)再次删除缓存
那么,这个毫秒怎么确定的,具体该休眠多久呢?
需要评估自己的项目的读数据业务逻辑的耗时。
这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。
当然这种策略,还要考虑redis和数据库主从同步的耗时。
最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。
03缓存和数据库一致性解决方案:设置缓存过期时间
redis.expire(key,3)+update+redis.del(key),这样就算更新后不能删除数据,更新前设置的那个短暂的过期时间也会让数据过期清除.
从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案。
所有的写操作以数据库为准,只要到达缓存过期时间,则后面的读请求自然会从数据库中读取新值然后回填缓存。
该方案的弊端
结合双删策略+缓存超时设置,这样最差的情况,就是在超时时间内,数据存在不一致,而且又增加了写请求的耗时。
04缓存和数据库一致性解决方案:异步更新缓存(基于订阅binlog的同步机制)
1.技术整体思路:
MySQLbinlog增量订阅消费+消息队列+增量数据更新到redis
1)读Redis:热数据基本都在Redis
2)写MySQL:增删改都是操作MySQL
3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis
2.Redis更新
1)数据操作主要分为两大块:
一个是全量(将全部数据一次写入到redis),
一个是增量(实时更新),
这里说的是增量,指的是mysql的update、insert、delate变更数据。
2)读取binlog后分析,利用消息队列,推送更新各台的redis缓存数据。
这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。
其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。
这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。
当然,这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。
05缓存和数据库一致性解决方案:加锁保证并发读写
通过加锁保证并发读写,写写的时候按顺序排好队。
读读无所谓。所以适合使用读写锁。
写请求进来时,针对同一个资源的修改操作,先加分布式锁,保证同一时间只有一个线程去更新数据库和缓存;没有拿到锁的线程把操作放入到队列中,延时处理。
用这种方式保证,多个线程操作,在相同资源的顺序性,以此保证一致性。
其中,分布式锁的实现可以使用以下策略:
乐观锁:使用版本号、updatetime;缓存中只容许高版本覆盖低版本。
Watch实现Redis乐观锁:Watch监控Rediskey的状态值,创建Redis事务,key+1,执行事务,key被修改过则回滚。
Setnx:获取锁:set/setnx;释放锁:del/lua。
Redisson分布式锁:利用Redis的hash结构作为储存单元,将业务指定的名称作为key,将随机UUID和线程ID作为fleld,最后将加锁的次数作为value来储存,线程安全。
06缓存和数据库一致性解决方案:强一致性策略强一致性策略
上述策略只能保证数据的最终一致性。要想做到强一致,最常见的方案是2PC、3PC、Paxos、Raft这类一致性协议,但它们的性能往往比较差,而且这些方案也比较复杂,还要考虑各种容错问题。
如果业务层要求必须读取数据的强一致性,可以采取以下策略:
暂存并发读请求:在更新数据库时,先在Redis缓存客户端暂存并发读请求,等数据库更新完、缓存值删除后,再读取数据,从而保证数据一致性。
串行化:读写请求入队列,工作线程从队列中取任务来依次执行,修改服务Service连接池,id取模选取服务连接,能够保证同一个数据的读写都落在同一个后端服务上。
修改数据库DB连接池,id取模选取DB连接,能够保证同一个数据的读写在数据库层面是串行的。
使用Redis分布式读写锁:将淘汰缓存与更新库表放入同一把写锁中,与其他读请求互斥,防止其间产生旧数据。