一、序言
在实际开发中常常遇到如下需求:判断当前元素是否存在于已知的集合中,将已知集合中的元素维护一个hashset
,使用时只需耗时o(1)
的时间复杂度便可判断出结果,java内部或者redis均提供相应的数据结构。使用此种方式除了占用内存空间外,几乎没有其它缺点。
当数据量达到亿级别时,内存空间的占用显著表现出来,bitmap
便是解决此类问题的一种途径。
二、bitmap结构
1、内存消耗分析
redis bitmap能够存储的数据范围为[0,2^32-1]
,超过integer.max_value
上界值。
为了简化讨论,假设讨论的集合元素的范围为[0,integer.max_value]
,可以是其中的任何一个数。
使用hashset
数据结构占用内存空间仅与集合中的元素数量(n)相关。当集合中元素数量为n时,所需的内存空间大概为n*4/1024/1024
mb,1亿
条数据约占内存空间381mb
。
基于redis的bitmap所占用的空间大小不与集合中元素数量相关,与集合中元素的最大值直接相关,因此bitmap所占用的内存空间范围为[n / 8 / 1024 / 1024,integer.max_value / 8 / 1024 / 1024]
。
这里给出了一组测试参考数据
如果集合中最大值为100000000 ,则所占用的内存空间为 11mb
如果集合中最大值为500000000 ,则所占用的内存空间为 59mb
如果集合中最大值为1000000000,则所占用的内存空间为119mb
如果集合中最大值为2147483647,则所占用的内存空间为255mb
当集合中数据增长到10亿
条时,使用bitmap最大占用内存约为255mb
,而使用hashset增长到3.8gb
。
2、命令行操作bitmap
使用redis命令行可直接操作bitmap,将offset
位置的值标注为1,则表示当前数据存在。默认情况下未标注的位置值为0。
3、客户端操作bitmap
这里提供一个springboot生态的redisutils
工具类,内部封装操作redis bitmap的工具方法。
上述工具类的依赖如下,如果找不到jar包,请直接使用maven原始仓库源,阿里云尚未同步完成。
4、时间与空间复杂度
bitmap的存储与取值时间复杂度为o(1)
,根据数值可直接映射下标。
bitmap占用内存空间复杂度为o(n)
,与集合中元素的最大值正相关,不是集合中元素的数量。
三、bitmap应用
1、回避缓存穿透
缓存穿透是指当前请求的数据在缓存中不存在,需要访问数据库获取数据(数据库中也不存在请求的数据)。缓存穿透给数据库带来了压力,恶意缓存穿透甚至能造成数据库宕机。
使用bitmap动态维护一个集合,当访问数据库前,先查询数据的主键是否存在集合中,以此作为是否访问数据库的依据。
bitmap新增数据或者移除数据属于轻量级操作,检查操作的准确度依赖于动态集合维护的闭环的完整性。比如向数据库增加数据时需要向bitmap中添加数据,从数据库中删除数据需要从bitmap中移除数据。如果要求严格的检查可靠性,则可以单独维护一个分布式定时任务,定期更新bitmap数据。
2、与布隆过滤器的区别
布隆过滤器与bitmap有相似的应用场景,但也有一定的区别。给定一个数,bitmap能准确知道是否存在于已知集合中;布隆过滤器能准确判断是否不在集合中,却不能肯定存在于集合中。
bitmap增加或者移除数据时间复杂度为o(1),方便快捷。布隆过滤器新建容易,剔除数据操作比较繁琐。
在一些需要精确判断的场景,优先选择bitmap,比如判断手机号是否已经注册。
四、小结
redis bitmap不是一种新的数据结构,是利用字符串类型做的一层封装,看起来像一种新型数据结构。bitmap不像一种技术,更像是算法,在时间复杂度和空间复杂度之间寻找平衡点。
bitmap其它应用场景比如签到打卡,统计在线人数等等。
到此这篇关于基于redis分布式bitmap的应用的文章就介绍到这了,更多相关redis分布式bitmap内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持www.887551.com!