Redis为什么这么快！深入了解Redis的内存模型！
一、前言
redis是目前最火爆的内存数据库之一，通过在内存中读写数据，大大提高了读写速度，可以说redis是实现网站高并发不可或缺的一部分。
我们使用redis时，会接触redis的5种对象类型（字符串、哈希、列表、集合、有序集合），丰富的类型是redis相对于memcached等的一大优势。在了解redis的5种对象类型的用法和特点的基础上，进一步了解redis的内存模型，对redis的使用有很大帮助，例如：
1、估算redis内存使用量。目前为止，内存的使用成本仍然相对较高，使用内存不能无所顾忌；根据需求合理的评估redis的内存使用量，选择合适的机器配置，可以在满足需求的情况下节约成本。
2、优化内存占用。了解redis内存模型可以选择更合适的数据类型和编码，更好的利用redis内存。
3、分析解决问题。当redis出现阻塞、内存占用等问题时，尽快发现导致问题的原因，便于分析解决问题。
这篇文章主要介绍redis的内存模型（以3.0为例），包括redis占用内存的情况及如何查询、不同的对象类型在内存中的编码方式、内存分配器(jemalloc)、简单动态字符串(sds)、redisobject等；然后在此基础上介绍几个redis内存模型的应用。
在后面的文章中，会陆续介绍关于redis高可用的内容，包括主从复制、哨兵、集群等等，欢迎关注。
原创不易，如果觉得文章对你有帮助，欢迎点赞、评论。文章有疏漏之处，欢迎批评指正。
二、redis内存统计
工欲善其事必先利其器，在说明redis内存之前首先说明如何统计redis使用内存的情况。
在客户端通过redis-cli连接服务器后（后面如无特殊说明，客户端一律使用redis-cli），通过info命令可以查看内存使用情况：info memory
其中，info命令可以显示redis服务器的许多信息，包括服务器基本信息、cpu、内存、持久化、客户端连接信息等等；memory是参数，表示只显示内存相关的信息。
返回结果中比较重要的几个说明如下：
（1）used_memory：redis分配器分配的内存总量（单位是字节），包括使用的虚拟内存（即swap）；redis分配器后面会介绍。used_memory_human只是显示更友好。
（2）used_memory_rss：redis进程占据操作系统的内存（单位是字节），与top及ps命令看到的值是一致的；除了分配器分配的内存之外，used_memory_rss还包括进程运行本身需要的内存、内存碎片等，但是不包括虚拟内存。
因此，used_memory和used_memory_rss，前者是从redis角度得到的量，后者是从操作系统角度得到的量。二者之所以有所不同，一方面是因为内存碎片和redis进程运行需要占用内存，使得前者可能比后者小，另一方面虚拟内存的存在，使得前者可能比后者大。
由于在实际应用中，redis的数据量会比较大，此时进程运行占用的内存与redis数据量和内存碎片相比，都会小得多；因此used_memory_rss和used_memory的比例，便成了衡量redis内存碎片率的参数；这个参数就是mem_fragmentation_ratio。
（3）mem_fragmentation_ratio：内存碎片比率，该值是used_memory_rss / used_memory的比值。
mem_fragmentation_ratio一般大于1，且该值越大，内存碎片比例越大。mem_fragmentation_ratio1)，称为共享对象。redis为了节省内存，当有一些对象重复出现时，新的程序不会创建新的对象，而是仍然使用原来的对象。这个被重复使用的对象，就是共享对象。目前共享对象仅支持整数值的字符串对象。
（3.4.2）共享对象的具体实现
redis的共享对象目前只支持整数值的字符串对象。之所以如此，实际上是对内存和cpu（时间）的平衡：共享对象虽然会降低内存消耗，但是判断两个对象是否相等却需要消耗额外的时间。对于整数值，判断操作复杂度为o(1)；对于普通字符串，判断复杂度为o(n)；而对于哈希、列表、集合和有序集合，判断的复杂度为o(n^2)。
虽然共享对象只能是整数值的字符串对象，但是5种类型都可能使用共享对象（如哈希、列表等的元素可以使用）。
就目前的实现来说，redis服务器在初始化时，会创建10000个字符串对象，值分别是0~9999的整数值；当redis需要使用值为0~9999的字符串对象时，可以直接使用这些共享对象。10000这个数字可以通过调整参数redis_shared_integers（4.0中是obj_shared_integers）的值进行改变。
共享对象的引用次数可以通过object refcount命令查看，如下图所示。命令执行的结果页佐证了只有0~9999之间的整数会作为共享对象。
（3.5）ptr
ptr指针指向具体的数据，如前面的例子中，set hello world，ptr指向包含字符串world的sds。
（3.6）总结
综上所述，redisobject的结构与对象类型、编码、内存回收、共享对象都有关系；一个redisobject对象的大小为16字节：
4bit+4bit+24bit+4byte+8byte=16byte。
4、sds
redis没有直接使用c字符串(即以空字符’\0’结尾的字符数组)作为默认的字符串表示，而是使用了sds。sds是简单动态字符串(simple dynamic string)的缩写。
（1）sds结构
sds的结构如下：
其中，buf表示字节数组，用来存储字符串；len表示buf已使用的长度，free表示buf未使用的长度。下面是两个例子。
通过sds的结构可以看出，buf数组的长度=free+len+1（其中1表示字符串结尾的空字符）；所以，一个sds结构占据的空间为：free所占长度+len所占长度+ buf数组的长度=4+4+free+len+1=free+len+9。
（2）sds与c字符串的比较
sds在c字符串的基础上加入了free和len字段，带来了很多好处：
获取字符串长度：sds是o(1)，c字符串是o(n)
缓冲区溢出：使用c字符串的api时，如果字符串长度增加（如strcat操作）而忘记重新分配内存，很容易造成缓冲区的溢出；而sds由于记录了长度，相应的api在可能造成缓冲区溢出时会自动重新分配内存，杜绝了缓冲区溢出。
修改字符串时内存的重分配：对于c字符串，如果要修改字符串，必须要重新分配内存（先释放再申请），因为如果没有重新分配，字符串长度增大时会造成内存缓冲区溢出，字符串长度减小时会造成内存泄露。而对于sds，由于可以记录len和free，因此解除了字符串长度和空间数组长度之间的关联，可以在此基础上进行优化：空间预分配策略（即分配内存时比实际需要的多）使得字符串长度增大时重新分配内存的概率大大减小；惰性空间释放策略使得字符串长度减小时重新分配内存的概率大大减小。
存取二进制数据：sds可以，c字符串不可以。因为c字符串以空字符作为字符串结束的标识，而对于一些二进制文件（如图片等），内容可能包括空字符串，因此c字符串无法正确存取；而sds以字符串长度len来作为字符串结束标识，因此没有这个问题。
此外，由于sds中的buf仍然使用了c字符串（即以’\0’结尾），因此sds可以使用c字符串库中的部分函数；但是需要注意的是，只有当sds用来存储文本数据时才可以这样使用，在存储二进制数据时则不行（’\0’不一定是结尾）。
（3）sds与c字符串的应用
redis在存储对象时，一律使用sds代替c字符串。例如set hello world命令，hello和world都是以sds的形式存储的。而sadd myset member1 member2 member3命令，不论是键（”myset”），还是集合中的元素（”member1”、 ”member2”和”member3”），都是以sds的形式存储。除了存储对象，sds还用于存储各种缓冲区。
只有在字符串不会改变的情况下，如打印日志时，才会使用c字符串。
五、redis的对象类型与内部编码
前面已经说过，redis支持5种对象类型，而每种结构都有至少两种编码；这样做的好处在于：一方面接口与实现分离，当需要增加或改变内部编码时，用户使用不受影响，另一方面可以根据不同的应用场景切换内部编码，提高效率。
redis各种对象类型支持的内部编码如下图所示(图中版本是redis3.0，redis后面版本中又增加了内部编码，略过不提；本章所介绍的内部编码都是基于3.0的)：
关于redis内部编码的转换，都符合以下规律：编码转换在redis写入数据时完成，且转换过程不可逆，只能从小内存编码向大内存编码转换。
1、字符串
（1）概况
字符串是最基础的类型，因为所有的键都是字符串类型，且字符串之外的其他几种复杂类型的元素也是字符串。
字符串长度不能超过512mb。
（2）内部编码
字符串类型的内部编码有3种，它们的应用场景如下：
int：8个字节的长整型。字符串值是整型时，这个值使用long整型表示。
embstr：<=39字节的字符串。embstr与raw都使用redisobject和sds保存数据，区别在于，embstr的使用只分配一次内存空间（因此redisobject和sds是连续的），而raw需要分配两次内存空间（分别为redisobject和sds分配空间）。因此与raw相比，embstr的好处在于创建时少分配一次空间，删除时少释放一次空间，以及对象的所有数据连在一起，寻找方便。而embstr的坏处也很明显，如果字符串的长度增加需要重新分配内存时，整个redisobject和sds都需要重新分配空间，因此redis中的embstr实现为只读。
raw：大于39个字节的字符串
示例如下图所示：
embstr和raw进行区分的长度，是39；是因为redisobject的长度是16字节，sds的长度是9+字符串长度；因此当字符串长度是39时，embstr的长度正好是16+9+39=64，jemalloc正好可以分配64字节的内存单元。
（3）编码转换
当int数据不再是整数，或大小超过了long的范围时，自动转化为raw。
而对于embstr，由于其实现是只读的，因此在对embstr对象进行修改时，都会先转化为raw再进行修改，因此，只要是修改embstr对象，修改后的对象一定是raw的，无论是否达到了39个字节。示例如下图所示：
2、列表
（1）概况
列表（list）用来存储多个有序的字符串，每个字符串称为元素；一个列表可以存储2^32-1个元素。redis中的列表支持两端插入和弹出，并可以获得指定位置（或范围）的元素，可以充当数组、队列、栈等。
（2）内部编码
列表的内部编码可以是压缩列表（ziplist）或双端链表（linkedlist）。
双端链表：由一个list结构和多个listnode结构组成；典型结构如下图所示：
通过图中可以看出，双端链表同时保存了表头指针和表尾指针，并且每个节点都有指向前和指向后的指针；链表中保存了列表的长度；dup、free和match为节点值设置类型特定函数，所以链表可以用于保存各种不同类型的值。而链表中每个节点指向的是type为字符串的redisobject。
压缩列表：压缩列表是redis为了节约内存而开发的，是由一系列特殊编码的连续内存块(而不是像双端链表一样每个节点是指针)组成的顺序型数据结构；具体结构相对比较复杂，略。与双端链表相比，压缩列表可以节省内存空间，但是进行修改或增删操作时，复杂度较高；因此当节点数量较少时，可以使用压缩列表；但是节点数量多时，还是使用双端链表划算。
压缩列表不仅用于实现列表，也用于实现哈希、有序列表；使用非常广泛。
（3）编码转换
只有同时满足下面两个条件时，才会使用压缩列表：列表中元素数量小于512个；列表中所有字符串对象都不足64字节。如果有一个条件不满足，则使用双端列表；且编码只可能由压缩列表转化为双端链表，反方向则不可能。
下图展示了列表编码转换的特点：
其中，单个字符串不能超过64字节，是为了便于统一分配每个节点的长度；这里的64字节是指字符串的长度，不包括sds结构，因为压缩列表使用连续、定长内存块存储字符串，不需要sds结构指明长度。后面提到压缩列表，也会强调长度不超过64字节，原理与这里类似。
3、哈希
（1）概况
哈希（作为一种数据结构），不仅是redis对外提供的5种对象类型的一种（与字符串、列表、集合、有序结合并列），也是redis作为key-value数据库所使用的数据结构。为了说明的方便，在本文后面当使用“内层的哈希”时，代表的是redis对外提供的5种对象类型的一种；使用“外层的哈希”代指redis作为key-value数据库所使用的数据结构。
（2）内部编码
内层的哈希使用的内部编码可以是压缩列表（ziplist）和哈希表（hashtable）两种；redis的外层的哈希则只使用了hashtable。
压缩列表前面已介绍。与哈希表相比，压缩列表用于元素个数少、元素长度小的场景；其优势在于集中存储，节省空间；同时，虽然对于元素的操作复杂度也由o(n)变为了o(1)，但由于哈希中元素数量较少，因此操作的时间并没有明显劣势。
hashtable：一个hashtable由1个dict结构、2个dictht结构、1个dictentry指针数组（称为bucket）和多个dictentry结构组成。
正常情况下（即hashtable没有进行rehash时）各部分关系如下图所示：
下面从底层向上依次介绍各个部分：
dictentry
dictentry结构用于保存键值对，结构定义如下：
其中，各个属性的功能如下：
key：键值对中的键；
val：键值对中的值，使用union(即共用体)实现，存储的内容既可能是一个指向值的指针，也可能是64位整型，或无符号64位整型；
next：指向下一个dictentry，用于解决哈希冲突问题
在64位系统中，一个dictentry对象占24字节（key/val/next各占8字节）。
bucket
bucket是一个数组，数组的每个元素都是指向dictentry结构的指针。redis中bucket数组的大小计算规则如下：大于dictentry的、最小的2^n；例如，如果有1000个dictentry，那么bucket大小为1024；如果有1500个dictentry，则bucket大小为2048。
dictht
dictht结构如下：
其中，各个属性的功能说明如下：
table属性是一个指针，指向bucket；
size属性记录了哈希表的大小，即bucket的大小；
used记录了已使用的dictentry的数量；
sizemask属性的值总是为size-1，这个属性和哈希值一起决定一个键在table中存储的位置。
dict
一般来说，通过使用dictht和dictentry结构，便可以实现普通哈希表的功能；但是redis的实现中，在dictht结构的上层，还有一个dict结构。下面说明dict结构的定义及作用。
dict结构如下：
其中，type属性和privdata属性是为了适应不同类型的键值对，用于创建多态字典。
ht属性和trehashidx属性则用于rehash，即当哈希表需要扩展或收缩时使用。ht是一个包含两个项的数组，每项都指向一个dictht结构，这也是redis的哈希会有1个dict、2个dictht结构的原因。通常情况下，所有的数据都是存在放dict的ht[0]中，ht[1]只在rehash的时候使用。dict进行rehash操作的时候，将ht[0]中的所有数据rehash到ht[1]中。然后将ht[1]赋值给ht[0]，并清空ht[1]。
因此，redis中的哈希之所以在dictht和dictentry结构之外还有一个dict结构，一方面是为了适应不同类型的键值对，另一方面是为了rehash。
（3）编码转换
如前所述，redis中内层的哈希既可能使用哈希表，也可能使用压缩列表。
只有同时满足下面两个条件时，才会使用压缩列表：哈希中元素数量小于512个；哈希中所有键值对的键和值字符串长度都小于64字节。如果有一个条件不满足，则使用哈希表；且编码只可能由压缩列表转化为哈希表，反方向则不可能。
下图展示了redis内层的哈希编码转换的特点：
4、集合
（1）概况
集合（set）与列表类似，都是用来保存多个字符串，但集合与列表有两点不同：集合中的元素是无序的，因此不能通过索引来操作元素；集合中的元素不能有重复。
一个集合中最多可以存储2^32-1个元素；除了支持常规的增删改查，redis还支持多个集合取交集、并集、差集。
（2）内部编码
集合的内部编码可以是整数集合（intset）或哈希表（hashtable）。
哈希表前面已经讲过，这里略过不提；需要注意的是，集合在使用哈希表时，值全部被置为null。
整数集合的结构定义如下：
其中，encoding代表contents中存储内容的类型，虽然contents（存储集合中的元素）是int8_t类型，但实际上其存储的值是int16_t、int32_t或int64_t，具体的类型便是由encoding决定的；length表示元素个数。
整数集合适用于集合所有元素都是整数且集合元素数量较小的时候，与哈希表相比，整数集合的优势在于集中存储，节省空间；同时，虽然对于元素的操作复杂度也由o(n)变为了o(1)，但由于集合数量较少，因此操作的时间并没有明显劣势。
（3）编码转换
只有同时满足下面两个条件时，集合才会使用整数集合：集合中元素数量小于512个；集合中所有元素都是整数值。如果有一个条件不满足，则使用哈希表；且编码只可能由整数集合转化为哈希表，反方向则不可能。
下图展示了集合编码转换的特点：
5、有序集合
（1）概况
有序集合与集合一样，元素都不能重复；但与集合不同的是，有序集合中的元素是有顺序的。与列表使用索引下标作为排序依据不同，有序集合为每个元素设置一个分数（score）作为排序依据。
（2）内部编码
有序集合的内部编码可以是压缩列表（ziplist）或跳跃表（skiplist）。ziplist在列表和哈希中都有使用，前面已经讲过，这里略过不提。
跳跃表是一种有序数据结构，通过在每个节点中维持多个指向其他节点的指针，从而达到快速访问节点的目的。除了跳跃表，实现有序数据结构的另一种典型实现是平衡树；大多数情况下，跳跃表的效率可以和平衡树媲美，且跳跃表实现比平衡树简单很多，因此redis中选用跳跃表代替平衡树。跳跃表支持平均o(logn)、最坏o(n)的复杂点进行节点查找，并支持顺序操作。redis的跳跃表实现由zskiplist和zskiplistnode两个结构组成：前者用于保存跳跃表信息（如头结点、尾节点、长度等），后者用于表示跳跃表节点。具体结构相对比较复杂，略。
（3）编码转换
只有同时满足下面两个条件时，才会使用压缩列表：有序集合中元素数量小于128个；有序集合中所有成员长度都不足64字节。如果有一个条件不满足，则使用跳跃表；且编码只可能由压缩列表转化为跳跃表，反方向则不可能。
下图展示了有序集合编码转换的特点：
六、应用举例
了解redis的内存模型之后，下面通过几个例子说明其应用。
1、估算redis内存使用量
要估算redis中的数据占据的内存大小，需要对redis的内存模型有比较全面的了解，包括前面介绍的hashtable、sds、redisobject、各种对象类型的编码方式等。
下面以最简单的字符串类型来进行说明。
假设有90000个键值对，每个key的长度是7个字节，每个value的长度也是7个字节（且key和value都不是整数）；下面来估算这90000个键值对所占用的空间。在估算占据空间之前，首先可以判定字符串类型使用的编码方式：embstr。
90000个键值对占据的内存空间主要可以分为两部分：一部分是90000个dictentry占据的空间；一部分是键值对所需要的bucket空间。
每个dictentry占据的空间包括：
一个dictentry，24字节，jemalloc会分配32字节的内存块;
一个key，7字节，所以sds(key)需要7+9=16个字节，jemalloc会分配16字节的内存块;
一个redisobject，16字节，jemalloc会分配16字节的内存块;
一个value，7字节，所以sds(value)需要7+9=16个字节，jemalloc会分配16字节的内存块;
综上，一个dictentry需要32+16+16+16=80个字节;
bucket空间：bucket数组的大小为大于90000的最小的2^n，是131072；每个bucket元素为8字节（因为64位系统中指针大小为8字节）。
因此，可以估算出这90000个键值对占据的内存大小为：90000*80 + 131072*8 = 8248576。
下面写个程序在redis中验证一下：
运行结果：8247552
理论值与结果值误差在万分之1.2，对于计算需要多少内存来说，这个精度已经足够了。之所以会存在误差，是因为在我们插入90000条数据之前redis已分配了一定的bucket空间，而这些bucket空间尚未使用。
作为对比将key和value的长度由7字节增加到8字节，则对应的sds变为17个字节，jemalloc会分配32个字节，因此每个dictentry占用的字节数也由80字节变为112字节。此时估算这90000个键值对占据内存大小为：90000*112 + 131072*8 = 11128576。
在redis中验证代码如下（只修改插入数据的代码）：
运行结果：11128576；估算准确。
对于字符串类型之外的其他类型，对内存占用的估算方法是类似的，需要结合具体类型的编码方式来确定。
2、优化内存占用
了解redis的内存模型，对优化redis内存占用有很大帮助。下面介绍几种优化场景。
（1）利用jemalloc特性进行优化
上一小节所讲述的90000个键值便是一个例子。由于jemalloc分配内存时数值是不连续的，因此key/value字符串变化一个字节，可能会引起占用内存很大的变动；在设计时可以利用这一点。
例如，如果key的长度如果是8个字节，则sds为17字节，jemalloc分配32字节；此时将key长度缩减为7个字节，则sds为16字节，jemalloc分配16字节；则每个key所占用的空间都可以缩小一半。
（2）使用整型/长整型
如果是整型/长整型，redis会使用int类型（8字节）存储来代替字符串，可以节省更多空间。因此在可以使用长整型/整型代替字符串的场景下，尽量使用长整型/整型。
（3）共享对象
利用共享对象，可以减少对象的创建（同时减少了redisobject的创建），节省内存空间。目前redis中的共享对象只包括10000个整数（0-9999）；可以通过调整redis_shared_integers参数提高共享对象的个数；例如将redis_shared_integers调整到20000，则0-19999之间的对象都可以共享。
考虑这样一种场景：论坛网站在redis中存储了每个帖子的浏览数，而这些浏览数绝大多数分布在0-20000之间，这时候通过适当增大redis_shared_integers参数，便可以利用共享对象节省内存空间。
（4）避免过度设计
然而需要注意的是，不论是哪种优化场景，都要考虑内存空间与设计复杂度的权衡；而设计复杂度会影响到代码的复杂度、可维护性。
如果数据量较小，那么为了节省内存而使得代码的开发、维护变得更加困难并不划算；还是以前面讲到的90000个键值对为例，实际上节省的内存空间只有几mb。但是如果数据量有几千万甚至上亿，考虑内存的优化就比较必要了。
3、关注内存碎片率
内存碎片率是一个重要的参数，对redis 内存的优化有重要意义。
如果内存碎片率过高（jemalloc在1.03左右比较正常），说明内存碎片多，内存浪费严重；这时便可以考虑重启redis服务，在内存中对数据进行重排，减少内存碎片。
如果内存碎片率小于1，说明redis内存不足，部分数据使用了虚拟内存（即swap）；由于虚拟内存的存取速度比物理内存差很多（2-3个数量级），此时redis的访问速度可能会变得很慢。因此必须设法增大物理内存（可以增加服务器节点数量，或提高单机内存），或减少redis中的数据。
要减少redis中的数据，除了选用合适的数据类型、利用共享对象等，还有一点是要设置合理的数据回收策略（maxmemory-policy），当内存达到一定量后，根据不同的优先级对内存进行回收。
工业智能网关实现MQTT协议与物联网平台的数据通信
用光敏电阻及P-MOSFET设计的光控开关电路
RFID将成为医院的一大“刚需”！
中国芯 存未来，英韧科技首款PCIe 5.0企业级主控YR S900宣布量产！
基于MSP430F413的新型智能水表的设计
Redis为什么这么快！深入了解Redis的内存模型！
后山寨时代中国手机产业商机何在？
回顾美的携手云知声发布智能空调 ，智能家居再添成员
共享充电宝的价格已经达到每小时10元
关于土壤速测仪实验室建设招标方案的详细介绍
紫光展锐“换帅”！赵伟国退出，新董事长是他
STM32入门学习笔记之温湿度采集实验4
FEV CONSULTING荣获福布斯2022年全球最佳管理咨询公司奖
传感器与plc控制器的接线方法
浅谈眼球追踪解决VR/AR三大问题
安创加速器2018年青睐的8个初创项目，个个身手不凡
三星拟率先使用3nm，比较5nm性能提升30%能耗降低一半
一体成型数字功放电感CSAD概述及参数
蓝牙定时开关和按键式定时开关之间的区别是什么
MIPS科技与摩威科技合作开发移动SoC
redis是目前最火爆的内存数据库之一，通过在内存中读写数据，大大提高了读写速度，可以说redis是实现网站高并发不可或缺的一部分。
我们使用redis时，会接触redis的5种对象类型（字符串、哈希、列表、集合、有序集合），丰富的类型是redis相对于memcached等的一大优势。在了解redis的5种对象类型的用法和特点的基础上，进一步了解redis的内存模型，对redis的使用有很大帮助，例如：
1、估算redis内存使用量。目前为止，内存的使用成本仍然相对较高，使用内存不能无所顾忌；根据需求合理的评估redis的内存使用量，选择合适的机器配置，可以在满足需求的情况下节约成本。
2、优化内存占用。了解redis内存模型可以选择更合适的数据类型和编码，更好的利用redis内存。
3、分析解决问题。当redis出现阻塞、内存占用等问题时，尽快发现导致问题的原因，便于分析解决问题。
这篇文章主要介绍redis的内存模型（以3.0为例），包括redis占用内存的情况及如何查询、不同的对象类型在内存中的编码方式、内存分配器(jemalloc)、简单动态字符串(sds)、redisobject等；然后在此基础上介绍几个redis内存模型的应用。
在后面的文章中，会陆续介绍关于redis高可用的内容，包括主从复制、哨兵、集群等等，欢迎关注。
原创不易，如果觉得文章对你有帮助，欢迎点赞、评论。文章有疏漏之处，欢迎批评指正。
二、redis内存统计
工欲善其事必先利其器，在说明redis内存之前首先说明如何统计redis使用内存的情况。
在客户端通过redis-cli连接服务器后（后面如无特殊说明，客户端一律使用redis-cli），通过info命令可以查看内存使用情况：info memory
其中，info命令可以显示redis服务器的许多信息，包括服务器基本信息、cpu、内存、持久化、客户端连接信息等等；memory是参数，表示只显示内存相关的信息。
返回结果中比较重要的几个说明如下：
（1）used_memory：redis分配器分配的内存总量（单位是字节），包括使用的虚拟内存（即swap）；redis分配器后面会介绍。used_memory_human只是显示更友好。
（2）used_memory_rss：redis进程占据操作系统的内存（单位是字节），与top及ps命令看到的值是一致的；除了分配器分配的内存之外，used_memory_rss还包括进程运行本身需要的内存、内存碎片等，但是不包括虚拟内存。
因此，used_memory和used_memory_rss，前者是从redis角度得到的量，后者是从操作系统角度得到的量。二者之所以有所不同，一方面是因为内存碎片和redis进程运行需要占用内存，使得前者可能比后者小，另一方面虚拟内存的存在，使得前者可能比后者大。
由于在实际应用中，redis的数据量会比较大，此时进程运行占用的内存与redis数据量和内存碎片相比，都会小得多；因此used_memory_rss和used_memory的比例，便成了衡量redis内存碎片率的参数；这个参数就是mem_fragmentation_ratio。
（3）mem_fragmentation_ratio：内存碎片比率，该值是used_memory_rss / used_memory的比值。
mem_fragmentation_ratio一般大于1，且该值越大，内存碎片比例越大。mem_fragmentation_ratio1)，称为共享对象。redis为了节省内存，当有一些对象重复出现时，新的程序不会创建新的对象，而是仍然使用原来的对象。这个被重复使用的对象，就是共享对象。目前共享对象仅支持整数值的字符串对象。
（3.4.2）共享对象的具体实现
redis的共享对象目前只支持整数值的字符串对象。之所以如此，实际上是对内存和cpu（时间）的平衡：共享对象虽然会降低内存消耗，但是判断两个对象是否相等却需要消耗额外的时间。对于整数值，判断操作复杂度为o(1)；对于普通字符串，判断复杂度为o(n)；而对于哈希、列表、集合和有序集合，判断的复杂度为o(n^2)。
虽然共享对象只能是整数值的字符串对象，但是5种类型都可能使用共享对象（如哈希、列表等的元素可以使用）。
就目前的实现来说，redis服务器在初始化时，会创建10000个字符串对象，值分别是0~9999的整数值；当redis需要使用值为0~9999的字符串对象时，可以直接使用这些共享对象。10000这个数字可以通过调整参数redis_shared_integers（4.0中是obj_shared_integers）的值进行改变。
共享对象的引用次数可以通过object refcount命令查看，如下图所示。命令执行的结果页佐证了只有0~9999之间的整数会作为共享对象。
（3.5）ptr
ptr指针指向具体的数据，如前面的例子中，set hello world，ptr指向包含字符串world的sds。
（3.6）总结
综上所述，redisobject的结构与对象类型、编码、内存回收、共享对象都有关系；一个redisobject对象的大小为16字节：
4bit+4bit+24bit+4byte+8byte=16byte。
4、sds
redis没有直接使用c字符串(即以空字符’\0’结尾的字符数组)作为默认的字符串表示，而是使用了sds。sds是简单动态字符串(simple dynamic string)的缩写。
（1）sds结构
sds的结构如下：
其中，buf表示字节数组，用来存储字符串；len表示buf已使用的长度，free表示buf未使用的长度。下面是两个例子。
通过sds的结构可以看出，buf数组的长度=free+len+1（其中1表示字符串结尾的空字符）；所以，一个sds结构占据的空间为：free所占长度+len所占长度+ buf数组的长度=4+4+free+len+1=free+len+9。
（2）sds与c字符串的比较
sds在c字符串的基础上加入了free和len字段，带来了很多好处：
获取字符串长度：sds是o(1)，c字符串是o(n)
缓冲区溢出：使用c字符串的api时，如果字符串长度增加（如strcat操作）而忘记重新分配内存，很容易造成缓冲区的溢出；而sds由于记录了长度，相应的api在可能造成缓冲区溢出时会自动重新分配内存，杜绝了缓冲区溢出。
修改字符串时内存的重分配：对于c字符串，如果要修改字符串，必须要重新分配内存（先释放再申请），因为如果没有重新分配，字符串长度增大时会造成内存缓冲区溢出，字符串长度减小时会造成内存泄露。而对于sds，由于可以记录len和free，因此解除了字符串长度和空间数组长度之间的关联，可以在此基础上进行优化：空间预分配策略（即分配内存时比实际需要的多）使得字符串长度增大时重新分配内存的概率大大减小；惰性空间释放策略使得字符串长度减小时重新分配内存的概率大大减小。
存取二进制数据：sds可以，c字符串不可以。因为c字符串以空字符作为字符串结束的标识，而对于一些二进制文件（如图片等），内容可能包括空字符串，因此c字符串无法正确存取；而sds以字符串长度len来作为字符串结束标识，因此没有这个问题。
此外，由于sds中的buf仍然使用了c字符串（即以’\0’结尾），因此sds可以使用c字符串库中的部分函数；但是需要注意的是，只有当sds用来存储文本数据时才可以这样使用，在存储二进制数据时则不行（’\0’不一定是结尾）。
（3）sds与c字符串的应用
redis在存储对象时，一律使用sds代替c字符串。例如set hello world命令，hello和world都是以sds的形式存储的。而sadd myset member1 member2 member3命令，不论是键（”myset”），还是集合中的元素（”member1”、 ”member2”和”member3”），都是以sds的形式存储。除了存储对象，sds还用于存储各种缓冲区。
只有在字符串不会改变的情况下，如打印日志时，才会使用c字符串。
五、redis的对象类型与内部编码
前面已经说过，redis支持5种对象类型，而每种结构都有至少两种编码；这样做的好处在于：一方面接口与实现分离，当需要增加或改变内部编码时，用户使用不受影响，另一方面可以根据不同的应用场景切换内部编码，提高效率。
redis各种对象类型支持的内部编码如下图所示(图中版本是redis3.0，redis后面版本中又增加了内部编码，略过不提；本章所介绍的内部编码都是基于3.0的)：
关于redis内部编码的转换，都符合以下规律：编码转换在redis写入数据时完成，且转换过程不可逆，只能从小内存编码向大内存编码转换。
1、字符串
（1）概况
字符串是最基础的类型，因为所有的键都是字符串类型，且字符串之外的其他几种复杂类型的元素也是字符串。
字符串长度不能超过512mb。
（2）内部编码
字符串类型的内部编码有3种，它们的应用场景如下：
int：8个字节的长整型。字符串值是整型时，这个值使用long整型表示。
embstr：<=39字节的字符串。embstr与raw都使用redisobject和sds保存数据，区别在于，embstr的使用只分配一次内存空间（因此redisobject和sds是连续的），而raw需要分配两次内存空间（分别为redisobject和sds分配空间）。因此与raw相比，embstr的好处在于创建时少分配一次空间，删除时少释放一次空间，以及对象的所有数据连在一起，寻找方便。而embstr的坏处也很明显，如果字符串的长度增加需要重新分配内存时，整个redisobject和sds都需要重新分配空间，因此redis中的embstr实现为只读。
raw：大于39个字节的字符串
示例如下图所示：
embstr和raw进行区分的长度，是39；是因为redisobject的长度是16字节，sds的长度是9+字符串长度；因此当字符串长度是39时，embstr的长度正好是16+9+39=64，jemalloc正好可以分配64字节的内存单元。
（3）编码转换
当int数据不再是整数，或大小超过了long的范围时，自动转化为raw。
而对于embstr，由于其实现是只读的，因此在对embstr对象进行修改时，都会先转化为raw再进行修改，因此，只要是修改embstr对象，修改后的对象一定是raw的，无论是否达到了39个字节。示例如下图所示：
2、列表
（1）概况
列表（list）用来存储多个有序的字符串，每个字符串称为元素；一个列表可以存储2^32-1个元素。redis中的列表支持两端插入和弹出，并可以获得指定位置（或范围）的元素，可以充当数组、队列、栈等。
（2）内部编码
列表的内部编码可以是压缩列表（ziplist）或双端链表（linkedlist）。
双端链表：由一个list结构和多个listnode结构组成；典型结构如下图所示：
通过图中可以看出，双端链表同时保存了表头指针和表尾指针，并且每个节点都有指向前和指向后的指针；链表中保存了列表的长度；dup、free和match为节点值设置类型特定函数，所以链表可以用于保存各种不同类型的值。而链表中每个节点指向的是type为字符串的redisobject。
压缩列表：压缩列表是redis为了节约内存而开发的，是由一系列特殊编码的连续内存块(而不是像双端链表一样每个节点是指针)组成的顺序型数据结构；具体结构相对比较复杂，略。与双端链表相比，压缩列表可以节省内存空间，但是进行修改或增删操作时，复杂度较高；因此当节点数量较少时，可以使用压缩列表；但是节点数量多时，还是使用双端链表划算。
压缩列表不仅用于实现列表，也用于实现哈希、有序列表；使用非常广泛。
（3）编码转换
只有同时满足下面两个条件时，才会使用压缩列表：列表中元素数量小于512个；列表中所有字符串对象都不足64字节。如果有一个条件不满足，则使用双端列表；且编码只可能由压缩列表转化为双端链表，反方向则不可能。
下图展示了列表编码转换的特点：
其中，单个字符串不能超过64字节，是为了便于统一分配每个节点的长度；这里的64字节是指字符串的长度，不包括sds结构，因为压缩列表使用连续、定长内存块存储字符串，不需要sds结构指明长度。后面提到压缩列表，也会强调长度不超过64字节，原理与这里类似。
3、哈希
（1）概况
哈希（作为一种数据结构），不仅是redis对外提供的5种对象类型的一种（与字符串、列表、集合、有序结合并列），也是redis作为key-value数据库所使用的数据结构。为了说明的方便，在本文后面当使用“内层的哈希”时，代表的是redis对外提供的5种对象类型的一种；使用“外层的哈希”代指redis作为key-value数据库所使用的数据结构。
（2）内部编码
内层的哈希使用的内部编码可以是压缩列表（ziplist）和哈希表（hashtable）两种；redis的外层的哈希则只使用了hashtable。
压缩列表前面已介绍。与哈希表相比，压缩列表用于元素个数少、元素长度小的场景；其优势在于集中存储，节省空间；同时，虽然对于元素的操作复杂度也由o(n)变为了o(1)，但由于哈希中元素数量较少，因此操作的时间并没有明显劣势。
hashtable：一个hashtable由1个dict结构、2个dictht结构、1个dictentry指针数组（称为bucket）和多个dictentry结构组成。
正常情况下（即hashtable没有进行rehash时）各部分关系如下图所示：
下面从底层向上依次介绍各个部分：
dictentry
dictentry结构用于保存键值对，结构定义如下：
其中，各个属性的功能如下：
key：键值对中的键；
val：键值对中的值，使用union(即共用体)实现，存储的内容既可能是一个指向值的指针，也可能是64位整型，或无符号64位整型；
next：指向下一个dictentry，用于解决哈希冲突问题
在64位系统中，一个dictentry对象占24字节（key/val/next各占8字节）。
bucket
bucket是一个数组，数组的每个元素都是指向dictentry结构的指针。redis中bucket数组的大小计算规则如下：大于dictentry的、最小的2^n；例如，如果有1000个dictentry，那么bucket大小为1024；如果有1500个dictentry，则bucket大小为2048。
dictht
dictht结构如下：
其中，各个属性的功能说明如下：
table属性是一个指针，指向bucket；
size属性记录了哈希表的大小，即bucket的大小；
used记录了已使用的dictentry的数量；
sizemask属性的值总是为size-1，这个属性和哈希值一起决定一个键在table中存储的位置。
dict
一般来说，通过使用dictht和dictentry结构，便可以实现普通哈希表的功能；但是redis的实现中，在dictht结构的上层，还有一个dict结构。下面说明dict结构的定义及作用。
dict结构如下：
其中，type属性和privdata属性是为了适应不同类型的键值对，用于创建多态字典。
ht属性和trehashidx属性则用于rehash，即当哈希表需要扩展或收缩时使用。ht是一个包含两个项的数组，每项都指向一个dictht结构，这也是redis的哈希会有1个dict、2个dictht结构的原因。通常情况下，所有的数据都是存在放dict的ht[0]中，ht[1]只在rehash的时候使用。dict进行rehash操作的时候，将ht[0]中的所有数据rehash到ht[1]中。然后将ht[1]赋值给ht[0]，并清空ht[1]。
因此，redis中的哈希之所以在dictht和dictentry结构之外还有一个dict结构，一方面是为了适应不同类型的键值对，另一方面是为了rehash。
（3）编码转换
如前所述，redis中内层的哈希既可能使用哈希表，也可能使用压缩列表。
只有同时满足下面两个条件时，才会使用压缩列表：哈希中元素数量小于512个；哈希中所有键值对的键和值字符串长度都小于64字节。如果有一个条件不满足，则使用哈希表；且编码只可能由压缩列表转化为哈希表，反方向则不可能。
下图展示了redis内层的哈希编码转换的特点：
4、集合
（1）概况
集合（set）与列表类似，都是用来保存多个字符串，但集合与列表有两点不同：集合中的元素是无序的，因此不能通过索引来操作元素；集合中的元素不能有重复。
一个集合中最多可以存储2^32-1个元素；除了支持常规的增删改查，redis还支持多个集合取交集、并集、差集。
（2）内部编码
集合的内部编码可以是整数集合（intset）或哈希表（hashtable）。
哈希表前面已经讲过，这里略过不提；需要注意的是，集合在使用哈希表时，值全部被置为null。
整数集合的结构定义如下：
其中，encoding代表contents中存储内容的类型，虽然contents（存储集合中的元素）是int8_t类型，但实际上其存储的值是int16_t、int32_t或int64_t，具体的类型便是由encoding决定的；length表示元素个数。
整数集合适用于集合所有元素都是整数且集合元素数量较小的时候，与哈希表相比，整数集合的优势在于集中存储，节省空间；同时，虽然对于元素的操作复杂度也由o(n)变为了o(1)，但由于集合数量较少，因此操作的时间并没有明显劣势。
（3）编码转换
只有同时满足下面两个条件时，集合才会使用整数集合：集合中元素数量小于512个；集合中所有元素都是整数值。如果有一个条件不满足，则使用哈希表；且编码只可能由整数集合转化为哈希表，反方向则不可能。
下图展示了集合编码转换的特点：
5、有序集合
（1）概况
有序集合与集合一样，元素都不能重复；但与集合不同的是，有序集合中的元素是有顺序的。与列表使用索引下标作为排序依据不同，有序集合为每个元素设置一个分数（score）作为排序依据。
（2）内部编码
有序集合的内部编码可以是压缩列表（ziplist）或跳跃表（skiplist）。ziplist在列表和哈希中都有使用，前面已经讲过，这里略过不提。
跳跃表是一种有序数据结构，通过在每个节点中维持多个指向其他节点的指针，从而达到快速访问节点的目的。除了跳跃表，实现有序数据结构的另一种典型实现是平衡树；大多数情况下，跳跃表的效率可以和平衡树媲美，且跳跃表实现比平衡树简单很多，因此redis中选用跳跃表代替平衡树。跳跃表支持平均o(logn)、最坏o(n)的复杂点进行节点查找，并支持顺序操作。redis的跳跃表实现由zskiplist和zskiplistnode两个结构组成：前者用于保存跳跃表信息（如头结点、尾节点、长度等），后者用于表示跳跃表节点。具体结构相对比较复杂，略。
（3）编码转换
只有同时满足下面两个条件时，才会使用压缩列表：有序集合中元素数量小于128个；有序集合中所有成员长度都不足64字节。如果有一个条件不满足，则使用跳跃表；且编码只可能由压缩列表转化为跳跃表，反方向则不可能。
下图展示了有序集合编码转换的特点：
六、应用举例
了解redis的内存模型之后，下面通过几个例子说明其应用。
1、估算redis内存使用量
要估算redis中的数据占据的内存大小，需要对redis的内存模型有比较全面的了解，包括前面介绍的hashtable、sds、redisobject、各种对象类型的编码方式等。
下面以最简单的字符串类型来进行说明。
假设有90000个键值对，每个key的长度是7个字节，每个value的长度也是7个字节（且key和value都不是整数）；下面来估算这90000个键值对所占用的空间。在估算占据空间之前，首先可以判定字符串类型使用的编码方式：embstr。
90000个键值对占据的内存空间主要可以分为两部分：一部分是90000个dictentry占据的空间；一部分是键值对所需要的bucket空间。
每个dictentry占据的空间包括：
一个dictentry，24字节，jemalloc会分配32字节的内存块;
一个key，7字节，所以sds(key)需要7+9=16个字节，jemalloc会分配16字节的内存块;
一个redisobject，16字节，jemalloc会分配16字节的内存块;
一个value，7字节，所以sds(value)需要7+9=16个字节，jemalloc会分配16字节的内存块;
综上，一个dictentry需要32+16+16+16=80个字节;
bucket空间：bucket数组的大小为大于90000的最小的2^n，是131072；每个bucket元素为8字节（因为64位系统中指针大小为8字节）。
因此，可以估算出这90000个键值对占据的内存大小为：90000*80 + 131072*8 = 8248576。
下面写个程序在redis中验证一下：
运行结果：8247552
理论值与结果值误差在万分之1.2，对于计算需要多少内存来说，这个精度已经足够了。之所以会存在误差，是因为在我们插入90000条数据之前redis已分配了一定的bucket空间，而这些bucket空间尚未使用。
作为对比将key和value的长度由7字节增加到8字节，则对应的sds变为17个字节，jemalloc会分配32个字节，因此每个dictentry占用的字节数也由80字节变为112字节。此时估算这90000个键值对占据内存大小为：90000*112 + 131072*8 = 11128576。
在redis中验证代码如下（只修改插入数据的代码）：
运行结果：11128576；估算准确。
对于字符串类型之外的其他类型，对内存占用的估算方法是类似的，需要结合具体类型的编码方式来确定。
2、优化内存占用
了解redis的内存模型，对优化redis内存占用有很大帮助。下面介绍几种优化场景。
（1）利用jemalloc特性进行优化
上一小节所讲述的90000个键值便是一个例子。由于jemalloc分配内存时数值是不连续的，因此key/value字符串变化一个字节，可能会引起占用内存很大的变动；在设计时可以利用这一点。
例如，如果key的长度如果是8个字节，则sds为17字节，jemalloc分配32字节；此时将key长度缩减为7个字节，则sds为16字节，jemalloc分配16字节；则每个key所占用的空间都可以缩小一半。
（2）使用整型/长整型
如果是整型/长整型，redis会使用int类型（8字节）存储来代替字符串，可以节省更多空间。因此在可以使用长整型/整型代替字符串的场景下，尽量使用长整型/整型。
（3）共享对象
利用共享对象，可以减少对象的创建（同时减少了redisobject的创建），节省内存空间。目前redis中的共享对象只包括10000个整数（0-9999）；可以通过调整redis_shared_integers参数提高共享对象的个数；例如将redis_shared_integers调整到20000，则0-19999之间的对象都可以共享。
考虑这样一种场景：论坛网站在redis中存储了每个帖子的浏览数，而这些浏览数绝大多数分布在0-20000之间，这时候通过适当增大redis_shared_integers参数，便可以利用共享对象节省内存空间。
（4）避免过度设计
然而需要注意的是，不论是哪种优化场景，都要考虑内存空间与设计复杂度的权衡；而设计复杂度会影响到代码的复杂度、可维护性。
如果数据量较小，那么为了节省内存而使得代码的开发、维护变得更加困难并不划算；还是以前面讲到的90000个键值对为例，实际上节省的内存空间只有几mb。但是如果数据量有几千万甚至上亿，考虑内存的优化就比较必要了。
3、关注内存碎片率
内存碎片率是一个重要的参数，对redis 内存的优化有重要意义。
如果内存碎片率过高（jemalloc在1.03左右比较正常），说明内存碎片多，内存浪费严重；这时便可以考虑重启redis服务，在内存中对数据进行重排，减少内存碎片。
如果内存碎片率小于1，说明redis内存不足，部分数据使用了虚拟内存（即swap）；由于虚拟内存的存取速度比物理内存差很多（2-3个数量级），此时redis的访问速度可能会变得很慢。因此必须设法增大物理内存（可以增加服务器节点数量，或提高单机内存），或减少redis中的数据。
要减少redis中的数据，除了选用合适的数据类型、利用共享对象等，还有一点是要设置合理的数据回收策略（maxmemory-policy），当内存达到一定量后，根据不同的优先级对内存进行回收。
工业智能网关实现MQTT协议与物联网平台的数据通信
用光敏电阻及P-MOSFET设计的光控开关电路
RFID将成为医院的一大“刚需”！
中国芯 存未来，英韧科技首款PCIe 5.0企业级主控YR S900宣布量产！
基于MSP430F413的新型智能水表的设计
Redis为什么这么快！深入了解Redis的内存模型！
后山寨时代中国手机产业商机何在？
回顾美的携手云知声发布智能空调 ，智能家居再添成员
共享充电宝的价格已经达到每小时10元
关于土壤速测仪实验室建设招标方案的详细介绍
紫光展锐“换帅”！赵伟国退出，新董事长是他
STM32入门学习笔记之温湿度采集实验4
FEV CONSULTING荣获福布斯2022年全球最佳管理咨询公司奖
传感器与plc控制器的接线方法
浅谈眼球追踪解决VR/AR三大问题
安创加速器2018年青睐的8个初创项目，个个身手不凡
三星拟率先使用3nm，比较5nm性能提升30%能耗降低一半
一体成型数字功放电感CSAD概述及参数
蓝牙定时开关和按键式定时开关之间的区别是什么
MIPS科技与摩威科技合作开发移动SoC