jredis源码解析的简单介绍

hacker|
156

文章目录:

redis源码中的后缀是.o文件是什么文件

.o 就是object, 也就相当于windows下编译的obj文件, 俗称目标文件

是指源代码经过编译程序产生的能被cpu直接识别二进制代码。由编译器生成,

具体的生成方法在不同的开发环境上是不同的.

百度百科说.o文件是对象文件

里面包含的内容就是01这样的机器可执行的执令

当你程序要执行时还需要进行链接(link).

连接程序再将这个文件与系统库文件连接就生成可执行文件

就是把多个.o文件链成一个可执行文件

windows怎么调试redis源码

Redis对于Linux是官方支持的,安装和使用没有什么好说的,普通使用按照官方指导,5分钟以内就能搞定。详情请参考:

但有时候又想在windows下折腾下Redis,可以从redis下载页面看到如下提示(在页面中搜索 "windows"):

[plain] view plain copy

Win64 Unofficial The Redis project does not directly support Windows,

however the Microsoft Open Tech group develops and maintains

an Windows port targeting Win64.

大意就是 Redis官方是不支持windows的,只是 Microsoft Open Tech group 在 GitHub上开发了一个Win64的版本,项目地址是:

打开以后,可以直接使用浏览器下载,或者Git克隆。

可以在项目主页右边找到 zip包下载地址:

(注意: dist文件改变了下载地址: )

如图是redis源码的一部分,为什么可以typedef一个struct内部的struct?但是自己尝试的时候编译不通过?

Redis是用C语言写的,而你的代码是C++的,C++编译器相对而言检查更严格。如果你用C编译器编译就会发现这句能编译通过

Redis的代码其实写的不规范,因为忽略作用域本身就是不对的

如何高效深入的阅读Redis的源码

在这篇文章中, 我将向大家介绍一种我认为比较合理的 Redis 源码阅读顺序, 希望可以给对 Redis 有兴趣并打算阅读 Redis 源码的朋友带来一点帮助。

第 1 步:阅读数据结构实现

刚开始阅读 Redis 源码的时候, 最好从数据结构的相关文件开始读起, 因为这些文件和 Redis 中的其他部分耦合最少, 并且这些文件所实现的数据结构在大部分算法书上都可以了解到, 所以从这些文件开始读是最轻松的、难度也是最低的。

下表列出了 Redis 源码中, 各个数据结构的实现文件:

文件 内容

sds.h 和 sds.c Redis 的动态字符串实现。

adlist.h 和 adlist.c Redis 的双端链表实现。

dict.h 和 dict.c Redis 的字典实现。

redis.h 中的 zskiplist 结构和 zskiplistNode 结构, 以及 t_zset.c 中所有以 zsl 开头的函数, 比如 zslCreate 、 zslInsert 、 zslDeleteNode ,等等。 Redis 的跳跃表实现。

hyperloglog.c 中的 hllhdr 结构, 以及所有以 hll 开头的函数。 Redis 的 HyperLogLog 实现。

第 2 步:阅读内存编码数据结构实现

在阅读完和数据结构有关的文件之后, 接下来就应该阅读内存编码(encoding)数据结构了。

和普通的数据结构一样, 内存编码数据结构基本上是独立的, 不和其他模块耦合, 但是区别在于:

上一步要读的数据结构, 比如双端链表、字典、HyperLogLog, 在算法书上或者相关的论文上都可以找到资料介绍。

而内存编码数据结构却不容易找到相关的资料, 因为这些数据结构都是 Redis 为了节约内存而专门开发出来的, 换句话说, 这些数据结构都是特制(adhoc)的, 除了 Redis 源码中的文档之外, 基本上找不到其他资料来了解这些特制的数据结构。

不过话又说回来, 虽然内存编码数据结构是 Redis 特制的, 但它们基本都和内存分配、指针操作、位操作这些底层的东西有关, 读者只要认真阅读源码中的文档, 并在有需要时, 画图来分析这些数据结构, 那么要完全理解这些内存编码数据结构的运作原理并不难, 当然这需要花一些功夫。

下表展示了 Redis 源码中, 各个内存编码数据结构的实现文件:

文件 内容

intset.h 和 intset.c 整数集合(intset)数据结构。

ziplist.h 和 ziplist.c 压缩列表(zip list)数据结构。

第 3 步:阅读数据类型实现

在完成以上两个阅读步骤之后, 我们就读完了 Redis 六种不同类型的键(字符串、散列、列表、集合、有序集合、HyperLogLog)的所有底层实现结构了。

接下来, 为了知道 Redis 是如何通过以上提到的数据结构来实现不同类型的键, 我们需要阅读实现各个数据类型的文件, 以及 Redis 的对象系统文件, 这些文件包括:

文件 内容

object.c Redis 的对象(类型)系统实现。

t_string.c 字符串键的实现。

t_list.c 列表键的实现。

t_hash.c 散列键的实现。

t_set.c 集合键的实现。

t_zset.c 中除 zsl 开头的函数之外的所有函数。 有序集合键的实现。

hyperloglog.c 中所有以 pf 开头的函数。 HyperLogLog 键的实现。

第 4 步:阅读数据库实现相关代码

在读完了 Redis 使用所有底层数据结构, 以及 Redis 是如何使用这些数据结构来实现不同类型的键之后, 我们就可以开始阅读 Redis 里面和数据库有关的代码了, 它们分别是:

文件 内容

redis.h 文件中的 redisDb 结构, 以及 db.c 文件。 Redis 的数据库实现。

notify.c Redis 的数据库通知功能实现代码。

rdb.h 和 rdb.c Redis 的 RDB 持久化实现代码。

aof.c Redis 的 AOF 持久化实现代码。

选读

Redis 有一些独立的功能模块, 这些模块可以在完成第 4 步之后阅读, 它们包括:

文件 内容

redis.h 文件的 pubsubPattern 结构,以及 pubsub.c 文件。 发布与订阅功能的实现。

redis.h 文件的 multiState 结构以及 multiCmd 结构, multi.c 文件。 事务功能的实现。

sort.c SORT 命令的实现。

bitops.c GETBIT 、 SETBIT 等二进制位操作命令的实现。

第 5 步:阅读客户端和服务器的相关代码

在阅读完数据库实现代码, 以及 RDB 和 AOF 两种持久化的代码之后, 我们可以开始阅读客户端和 Redis 服务器本身的实现代码, 和这些代码有关的文件是:

文件 内容

ae.c ,以及任意一个 ae_*.c 文件(取决于你所使用的多路复用库)。 Redis 的事件处理器实现(基于 Reactor 模式)。

networking.c Redis 的网络连接库,负责发送命令回复和接受命令请求, 同时也负责创建/销毁客户端, 以及通信协议分析等工作。

redis.h 和 redis.c 中和单机 Redis 服务器有关的部分。 单机 Redis 服务器的实现。

如果读者能完成以上 5 个阅读步骤的话, 那么恭喜你, 你已经了解了单机的 Redis 服务器是怎样处理命令请求和返回命令回复, 以及是 Redis 怎样操作数据库的了, 这是 Redis 最重要的部分, 也是之后继续阅读多机功能的基础。

选读

Redis 有一些独立的功能模块, 这些模块可以在完成第 5 步之后阅读, 它们包括:

文件 内容

scripting.c Lua 脚本功能的实现。

slowlog.c 慢查询功能的实现。

monitor.c 监视器功能的实现。

第 6 步:阅读多机功能的实现

在弄懂了 Redis 的单机服务器是怎样运作的之后, 就可以开始阅读 Redis 多机功能的实现代码了, 和这些功能有关的文件为:

文件 内容

replication.c 复制功能的实现代码。

sentinel.c Redis Sentinel 的实现代码。

cluster.c Redis 集群的实现代码。

注意, 因为 Redis Sentinel 用到了复制功能的代码, 而集群又用到了复制和 Redis Sentinel 的代码, 所以在阅读这三个模块的时候, 记得先阅读复制模块, 然后阅读 Sentinel 模块, 最后才阅读集群模块, 这样理解起来就会更得心应手。

如果你连这三个模块都读完了的话, 那么恭喜你, 你已经读完了 Redis 单机功能和多机功能的所有代码了!

下图总结了本文介绍的阅读顺序:

digraph {

node [shape = plaintext]

datastruct [label = "数据结构\n(sds、adlist、dict、t_zset、hyperloglog)"]

encoding_datastruct [label = "内存编码数据结构\n(intset、ziplist)"]

object [label = "数据类型\n(object、t_string、t_list、t_hash、t_set、t_zset、hyperloglog)"]

db [label = "数据库相关\n(db、notify、rdb、aof)"]

client_and_server [label = "客户端与服务器相关\n(ae、networking、redis)"]

multi_server [label = "多机功能\n(replication、sentinel、cluster)"]

//

datastruct - encoding_datastruct - object - db - client_and_server - multi_server

}

结语

Redis 的设计非常简洁、优美、精巧和高效, 任何人只要愿意去阅读它的代码的话, 应该都会有所收获的。

希望这篇文章能够给想要阅读 Redis 代码的朋友们带来一些帮助, 也欢迎各位随时和我讨论 Redis 源码方面的问题, 或者跟我分享各位阅读 Redis 源码的心得和经验。

另外我的 Redis 源码注释 项目以及 《Redis 设计与实现》 一书对于理解 Redis 的源代码应该也会有所帮助, 有兴趣的朋友可以自行了解该项目/书本。

黄健宏(huangz)

2014.7.28

Redis底层数据结构解密?

一:摘要概述

很多 redis 的使用者都可以清晰明白的道出Redis中常用的对象如string、list、hash、set、zset,一些场景比较丰富的使用者可能会说布隆过滤器、geo、Hash等。但是对于这些对象底层实现的数据结构却是知之甚少,将会详细阐述redis中的底层数据结构。为了弥补大家的创伤,今天分享Redis底层数据结构内容。

二:SDS

string作为redis中常用对象之一,普遍用于用户信息缓存等场景。当string对象中encoding编码为embstr或raw时都是采用sds作为其底层实现

2.1 SDS结构

源码文件位于redis安装目录src下的sds.h,sds声明了五种头部类型,分别为sdshdr5、sdshdr8、sdshdr16、sdshdr32、sdshdr64。根据字符串长度创建不同头部的sds实例

struct __attribute__ ((__packed__)) sdshdr8 {

uint8_t len;

uint8_t alloc;

unsigned char flags;

char buf[];

};

属性名称作用含义

len字符串长度

alloc预分配空间大小

flags低三位用于表示sds类型,可以查看sds.h文件76-82行定义

buf[]存储字符串用数组

2.2 SDS与C字符串区别

区别描述

长度计算 c中的字符串长度计算需要数组遍历,但是redis中的sds自身维护了len属性。所以O(1)时间复杂度即可

缓冲区溢出c中字符串更改如果未提前做好内存分配则会内存溢出,但是sds则会根据alloc与len计算预留内存是否足够分配重新申请内存

动态扩展 缓冲区溢出已经阐述这个概念,sds的内存空间会在字符串内容变更时自动扩展计算。策略为当字符换小于1M时*2翻倍,大于1M时每次扩容1M

惰性释放 与空间预分配相似操作的还有内存惰性释放,即字符串删除某些内容后所占用的内存空间并不会立即释放,后续字符串变更扩展就无需再申请内存

二:ZipList

ziplist可以说把redis对于内存的极致操作体现的淋漓尽致,链表除了节点值之外还需要维护前后节点两个指针,并且还会造成内存碎片。压缩列表紧凑的内存布局,所有节点都维护在整块内存中处理

2.1 ZipList结构

属性名称作用含义

zlbytes列表健占用内存的总字节数,在对列表健内存重分配或者是计算zlend的时候使用

zltail 指向压缩列表起始地址的指针

zllen 压缩列表的节点数量

entry压缩列表保存的节点数据

zlend压缩列表的尾节点

2.2 Entry节点结构

属性名称作用含义

previous_entry_length 字节为单位记录上一个节点的长度,如果上一个字节长度小于254占用1字节。大于254占用5字节,第一个字节设置为OxFE(十进制254),后面四个字节储存长度

encoding 记录content记录的数据类型以及长度。长度一、二、五字节,值的最高位为00、01、10表示类型为字节数组,长度使用除去最高位的其它位记录。11开头表示储存整数,除去最高位其他位置表示content数据长度

content 记录压缩列表记录的数据

4条大神的评论

  • avatar
    访客 2022-07-02 上午 11:15:40

    是如何使用这些数据结构来实现不同类型的键之后, 我们就可以开始阅读 Redis 里面和数据库有关的代码了, 它们分别是:文件 内容 redis.h 文件中的 redisDb 结构, 以及 db.c 文件。 Redis 的数据库实现。 notify.c

  • avatar
    访客 2022-07-02 下午 12:26:06

    , 因为这些文件和 Redis 中的其他部分耦合最少, 并且这些文件所实现的数据结构在大部分算法书上都可以了解到, 所以从这些文件开始读是最轻松的、难度也是最低的。下表列出了 Redis 源码中, 各个数据结构的实现文件:文件 内容

  • avatar
    访客 2022-07-02 上午 11:53:40

    构的相关文件开始读起, 因为这些文件和 Redis 中的其他部分耦合最少, 并且这些文件所实现的数据结构在大部分算法书上都可以了解到, 所以从这些文件开始读是最轻松的、难度也是最低的。下表列出了 Redis 源码中, 各个数据结构

  • avatar
    访客 2022-07-02 下午 02:29:32

    object - db - client_and_server - multi_server}结语 Redis 的设计非常简洁、优美、精巧和高效, 任何人只要愿意去阅读它的代码的话, 应该都会有所收获的。希

发表评论