Redis 设计与实现 10:五大数据类型之有序集合

机器学习(一):5分钟理解机器学习并上手实践

有序集合 sorted set (下面我们叫zset 吧) 有两种编码方式:压缩列表 ziplist 和跳表 skiplist

编码一:ziplist

zsetziplist 中,成员(member)和分数(score)是挨在一起的,元素按照分数从小到大存储。

举个例子,我们用以下命令创建一个zset

redis> ZADD key 26.1 z 1 a 2 b
(integer) 3

那么这个zset的结构大致如下:

下面我们来分析一下 zscore 命令的源码,进一步了解 zset 是如何利用 ziplist 存储的

int zsetScore(robj *zobj, sds member, double *score) {
    // ...
    if (zobj->encoding == OBJ_ENCODING_ZIPLIST) {
        if (zzlFind(zobj->ptr, member, score) == NULL) return C_ERR;
    }
    // ...
    return C_OK;
}

unsigned char *zzlFind(unsigned char *zl, sds ele, double *score) {
    // eptr 是 member 的指针,sptr 是 score 的指针
    unsigned char *eptr = ziplistIndex(zl,0), *sptr;

    // 遍历 ziplist
    while (eptr != NULL) {
        // 因为 member 和 score 是挨着存储的,所以获取 member 的下一个节点就是 score 啦
        sptr = ziplistNext(zl,eptr);
        serverAssert(sptr != NULL);

        // 对比当前的 member 和要查询的 member 是否相等
        if (ziplistCompare(eptr,(unsigned char*)ele,sdslen(ele))) {
            // 如果相等,则获取分数
            if (score != NULL) *score = zzlGetScore(sptr);
            return eptr;
        }

        // 不相等则继续往下遍历
        eptr = ziplistNext(zl,sptr);
    }
    return NULL;
}

// 获取分数
double zzlGetScore(unsigned char *sptr) {
    unsigned char *vstr;
    unsigned int vlen;
    long long vlong;
    char buf[128];
    double score;

    serverAssert(sptr != NULL);
    // ziplistGet 通过 sptr 指针获取值。根据节点的编码(前文有说到ziplist节点的编码) 对参数赋值
    // 如果是字符串,则赋值到 vstr; 如果是整数,则赋值到 vlong。
    serverAssert(ziplistGet(sptr,&vstr,&vlen,&vlong));

    if (vstr) {
        // 如果是字符串,那么存的就是浮点数
        memcpy(buf,vstr,vlen);
        buf[vlen] = '\0';
        // 字符串转换成浮点数
        score = strtod(buf,NULL);
    } else {
        // 整数类型就直接赋值
        score = vlong;
    }

    return score;
}

编码二:skiplist

跳表的实现

skiplist 编码的底层实现是跳表。

下面是跳表的结构图 (图片来自 《Redis 设计与实现》图片集 )

  1. 图中最左部分就是 zskiplist 结构,其代码实现如下(server.h):
typedef struct zskiplist {
    // 头指针和尾指针,指向头尾节点
    struct zskiplistNode *header, *tail;
    // 跳表的节点数(不包含头结点,空跳表也会包含头结点)
    unsigned long length;
    // 所有节点中,最大的层数
    int level;
} zskiplist;
  1. 图中右边的四个节点,就是跳表节点 zskiplistNode,其代码实现如下(server.h):
typedef struct zskiplistNode {
    // 成员
    sds ele;
    // 分数
    double score;
    // 后退指针,指向前一个节点
    struct zskiplistNode *backward;
    // 层,每个节点可能有很多层,每个层可能指向不同的节点
    struct zskiplistLevel {
        // 前进指针,指向下一个节点
        struct zskiplistNode *forward;
        // 跟下一个节点之间的跨度
        unsigned long span;
    } level[];
} zskiplistNode;

跳表最重要的一个地方就是层 level,为什么这么说呢?

假设zset 用链表有序存储,如果我们要查找数据,只能从头到尾遍历,时间复杂度是 \(O(n)\),效率很低。

Mybatis的缓存

有什么办法提高效率呢?我们可以在上面添加一层索引。

可以看出,我们遍历的性能变高了。例如我们想找到 6,先遍历第一层,5 到 7 之间,再往下探,就能找到 6 了!
有读者就发现了,如果数据量很大,那找起来也很慢。
是的,那么怎么解决呢?再往上加索引呗!

这不,链表就变成了跳表了!而上面说的层,就是这些索引啦!最终跳表的查找时间复杂度是 \(O(logn)\)

我们来看看 zrange 命令的核心实现,来感受一下跳表的遍历吧

zskiplistNode* zslGetElementByRank(zskiplist *zsl, unsigned long rank) {
    zskiplistNode *x;
    unsigned long traversed = 0;
    int i;
    // 层头结点开始
    x = zsl->header;
    // 层从高到低
    for (i = zsl->level-1; i >= 0; i--) {
        // 只要遍历的数没有达到 rank,就一直遍历
        while (x->level[i].forward && (traversed + x->level[i].span) <= rank)
        {
            // 每次加上层的跨度
            traversed += x->level[i].span;
            // 往前走
            x = x->level[i].forward;
        }
        // 如果这一层走完还没到 rank,那就往下层走,如果还是找不到就继续走,直到走到最底层
        if (traversed == rank) {
            return x;
        }
    }
    return NULL;
}

zset 的结构

skiplist 编码的 zset 的结构定义如下:

typedef struct zset {
    dict *dict;
    zskiplist *zsl;
} zset;

结构中包含了一个字典和一个跳表,为什么用了跳表还需要字典呢?
命令zscore这种单找一个值的,如果只用跳表的话,那么查找的时间复杂度是 \(O(logn)\),加上一个字典可以把时间复杂度缩减为 \(O(n)\)

那么肯定有同学就会说,加一个字典会浪费了很多空间。
的确,多加一个字典肯定会多占用一定的空间,空间换时间是一种常见的做法。不过字典的值指向的对象跟跳表的对象是共用的。

下图是一个 zset 的示例,为了方便,把他们指向的字符串对象都分别画出来了,实际上是共享的。(图片来自 《Redis 设计与实现》图片集 )

源码分析

我们来看看 skiplist 编码下的 zscore 如何实现吧。

int zsetScore(robj *zobj, sds member, double *score) {
    // 前面其他 ziplist 编码的就省略了...
    // if ...
    else if (zobj->encoding == OBJ_ENCODING_SKIPLIST) {
        zset *zs = zobj->ptr;
        // 直接通过 dict 查找,时间复杂度复杂度 O(1)
        dictEntry *de = dictFind(zs->dict, member);
        if (de == NULL) return C_ERR;
        *score = *(double*)dictGetVal(de);
    }
    
    // ...
    return C_OK;
}

编码转换

当有序集合对象可以同时满足以下两个条件时,对象使用 ziplist 编码:

  • 有序集合保存的元素数量小于128个(可通过 zset-max-ziplist-entries 修改配置);
  • 有序集合保存的所有元素成员的长度都小于64字节(可通过 zset-max-ziplist-value 修改配置);

不能满足以上两个条件的有序集合对象将使用 skiplist 编码。

C#中的异步和多线程

给TA买糖
共{{data.count}}人
人已赞赏
经验教程

.NET 云原生架构师训练营(模块二 基础巩固 敏捷开发)--学习笔记

2021-1-15 23:32:00

经验教程

机器学习(一):5分钟理解机器学习并上手实践

2021-1-16 0:21:00

⚠️
免责声明:根据《计算机软件保护条例》第十七条规定“为了学习和研究软件内含的设计思想和原理,通过安装、显示、传输或者存储软件等方式使用软件的,可以不经软件著作权人许可,不向其支付报酬。”您需知晓本站所有内容资源均来源于网络,仅供用户交流学习与研究使用,版权归属原版权方所有,版权争议与本站无关,用户本人下载后不能用作商业或非法用途,需在24个小时之内从您的电脑中彻底删除上述内容,否则后果均由用户承担责任;如果您访问和下载此文件,表示您同意只将此文件用于参考、学习而非其他用途,否则一切后果请您自行承担,如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。 本站为个人博客非盈利性站点,所有软件信息均来自网络,所有资源仅供学习参考研究目的,并不贩卖软件,不存在任何商业目的及用途,网站会员捐赠是您喜欢本站而产生的赞助支持行为,仅为维持服务器的开支与维护,全凭自愿无任何强求。本站部份代码及教程来源于互联网,仅供网友学习交流,若您喜欢本文可附上原文链接随意转载。
无意侵害您的权益,请发送邮件至 momeis6@qq.com 或点击右侧 私信:momeis 反馈,我们将尽快处理。
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索