redis分布式ID解决方案示例详解

这里是关于“redis分布式ID解决方案示例详解”的完整攻略,包含两条示例说明:

简介

在分布式系统中,生成唯一ID是非常常见的需求。一般而言,生成ID需要保证唯一性、递增性、高可用性和持久化等特性。而使用分布式内存数据库 Redis 来实现分布式ID是比较常见的方案之一。

本文将介绍如何通过 Redis 来实现分布式ID,在此基础上与 Snowflake 算法结合产生更完善的解决方案。

环境准备

我们将使用 Java 语言来实现这个示例。在开始之前,你需要安装以下环境:

  • JDK 1.8或以上版本
  • Maven
  • Redis

方案一:基于Redis的基本ID生成

实现思路

我们可以借助Redis的INCR命令,它会原子性地将指定键的整数值加1。这样我们就可以将一个键定为计数器,每次使用INCR命令就可以保证生成一个唯一的ID。

代码实现

先来看看使用Jedis客户端实现的生成ID的代码实现:

public class RedisIDGenerator {
    private static final String KEY_PREFIX = "REDIS_ID_";

    private static Jedis jedis = new Jedis("localhost", 6379);

    public static Long generate() {
        String key = KEY_PREFIX + System.currentTimeMillis();
        return jedis.incr(key);
    }

    public static void main(String[] args) {
        for (int i = 0; i < 10; i++) {
            System.out.println(RedisIDGenerator.generate());
        }
    }
}

首先,定义了一个PREFIX常量,默认为“REDIS_ID_”。使用Jedis客户端连接了Redis数据库。generate()方法中,首先生成一个唯一的key,key的值为PREFIX+当前时间戳。然后使用jedis.incr()方法生成一个唯一的ID。

最后,使用main()方法来检测RedisIDGenerator的工作是否正常。

测试运行

通过运行测试代码,可以得到以下结果:

1
2
3
4
5
6
7
8
9
10

注意事项

  • Redis 中只支持数字类型的Key,因此创建的key必须为数字类型。
  • 由于 Redis 的 INCR 命令每次自增默认会返回加 1 后的新值,所以我们不需要担心线程安全的问题。

方案二:使用Snowflake算法与Redis配合生成ID

实现思路

Snowflake 算法是 Twitter 提出的一个分布式ID生成算法。该算法生成的ID是一个 64 位的长整型数字,结构如下:

+------------------------------------------------------------+
| 1 Bit Unused | 41 Bit Timestamp | 10 Bit NodeID | 12 Bit Sequence |
+------------------------------------------------------------+

其中,每段的意义如下:

  • Unused:未使用,暂时保留。
  • Timestamp:时间戳,这里使用了 41 位,可以使用 69 年(从 1970 年到 2039 年)。
  • NodeID:节点ID,用于支持分布式部署,10 位节点ID支持 1024 个节点。
  • Sequence:序列号,用来支持高并发,12位表示每个节点可以并发生成的序列号数,支持最大的峰值的数量是每毫秒 4096 (2的12次方)。

所以我们需要借助 Redis 存储我们的序列号,其中每个节点都可以对应一个序列号 key 值,当一个节点需要生成一个新的 ID 时,读取自己对应的序列号 key,然后对其加 1 并存回 Redis 中,同时使用 Snowflake 算法生成 64 位分布式 ID 。

代码实现

SnowflakeIDGenerator.java

public class SnowflakeIDGenerator {
    private static final long START_STMP = 1494064000000L; // 初始时间戳,毫秒级别,应该是我们系统上线的时间
    private static final long SEQUENCE_BIT = 12L; // 序列号占用的位数
    private static final long NODE_BIT = 10L; // 节点标识占用的位数
    private static final long SEQUENCE_MASK = ~(-1L << SEQUENCE_BIT); // 序列号的掩码
    private static final long NODE_MASK = ~(-1L << NODE_BIT); // 节点标识的掩码
    private static final long NODE_LEFT_SHIFT = SEQUENCE_BIT; // 左移量,即需要左移的位数
    private static final long TIMESTAMP_LEFT_SHIFT = NODE_LEFT_SHIFT + NODE_BIT;
    private static long lastStmp = -1L;
    private static long sequence = 0L;
    private static long nodeCode;

    private static Jedis jedis = new Jedis("localhost", 6379);

    static {
        // 获取当前机器的机器标识码,可以使用机器的IP地址或者WorkerId来实现。
        // 如果使用机器IP,可能会存在多网卡和多IP的情况,可以考虑使用第三方库获取MAC地址,
        // 或者使用Zookeeper或Redis等外部存储来解决。
        nodeCode = Long.valueOf(System.getProperty("worker.id", "1"));
    }

    private static long getNewTimestamp() {
        long curMillions = System.currentTimeMillis();
        while (curMillions <= lastStmp) {
            curMillions = System.currentTimeMillis();
        }
        return curMillions;
    }

    private static long getNextSequence() {
        if (jedis == null) {
            return 0;
        }
        String key = "ID_SEQUENCE_" + nodeCode;
        Long res = jedis.incr(key);
        if (res == null || res <= 0) {
            throw new IllegalStateException("无法获取序列号");
        }
        jedis.expire(key, 60 * 60 * 24);
        return res;
    }

    public static long generate() {
        long curStmp = getNewTimestamp();
        if (curStmp < lastStmp) {
            throw new RuntimeException("时间戳错误");
        }
        if (curStmp == lastStmp) {
            sequence = (sequence + 1) & SEQUENCE_MASK;
            if (sequence == 0) {
                curStmp = getNewTimestamp();
            }
        } else {
            sequence = 0L;
        }

        lastStmp = curStmp;

        return ((curStmp - START_STMP) << TIMESTAMP_LEFT_SHIFT) |
                (nodeCode << NODE_LEFT_SHIFT) |
                sequence;
    }

    public static void main(String[] args) {
        for (int i = 0; i < 10; i++) {
            System.out.println(SnowflakeIDGenerator.generate());
        }
    }
}

首先,我们定义了一个 REDIS)SEQUENCE_${nodeCode} 的计数器。每个节点需要创建一个自己对应的计数器,其中 nodeCode 是节点的标识符,表示该节点在分布式架构中的ID。 然后我们实现了getNewTimestamp方法,用于获取 64位ID 的时间戳部分。

getNextSequence方法则是从 Redis 中获取节点的序号,保证序号的唯一性和线程安全,并添加了序号自动过期时间的功能。

generate方法就是将 Snowflake 算法和 Redis 计数器结合在一起,生成出全局唯一的 64 位长整型数字。

测试运行

通过运行测试代码,可以得到以下结果:

1019402740467385344
1019402740467385345
1019402740467385346
1019402740467385347
1019402740467385348
1019402740467385349
1019402740467385350
1019402740467385351
1019402740467385352
1019402740467385353

注意事项

  • nodeCode 的值必须为唯一标识的正整数。
  • 因为 Redis 使用同步锁,只会有一个客户端可以进行incr和decr操作,所以这样实现是线程安全的。

总结

本文介绍了两种基于 Redis 的分布式 ID 生成方案。第一种方案使用 Redis 的 INCR 命令生成 ID,最大的优点是简单易用。第二种方案结合了 Snowflake 算法和 Redis,既保证了 ID 唯一性、递增性和持久性,也避免了性能、效率等问题,并解决了跨节点的 ID 重复问题。

本站文章如无特殊说明,均为本站原创,如若转载,请注明出处:redis分布式ID解决方案示例详解 - Python技术站

(0)
上一篇 2023年5月16日
下一篇 2023年5月16日

相关文章

  • Python连接DB2数据库

    连接DB2数据库可以使用Python中的DB2驱动程序。在这里我们将详细介绍连接DB2数据库的完整攻略,并提供两个示例,演示如何使用Python连接DB2数据库。 步骤1:安装DB2驱动程序 要在Python中连接DB2数据库,必须先安装DB2驱动程序。DB2驱动程序可在IBM官网上下载。您需要根据您的运行环境下载适当的驱动程序。将下载的文件解压缩到您选择的…

    MongoDB 2023年5月16日
    00
  • MongoDB系列教程(五):mongo语法和mysql语法对比学习

    下面是 “MongoDB系列教程(五):mongo语法和mysql语法对比学习” 的完整攻略。 简介 本教程将介绍 MongoDB 的常用语法,并与 MySQL 的语法进行对比。MongoDB 是一个基于分布式文件存储的开源数据库,采用了类 JSON 的文档形式存储数据。相比 MySQL,MongoDB 有着不同的语法和数据存储结构,所以需要我们对其进行学习…

    MongoDB 2023年5月16日
    00
  • PHP数据库操作四:mongodb用法分析

    PHP数据库操作四:mongodb用法分析 在本文中,将会介绍如何在PHP中使用mongodb数据库。我们将会探讨一系列相关的内容,比如: 1.什么是mongodb2.mongodb的应用场景3.mongodb的基本概念4.mongodb的安装和配置5.mongodb的数据库基本操作6.PHP中如何连接和操作mongodb数据库 什么是mongodb Mon…

    MongoDB 2023年5月16日
    00
  • NoSQL是什么?

    NoSQL是指“非关系型数据库”(Not only SQL),是一类数据库管理系统的统称。相对于传统的关系型数据库(SQL),NoSQL数据库不依赖固定的表格模式,通常以键-值对、文档、列族或者图形结构来存储数据。 NoSQL数据库被广泛应用于Web应用程序、大数据和实时分析等领域,因为它们能够处理大量的非结构化数据,并具有可扩展性和高可用性等优点。 NoS…

    2023年3月13日
    00
  • MongoDB使用场景总结

    以下是详细的“MongoDB使用场景总结”的攻略。 MongoDB的使用场景 数据分析:MongoDB的聚合功能和灵活的文档结构,可以帮助存储和分析大量的非结构化数据,例如日志数据、社交媒体数据和物联网数据等。 内容管理:MongoDB可以存储各种类型的文档,适合存储视频、音频、图片等各种类型的媒体文件,并提供高可用性和可扩展性。 实时推送:MongoDB可…

    MongoDB 2023年5月16日
    00
  • Go经典面试题汇总(填空+判断)

    Go经典面试题汇总(填空+判断)是一道比较全面、适合初学和面试准备的练习题目。以下是该题目攻略的详细讲解。 题目类型 该题目类型是填空和判断两种,填空题目需要填写代码,判断题目需要回答True或False。 题目数量 该题目共有30个,共包含25个填空题目和5个判断题目。 题目难度 该题目的难度为中等,对于有一定 Go 编程经验的开发人员比较适合。同时,这些…

    MongoDB 2023年5月16日
    00
  • Ubuntu系统中安装MongoDB及其启动命令mongod的教程

    下面是Ubuntu系统中安装MongoDB及其启动命令mongod的教程(示例说明)。 安装MongoDB 更新Ubuntu源列表: sudo apt update 安装MongoDB: sudo apt install mongodb 安装完成后,启动MongoDB服务: sudo systemctl start mongodb 确认MongoDB服务是否…

    MongoDB 2023年5月16日
    00
  • MongoDB连接和创建数据库的方法讲解

    下面是关于“MongoDB连接和创建数据库的方法讲解”的详细攻略。 连接MongoDB 步骤一:启动MongoDB服务 在连接MongoDB之前,首先需要启动MongoDB服务。如果您使用的是macOS或Linux系统,可以在终端输入以下命令来启动MongoDB服务: sudo service mongod start 如果您使用的是Windows系统,可以…

    MongoDB 2023年5月16日
    00
合作推广
合作推广
分享本页
返回顶部