`
wusuoya
  • 浏览: 643038 次
  • 性别: Icon_minigender_2
  • 来自: 成都
社区版块
存档分类
最新评论

业务系统需要怎样的全局唯一ID

阅读更多
原文:http://ericliang.info/what-kind-of-id-generator-we-need-in-business-systems/

ID 生成器在微博我们一直叫发号器,微博就是用这样的号来存储,而我微博里讨论的时候也都是以发号器为标签。它的主要目的确如平常大家理解的“为一个分布式系统的数据object产生一个唯一的标识”,但其实在一个真实的系统里可能也可以承担更多的作用。概括起来主要有以下几点:

1. 唯一性
2. 时间相关
3. 粗略有序
4. 可反解
5. 可制造

下面我会分别讲每个作用后面的考虑和权衡,也会对比介绍一下业界已知的几种 ID 设计。

1. 要唯一性,是否需要全局唯一?

说起全局唯一,通常大家都会在想到发号器服务,分布式的通常需要更大空间,中心式的则需要在一个合适的地方在会聚。这就可能涉及到锁,而锁意味着成本和性能的下降。所以当前的系统是否需要全局的唯一性,就是一个需要考虑的问题。

比如在通讯系统里,聊天消息可能就未必需要全局,因为一条消息只是某一个人发出,系统只要保证一个人维度的唯一性即可。本质上而言,这里利用了用户 ID 的唯一性,因为唯一性是可以依赖的,通常我们设计系统也都是基于类似的性质,比如后面降到的使用时间唯一性的方式。

2. 用时间来做什么?千万年太久,只争朝夕?

前面说到唯一性可以依赖,我们需要选择的是依赖什么。通常的做法可以选择数据库自增,这在很多数据库里都是可以满足ACID 的操作。但是用数据库有个缺点,就是数据库有性能问题,在多机房情况下也很难处理。当然,你可以通过调整自增的步长来设计,但对于一个发号器而言,操作和维护都略重了。

而时间是天然唯一的,因此也是很多设计的选择。但对于一个8Byte的 ID 而言,时间并没有那么多。你如果精确到秒级别,三十年都要使用30bit,到毫秒级则要再增加10bit,你也只剩下20bit 可以做其他事情了。之所以在8Byte 上捣鼓,因为8Byte 是一个Long,不管在处理器和编译器还是语言层面,都是可以更好地被处理。

然而三十年够么?对于一个人来说,可能不够,但对一个系统而言,可能足够。我们经常开玩笑,互联网里能活三十年的系统有多少呢?三十年过去,你的系统可能都被重写 N 遍了。这样的信心同样来自于摩尔定律,三十年后,计算性能早就提高了上千倍,到时候更多Byte 都不会是问题了。

3. 粗略有多粗略,秒还是毫秒?

每秒一个或者每毫秒一个ID明显是不够的,刚才说到还有20bit 可以做其他事情,就包括一个SequenceID。如果要达到精确的有序,就要对 Sequence 进行并发控制,性能上肯定会打折。所以经常会有的一个选择就是,在这个秒的级别上不再保证顺序,而整个 ID 则只保证时间上的有序。后一秒的 ID肯定比前一秒的大,但同一秒内可能后取的ID比前面的号小。这在使用时非常关键,你要理解,系统也要接受才可以。

那时间用秒还是毫秒呢?其实不用毫秒的时候就可以把空出来的10bit 送给 Sequence,但整个ID 的精度就下降了。峰值速度是更现实的考虑。Sequence 的空间决定了峰值的速度,而峰值也就意味着持续的时间不会太久。这方面,每秒100万比每毫秒1000限制更小。

4. 可反解,解开的是什么?

一个 ID 生成之后,就会伴随着信息终身,排错分析的时候,我们需要查验。这时候一个可反解的 ID 可以帮上很多忙,从哪里来的,什么时候出生的。 跟身份证倒有点儿相通了,其实身份证就是一个典型的分布式 ID 生成器。

如果ID 里已经有了时间而且能解开,在存储层面可能不再需要timestamp 一类的字段了。微博的 ID 还有很多业务信息,这个后面会细讲。

5. 可制造,为什么不用UUID?

互联网系统上可用性永远是优先指标。但由于分布式系统的脆弱,网络不稳定或者底层存储系统的不可用,业务系统随时面临着失败。为了给前端更友好的响应,我们需要能尽量容忍失败。比如在存储失败时,可能需要临时导出请求供后续处理,而后续处理时已经离开了当时的时间点,顺序跟其他系统错开了。我们需要制造出这样的ID 以便系统好像一直正常运行一样,可制造的 ID 让你可以控制生产日期(汗,有点儿假冒伪劣的意思了),然后继续下面的处理。

另一个重要场景就是数据清洗。这个属于较少遇到,但并不罕见的情况,可能是原来 ID 设计的不合理,也可能由于底层存储的改变,都可能出现。这样一个可制造的 ID 就会带来很多操作层面的便利。

这也是我们不用 UUID 的一个原因。UUID 标准可以保证在某时某地生成,但如果要控制生成一个特定时间的 UUID,可能需要底层库的改动。经验告诉我们,能在上层解决的问题不要透到下层,这种库的维护成本是非常高的。

#设计细节

UUID 就不说了, 其他公开出来的这里说下SnowFlake、Weibo以及 Ticktick 的设计。

1. SnowFlake

41bit留给毫秒时间,10bit给MachineID,也就是机器要预先配置,剩下12位留给Sequence。代码虽然露出来了,但其实已经不可用了,据说是内部改造中。

2. Weibo

微博使用了秒级的时间,用了30bit,Sequence 用了15位,理论上可以搞定3.2w/s的速度。用4bit来区分IDC,也就是可以支持16个 IDC,对于核心机房来说够了。剩下的有2bit 用来区分业务,由于当前发号服务是机房中心式的,1bit 来区分热备。是的,也没有用满64bit。

3. Ticktick

也就是当前在环信系统里要用到的。使用了30bit 的秒级时间,20bit 给Sequence。这里是有个考虑,第一版实现还是希望到毫秒级,所以20bit 的前10bit给了毫秒来用,剩下10bit给 Sequence。等到峰值提高的时候可以暂时回到秒级。

前面说到的三十年问题,因此我在高位留了2bit 做 Version,或者到时候改造使用更长字节数,用第一位来标识不同 ID,或者可以把这2bit 挪给时间用,可以给系统改造留出一定的时间。

剩下的10bit 留给 MachineID,也就是说当前 ID 生成可以直接内嵌在业务服务中,最多支持千级别的服务器数量。最后有2bit 做Tag 用,可能区分群消息和单聊消息。同时你也看出,这个 ID 最多支持一天10亿消息,也是怕系统增速太快,这2bit 可以挪给 Sequence,可以支持40亿级别消息量,或者结合前面的版本支持到百亿级别。

#后记

自己实现一个发号器非常简单,所以Ticktick 怎么实现并不重要。不过呐,我还是有 demo 源码的,见 https://github.com/ericliang/ticktick
分享到:
评论

相关推荐

    全局唯一ID生成

    当系统需要为每条记录分配一个独一无二的身份标识时,全局唯一ID生成技术就显得尤为重要。本话题将深入探讨分布式ID生成以及相关实现策略。 分布式ID生成是解决大型分布式系统中生成不重复ID的关键技术。在单体应用...

    Springboot唯一编号整合,vesta全局唯一id生成器

    在现代的分布式系统中,确保每个实体的唯一标识是非常重要的,这通常涉及到全局唯一ID(Global Unique Identifier,简称GUID)的生成。SpringBoot作为一个轻量级的Java开发框架,广泛应用于微服务架构,而Vesta ID ...

    生成数字的全局唯一Id.zip

    总之,"生成数字的全局唯一Id.zip"提供的Java实现是一个基于雪花算法的工具类,适用于生成Long类型的唯一ID,适用于各种需要全局唯一标识的场景。在理解和使用时,需要注意时钟同步、ID空间分配以及可能的并发问题。

    全局唯一id生成器vesta.rar

    Vesta是一款广泛应用于分布式系统中的全局唯一ID(Global Unique ID,GUID)生成器。在分布式环境中,为了确保每个实体的标识都是唯一的,全局唯一ID生成器扮演着至关重要的角色。Vesta的设计目标是高效、可扩展且...

    dedid全局唯一 ID(主键)生成器

    "dedid全局唯一 ID(主键)生成器" 是一个专为分布式数据库设计的系统,它的主要任务是生成全局唯一的标识符,通常作为数据表中的主键。这里的“dedid”可能是一个特定命名的ID生成器,它借鉴了Twitter的Snowflake...

    分布式架构系统生成全局唯一序列号的一些思路对比分析

    雪花算法是由Twitter开源的一种生成全局唯一ID的方法。其ID由64位组成,分为以下几个部分:41位的时间戳(毫秒级),10位的机器标识(可以部署在1024个节点),12位的序列号(每个节点每毫秒可以生成4096个ID)。...

    Mysql全局ID生成方法

    既然要sharding,那么不可避免的要讨论到sharding key问题,在有些业务系统中,必须保证sharding key全局唯一,比如存放商品的数据库等,那么如何生成全局唯一的ID呢,下文将从DBA的角度介绍几种常见的方案。...

    10-发号器:如何保证分库分表后ID的全局唯一性?_For_group_share1

    在分布式数据库环境中,...总的来说,解决分库分表后ID的全局唯一性问题,需要综合考虑业务需求、数据结构、算法选择以及服务架构设计等多个方面。合理选择和设计ID生成策略,对于构建高效、稳定的分布式系统至关重要。

    cpp-idgen是一个可以生成全局唯一自增id的分布式的高可用服务

    cpp-idgen是一个专门为生成全局唯一且自增ID设计的分布式高可用服务,它在C++编程语言环境下实现,适用于各种需要大量唯一标识的系统。在现代互联网应用中,尤其是在大型分布式系统中,对唯一ID的需求尤为突出,cpp-...

    分布式唯一ID解决方案-雪花算法.docx

    全局唯一ID几乎是所有设计系统时都会遇到的,全局唯一ID在存储和检索中有至关重要的作用。ID生成器在应用程序中,经常需要全局唯一的ID作为数据库主键。如何生成全局唯一ID?首先,需要确定全局唯一ID是整型还是字符...

    Springboot2.X基于可靠消息rabbitmq最终一致性分布式事务+分布式全局唯一ID生成器

     d、分布式全局ID生成器,ID生成非绝对递增有序,是趋向有序,这一点如果能接受,可以直接copy使用 2、事务回滚机制说明  a、每个消费端的事务处理都由本地事务负责  b、基于下单队列消费端临时表,查询红包、...

    分布式系统中唯一ID的生成方法共3页.pdf.zip

    分布式系统中的唯一ID生成是构建大规模、高并发应用的关键技术之一。在分布式环境中,由于多台服务器和进程可能同时处理请求,确保每个实体或事件拥有全局唯一的标识符(ID)至关重要,这有助于数据的一致性、跟踪和...

    微服务 Spring Boot 整合Redis 秒杀 ,全局唯一ID,乐观锁解决库存超卖,Jmeter 测试 每秒千万级并发

    本项目基于微服务架构,使用Spring Boot整合Redis,实现了高效的秒杀系统,并通过全局唯一ID(UUID)和乐观锁技术来防止库存超卖问题。此外,还利用JMeter进行性能测试,确保系统能在每秒处理千万级别的并发请求。...

    分布式架构系统生成全局唯一序列号的一些思路对比分析.docx

    分布式架构中的全局唯一序列号生成是一个关键问题,特别是在大规模并发的场景下,保证序列号的唯一性和高效生成是系统设计的重要考量。本文档主要对比分析了几种常见的解决方案,并结合携程的实践经验进行了深入探讨...

    java 分布式 代码生成器 唯一ID

    通过这种方式,可以在分布式环境下高效地生成全局唯一ID。 2. **UUID**:UUID(通用唯一标识符)是一种广泛使用的标准,它能生成128位的唯一ID。但由于UUID的生成包含随机性,可能在网络延迟或者并发较高的情况下...

    50_一个关键的问题!分库分表之后全局id咋生成?.zip

    然而,随着数据的分散,一个新的挑战也随之而来:如何在分库分表后生成全局唯一ID(Global Unique ID,GID)。这个问题在标题“50_一个关键的问题!分库分表之后全局id咋生成?”中被明确提出。下面将详细探讨这个...

    mysql雪花算法生成唯一整型ID主键的实现方法

    MySQL 雪花算法生成唯一整型ID主键的实现主要针对大数据环境下,需要大量生成全局唯一ID的需求。雪花算法是一种分布式ID生成策略,由Twitter开源,其设计目标是在分布式系统中生成具有全局唯一性、有序性和高并发性...

Global site tag (gtag.js) - Google Analytics