我一下子說出四種分布式ID生成方案,把面試官給搞懵了
上一篇文章,我們聊了一下分庫分表相關(guān)的一些基礎(chǔ)知識(shí),具體可以參見:《?支撐日活百萬用戶的高并發(fā)系統(tǒng),應(yīng)該如何設(shè)計(jì)其數(shù)據(jù)庫架構(gòu)??》。
這篇文章,我們就接著分庫分表的知識(shí),來具體聊一下全局唯一id如何生成。
在分庫分表之后你必然要面對(duì)的一個(gè)問題,就是id咋生成?
因?yàn)橐且粋€(gè)表分成多個(gè)表之后,每個(gè)表的id都是從1開始累加自增長,那肯定不對(duì)啊。
舉個(gè)例子,你的訂單表拆分為了1024張訂單表,每個(gè)表的id都從1開始累加,這個(gè)肯定有問題了!
你的系統(tǒng)就沒辦法根據(jù)表主鍵來查詢訂單了,比如id = 50這個(gè)訂單,在每個(gè)表里都有!
所以此時(shí)就需要分布式架構(gòu)下的全局唯一id生成的方案了,在分庫分表之后,對(duì)于插入數(shù)據(jù)庫中的核心id,不能直接簡單使用表自增id,要全局生成唯一id,然后插入各個(gè)表中,保證每個(gè)表內(nèi)的某個(gè)id,全局唯一。
比如說訂單表雖然拆分為了1024張表,但是id = 50這個(gè)訂單,只會(huì)存在于一個(gè)表里。
那么如何實(shí)現(xiàn)全局唯一id呢?有以下幾種方案。
方案一:獨(dú)立數(shù)據(jù)庫自增id
這個(gè)方案就是說你的系統(tǒng)每次要生成一個(gè)id,都是往一個(gè)獨(dú)立庫的一個(gè)獨(dú)立表里插入一條沒什么業(yè)務(wù)含義的數(shù)據(jù),然后獲取一個(gè)數(shù)據(jù)庫自增的一個(gè)id。拿到這個(gè)id之后再往對(duì)應(yīng)的分庫分表里去寫入。
比如說你有一個(gè)auto_id庫,里面就一個(gè)表,叫做auto_id表,有一個(gè)id是自增長的。
那么你每次要獲取一個(gè)全局唯一id,直接往這個(gè)表里插入一條記錄,獲取一個(gè)全局唯一id即可,然后這個(gè)全局唯一id就可以插入訂單的分庫分表中。
這個(gè)方案的好處就是方便簡單,誰都會(huì)用。缺點(diǎn)就是單庫生成自增id,要是高并發(fā)的話,就會(huì)有瓶頸的,因?yàn)閍uto_id庫要是承載個(gè)每秒幾萬并發(fā),肯定是不現(xiàn)實(shí)的了。
方案二:uuid
這個(gè)每個(gè)人都應(yīng)該知道吧,就是用UUID生成一個(gè)全局唯一的id。
好處就是每個(gè)系統(tǒng)本地生成,不要基于數(shù)據(jù)庫來了
不好之處就是,uuid太長了,作為主鍵性能太差了,不適合用于主鍵。
如果你是要隨機(jī)生成個(gè)什么文件名了,編號(hào)之類的,你可以用uuid,但是作為主鍵是不能用uuid的。
方案三:獲取系統(tǒng)當(dāng)前時(shí)間
這個(gè)方案的意思就是獲取當(dāng)前時(shí)間作為全局唯一的id。
但是問題是,并發(fā)很高的時(shí)候,比如一秒并發(fā)幾千,會(huì)有重復(fù)的情況,這個(gè)是肯定不合適的。
一般如果用這個(gè)方案,是將當(dāng)前時(shí)間跟很多其他的業(yè)務(wù)字段拼接起來,作為一個(gè)id,如果業(yè)務(wù)上你覺得可以接受,那么也是可以的。
你可以將別的業(yè)務(wù)字段值跟當(dāng)前時(shí)間拼接起來,組成一個(gè)全局唯一的編號(hào),比如說訂單編號(hào):時(shí)間戳 + 用戶id + 業(yè)務(wù)含義編碼。
方案四:snowflake算法的思想分析
snowflake算法,是twitter開源的分布式id生成算法。
其核心思想就是:使用一個(gè)64 bit的long型的數(shù)字作為全局唯一id,這64個(gè)bit中,其中1個(gè)bit是不用的,然后用其中的41 bit作為毫秒數(shù),用10 bit作為工作機(jī)器id,12 bit作為序列號(hào)。
給大家舉個(gè)例子吧,比如下面那個(gè)64 bit的long型數(shù)字,大家看看
上面第一個(gè)部分,是1個(gè)bit:0,這個(gè)是無意義的。
上面第二個(gè)部分是41個(gè)bit:表示的是時(shí)間戳。
上面第三個(gè)部分是5個(gè)bit:表示的是機(jī)房id,10001。
上面第四個(gè)部分是5個(gè)bit:表示的是機(jī)器id,1 1001。
上面第五個(gè)部分是12個(gè)bit:表示的序號(hào),就是某個(gè)機(jī)房某臺(tái)機(jī)器上這一毫秒內(nèi)同時(shí)生成的id的序號(hào),0000 00000000
- 1 bit:是不用的,為啥呢?
因?yàn)槎M(jìn)制里第一個(gè)bit為如果是1,那么都是負(fù)數(shù),但是我們生成的id都是正數(shù),所以第一個(gè)bit統(tǒng)一都是0
- 41 bit:表示的是時(shí)間戳,單位是毫秒。
41 bit可以表示的數(shù)字多達(dá)2^41 - 1,也就是可以標(biāo)識(shí)2 ^ 41 - 1個(gè)毫秒值,換算成年就是表示69年的時(shí)間。
- 10 bit:記錄工作機(jī)器id,代表的是這個(gè)服務(wù)最多可以部署在2^10臺(tái)機(jī)器上,也就是1024臺(tái)機(jī)器。
但是10 bit里5個(gè)bit代表機(jī)房id,5個(gè)bit代表機(jī)器id。意思就是最多代表2 ^ 5個(gè)機(jī)房(32個(gè)機(jī)房),每個(gè)機(jī)房里可以代表2 ^ 5個(gè)機(jī)器(32臺(tái)機(jī)器)。
- 12 bit:這個(gè)是用來記錄同一個(gè)毫秒內(nèi)產(chǎn)生的不同id。
12 bit可以代表的最大正整數(shù)是2 ^ 12 - 1 = 4096,也就是說可以用這個(gè)12bit代表的數(shù)字來區(qū)分同一個(gè)毫秒內(nèi)的4096個(gè)不同的id
簡單來說,你的某個(gè)服務(wù)假設(shè)要生成一個(gè)全局唯一id,那么就可以發(fā)送一個(gè)請(qǐng)求給部署了snowflake算法的系統(tǒng),由這個(gè)snowflake算法系統(tǒng)來生成唯一id。
這個(gè)snowflake算法系統(tǒng)首先肯定是知道自己所在的機(jī)房和機(jī)器的,比如機(jī)房id = 17,機(jī)器id = 12。
接著snowflake算法系統(tǒng)接收到這個(gè)請(qǐng)求之后,首先就會(huì)用二進(jìn)制位運(yùn)算的方式生成一個(gè)64 bit的long型id,64個(gè)bit中的第一個(gè)bit是無意義的。
接著41個(gè)bit,就可以用當(dāng)前時(shí)間戳(單位到毫秒),然后接著5個(gè)bit設(shè)置上這個(gè)機(jī)房id,還有5個(gè)bit設(shè)置上機(jī)器id。
最后再判斷一下,當(dāng)前這臺(tái)機(jī)房的這臺(tái)機(jī)器上這一毫秒內(nèi),這是第幾個(gè)請(qǐng)求,給這次生成id的請(qǐng)求累加一個(gè)序號(hào),作為最后的12個(gè)bit。
最終一個(gè)64個(gè)bit的id就出來了,類似于:
這個(gè)算法可以保證說,一個(gè)機(jī)房的一臺(tái)機(jī)器上,在同一毫秒內(nèi),生成了一個(gè)唯一的id。可能一個(gè)毫秒內(nèi)會(huì)生成多個(gè)id,但是有最后12個(gè)bit的序號(hào)來區(qū)分開來。
下面我們簡單看看這個(gè)snowflake算法的一個(gè)代碼實(shí)現(xiàn),這就是個(gè)示例,大家如果理解了這個(gè)意思之后,以后可以自己嘗試改造這個(gè)算法。
總之就是用一個(gè)64bit的數(shù)字中各個(gè)bit位來設(shè)置不同的標(biāo)志位,區(qū)分每一個(gè)id。
snowflake算法的代碼實(shí)現(xiàn)
public class IdWorker { private long workerId; // 這個(gè)就是代表了機(jī)器id private long datacenterId; // 這個(gè)就是代表了機(jī)房id private long sequence; // 這個(gè)就是代表了一毫秒內(nèi)生成的多個(gè)id的最新序號(hào) public IdWorker(long workerId, long datacenterId, long sequence) { // sanity check for workerId // 這兒不就檢查了一下,要求就是你傳遞進(jìn)來的機(jī)房id和機(jī)器id不能超過32,不能小于0 if (workerId > maxWorkerId || workerId < 0) { throw new IllegalArgumentException( String.format("worker Id can't be greater than %d or less than 0",maxWorkerId)); } if (datacenterId > maxDatacenterId || datacenterId < 0) { throw new IllegalArgumentException( String.format("datacenter Id can't be greater than %d or less than 0",maxDatacenterId)); } this.workerId = workerId; this.datacenterId = datacenterId; this.sequence = sequence; } private long twepoch = 1288834974657L; private long workerIdBits = 5L; private long datacenterIdBits = 5L; // 這個(gè)是二進(jìn)制運(yùn)算,就是5 bit最多只能有31個(gè)數(shù)字,也就是說機(jī)器id最多只能是32以內(nèi) private long maxWorkerId = -1L ^ (-1L << workerIdBits); // 這個(gè)是一個(gè)意思,就是5 bit最多只能有31個(gè)數(shù)字,機(jī)房id最多只能是32以內(nèi) private long maxDatacenterId = -1L ^ (-1L << datacenterIdBits); private long sequenceBits = 12L; private long workerIdShift = sequenceBits; private long datacenterIdShift = sequenceBits + workerIdBits; private long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits; private long sequenceMask = -1L ^ (-1L << sequenceBits); private long lastTimestamp = -1L; public long getWorkerId(){ return workerId; } public long getDatacenterId() { return datacenterId; } public long getTimestamp() { return System.currentTimeMillis(); } // 這個(gè)是核心方法,通過調(diào)用nextId()方法,讓當(dāng)前這臺(tái)機(jī)器上的snowflake算法程序生成一個(gè)全局唯一的id public synchronized long nextId() { // 這兒就是獲取當(dāng)前時(shí)間戳,單位是毫秒 long timestamp = timeGen(); if (timestamp < lastTimestamp) { System.err.printf( "clock is moving backwards. Rejecting requests until %d.", lastTimestamp); throw new RuntimeException( String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp)); } // 下面是說假設(shè)在同一個(gè)毫秒內(nèi),又發(fā)送了一個(gè)請(qǐng)求生成一個(gè)id // 這個(gè)時(shí)候就得把seqence序號(hào)給遞增1,最多就是4096 if (lastTimestamp == timestamp) { // 這個(gè)意思是說一個(gè)毫秒內(nèi)最多只能有4096個(gè)數(shù)字,無論你傳遞多少進(jìn)來, //這個(gè)位運(yùn)算保證始終就是在4096這個(gè)范圍內(nèi),避免你自己傳遞個(gè)sequence超過了4096這個(gè)范圍 sequence = (sequence + 1) & sequenceMask; if (sequence == 0) { timestamp = tilNextMillis(lastTimestamp); } } else { sequence = 0; } // 這兒記錄一下最近一次生成id的時(shí)間戳,單位是毫秒 lastTimestamp = timestamp; // 這兒就是最核心的二進(jìn)制位運(yùn)算操作,生成一個(gè)64bit的id // 先將當(dāng)前時(shí)間戳左移,放到41 bit那兒;將機(jī)房id左移放到5 bit那兒;將機(jī)器id左移放到5 bit那兒;將序號(hào)放最后12 bit // 最后拼接起來成一個(gè)64 bit的二進(jìn)制數(shù)字,轉(zhuǎn)換成10進(jìn)制就是個(gè)long型 return ((timestamp - twepoch) << timestampLeftShift) | (datacenterId << datacenterIdShift) | (workerId << workerIdShift) | sequence; } private long tilNextMillis(long lastTimestamp) { long timestamp = timeGen(); while (timestamp <= lastTimestamp) { timestamp = timeGen(); } return timestamp; } private long timeGen(){ return System.currentTimeMillis(); } //---------------測(cè)試--------------- public static void main(String[] args) { IdWorker worker = new IdWorker(1,1,1); for (int i = 0; i < 30; i++) { System.out.println(worker.nextId()); } }}
snowflake算法一個(gè)小小的改進(jìn)思路
其實(shí)在實(shí)際的開發(fā)中,這個(gè)snowflake算法可以做一點(diǎn)點(diǎn)改進(jìn)。
因?yàn)榇蠹铱梢钥紤]一下,我們?cè)谏晌ㄒ籭d的時(shí)候,一般都需要指定一個(gè)表名,比如說訂單表的唯一id。
所以上面那64個(gè)bit中,代表機(jī)房的那5個(gè)bit,可以使用業(yè)務(wù)表名稱來替代,比如用00001代表的是訂單表。
因?yàn)槠鋵?shí)很多時(shí)候,機(jī)房并沒有那么多,所以那5個(gè)bit用做機(jī)房id可能意義不是太大。
這樣就可以做到,snowflake算法系統(tǒng)的每一臺(tái)機(jī)器,對(duì)一個(gè)業(yè)務(wù)表,在某一毫秒內(nèi),可以生成一個(gè)唯一的id,一毫秒內(nèi)生成很多id,用最后12個(gè)bit來區(qū)分序號(hào)對(duì)待。