[[378586]]

本文轉(zhuǎn)載自微信公眾號「石杉的架構(gòu)筆記」，作者崔皓 。轉(zhuǎn)載本文請聯(lián)系石杉的架構(gòu)筆記公眾號。  

開篇

近今年里隨著經(jīng)濟的飛速發(fā)展，企業(yè)的業(yè)務(wù)也在不斷膨脹，作為業(yè)務(wù)支撐的信息系統(tǒng)特別是數(shù)據(jù)庫系統(tǒng)也面臨前所未有的壓力，行業(yè)應(yīng)用所產(chǎn)生的數(shù)據(jù)呈爆炸式地增長。數(shù)據(jù)從原來的GB級別迅速增常到TB甚至是PB的規(guī)模，已經(jīng)遠(yuǎn)遠(yuǎn)超過傳統(tǒng)計算技術(shù)的要求，原來集中式的存儲方式已經(jīng)無法滿足數(shù)據(jù)存儲的要求，此時分布式數(shù)據(jù)存儲由于良好的透明性、數(shù)據(jù)冗余性、擴展性、自治性逐漸進(jìn)入人們的視野。為了更好的使用和管理分布式數(shù)據(jù)庫，業(yè)內(nèi)推出了不少優(yōu)秀的分布式數(shù)據(jù)庫中間件，Mycat就是其中之一，今天就來看看Mycat的架構(gòu)和實現(xiàn)原理。本篇文章會學(xué)到以下內(nèi)容：

分布式數(shù)據(jù)存儲與Mycat

• Mycat架構(gòu)介紹
• Mycat核心概念及配置
• 分布式數(shù)據(jù)存儲與Mycat

眾所周知，在分布式數(shù)據(jù)庫的使用場景下，數(shù)據(jù)的存儲不像集中式數(shù)據(jù)庫那樣都存放在一臺服務(wù)器的一個數(shù)據(jù)庫中，而是會分布在不同的服務(wù)器的不同數(shù)據(jù)庫中。而應(yīng)用程序的會根據(jù)不同的數(shù)據(jù)庫進(jìn)行訪問，如圖1 所示，應(yīng)用程序需要根據(jù)訪問的數(shù)據(jù)庫不同：數(shù)據(jù)庫1、數(shù)據(jù)庫2、數(shù)據(jù)庫3使用不同的數(shù)據(jù)庫連接，如果說某張數(shù)據(jù)表在三個數(shù)據(jù)庫中都存在，也需要使用特定的方式對其進(jìn)行訪問，可以說在應(yīng)用程序這端訪問起來是比較麻煩的。

圖1

分布式的數(shù)據(jù)庫隊增加了應(yīng)用程序訪問的復(fù)雜度

正因為應(yīng)用程序在訪問分布式數(shù)據(jù)庫的時候會遇到類似的問題，所以引入了數(shù)據(jù)庫中間件來簡化應(yīng)用程序需要面對的問題。如圖2所示，在應(yīng)用程序和數(shù)據(jù)庫中間引入Mycat數(shù)據(jù)庫中間件以后，讓應(yīng)用程序的編程更加方便，它不用在面對分布式的數(shù)據(jù)庫，而只用針對Mycat中間件進(jìn)行數(shù)據(jù)庫編程就能完成對應(yīng)的數(shù)據(jù)操作，并且適用于以下幾種場景：

• 讀寫分離：可以通過Mycat針對數(shù)據(jù)庫1進(jìn)行寫操作，而對數(shù)據(jù)庫2和3進(jìn)行讀操作。如果在寫服務(wù)器出現(xiàn)宕機的情況，Mycat可以將寫的請求暫時轉(zhuǎn)移到其他的數(shù)據(jù)庫服務(wù)器上，保證數(shù)據(jù)庫的可用性。
• 垂直分表分庫：將訂單表存放到數(shù)據(jù)庫1和2中，將商品表存放到數(shù)據(jù)庫3中。也就是把不同的表放在不同的庫中。
• 水平分表分庫：將訂單表的不同記錄通過分片算法(例如：hash取模)分表存放到數(shù)據(jù)庫1和2中。也就是將相同表的不同數(shù)據(jù)放到不同庫的表中。
• 訪問不同的數(shù)據(jù)庫：數(shù)據(jù)庫1和2對應(yīng)訪問的就是MySQL數(shù)據(jù)庫，而數(shù)據(jù)庫3訪問的是Oracle數(shù)據(jù)庫。
• 控制應(yīng)用程序到數(shù)據(jù)庫的連接數(shù)量：每一個數(shù)據(jù)庫連接都會占用數(shù)據(jù)庫服務(wù)器的資源，每個數(shù)據(jù)庫服務(wù)器能夠連接的請求也是有限的，這里Mycat可以控制前端應(yīng)用請求數(shù)據(jù)庫服務(wù)器的連接數(shù)量，保證數(shù)據(jù)庫服務(wù)器的高可用。

換句話說，當(dāng)應(yīng)用程序發(fā)起一條SQL語句的時候，不用關(guān)心數(shù)據(jù)庫存放在哪個服務(wù)器，以及數(shù)據(jù)庫表是否做了分表分庫，只用將要查的數(shù)據(jù)告訴Mycat就可以了，Mycat在考慮上述場景之后將結(jié)果返回給應(yīng)用程序，讓開發(fā)者更加方便快捷地操作數(shù)據(jù)。

圖2

引入Mycat協(xié)助應(yīng)用程序?qū)崿F(xiàn)讀寫分離、分表分庫操作

上面描述的這些數(shù)據(jù)操作如果在沒有Mycat中間件的情況需要在應(yīng)用程序端維護(hù)大量的代碼，而有了Mycat之后應(yīng)用程序只需要針對Mycat進(jìn)行配置，并且對其變成就能完成這些操作。

Mycat是一個開源的面相企業(yè)應(yīng)用開發(fā)的數(shù)據(jù)庫中間件，支持大數(shù)據(jù)庫集群、事物、ACID。適用于高可用性、數(shù)據(jù)庫讀寫分離、數(shù)據(jù)分級存儲保障、大型數(shù)據(jù)庫的分表分庫以及并行計算、數(shù)據(jù)庫路由以及整合諸如MySQL、Oracle、SQL Server 等數(shù)據(jù)庫。由于Mycat開源中間件有一個發(fā)展的過程，每個版本的迭代都會遇到一些問題，目前已經(jīng)更新到了Mycat 2.0是一個相對穩(wěn)定的版本。

如果有條件的同學(xué)盡量使用最新版本，或者使用Mycat 1.6.5 以上的版本，其修正了一些常用SQL函數(shù)的問題。不過Mycat 也不是萬能的依舊會存在一些問題，我們這里把它的優(yōu)缺點列出如下表格方便大家參考。

Mycat架構(gòu)介紹

上面講到了Mycat在分布式數(shù)據(jù)庫中起到的作用，讓應(yīng)用程序的開發(fā)專注于業(yè)務(wù)本身，把分表分庫、讀寫分離、訪問不同數(shù)據(jù)以及控制數(shù)據(jù)庫連接的問題都交給Mycat來處理。那么Mycat是通過怎樣的架構(gòu)實現(xiàn)上述功能的呢，下面就和我一起來看看Mycat的組件和架構(gòu)。

從邏輯上劃分以下六個模塊。

1. 通信協(xié)議模塊：主要負(fù)責(zé)底層通信功能，例如收發(fā)數(shù)據(jù)、線程回調(diào)等工作。采用Reactor、Proctor模式，在網(wǎng)絡(luò)IO架構(gòu)中實現(xiàn)了NIO和AIO的方式。
2. SQL執(zhí)行模塊：顧名思義，其接受到要執(zhí)行的SQL 以后通過數(shù)據(jù)庫連接模塊連接到數(shù)據(jù)庫，通過連接池獲取目標(biāo)數(shù)據(jù)庫，再經(jīng)由SQL路由解析把SQL語句分發(fā)到數(shù)據(jù)庫節(jié)點中進(jìn)行執(zhí)行。
3. 路由解析模塊：當(dāng)Mycat實現(xiàn)分表分庫功能的時候，路由就顯得非常重要了。該模塊當(dāng)收到應(yīng)用程序請求的查詢語句以后，會連接后端的數(shù)據(jù)，通過配置文件的規(guī)則設(shè)置，將請求路由到對應(yīng)的數(shù)據(jù)庫的表中進(jìn)行查詢。同時該模塊還肩負(fù)SQL解析的職能，需要對SQL語句的EXPLAIN、SET、SHOW、SELECT等命令進(jìn)行解析，從而獲取表名、條件、字段列表等信息。同時還可以對SQL語句進(jìn)行改寫。
4. 數(shù)據(jù)庫連接模塊：主要負(fù)責(zé)創(chuàng)建、管理、維護(hù)后端的數(shù)據(jù)庫以及對應(yīng)的數(shù)據(jù)庫連接池。并且通過連接池機制對數(shù)據(jù)庫連接的生命周期進(jìn)行管理。
5. 結(jié)果集處理模塊：當(dāng)查詢結(jié)果返回之前需要將其進(jìn)行匯總、排序。特別是針對數(shù)據(jù)分片的情況，返回的數(shù)據(jù)來自不同的數(shù)據(jù)庫服務(wù)器和表，需要將這些數(shù)據(jù)進(jìn)行必要的匯總才能返回給應(yīng)用程序。
6. 監(jiān)控管理模塊：主要對Mycat中的連接、內(nèi)存等資源進(jìn)行監(jiān)控和管理。監(jiān)控參數(shù)包括：連接數(shù)、緩存命中數(shù)等。

上面六個模塊看上去比較抽象，如果理清邏輯順序記憶起來還是比較方便的。通訊協(xié)議模塊接受到應(yīng)用程序的SQL請求，會將其交給SQL執(zhí)行模塊，執(zhí)行模塊解析SQL之后需要知道訪問哪些節(jié)點上的數(shù)據(jù)庫。于是，它請求路由解析模塊，再了解需要訪問哪些數(shù)據(jù)庫以后，通過數(shù)據(jù)庫連接模塊建立數(shù)據(jù)庫連接，并且分發(fā)SQL到對應(yīng)數(shù)據(jù)庫上執(zhí)行，將返回的數(shù)據(jù)通過結(jié)果集處理模塊，匯總、排序，最后返回給應(yīng)用程序。監(jiān)控管理模塊就好像一個大管家監(jiān)視Mycat中的連接、內(nèi)存等資源使用情況。

如果將上面的組件通過Mycat的處理流程展示的話：

圖3

Mycat 數(shù)據(jù)處理流程

如圖3所示，整個圖由上、中、下3步部分組成。

上面的部分代表客戶端，其承載多個應(yīng)用程序會向處在中間的Mycat服務(wù)發(fā)起SQL請求。中間Mycat服務(wù)，包含了上述的六大組件，負(fù)責(zé)對應(yīng)用程序請求進(jìn)行處理和響應(yīng)。下面的存儲層可以對接不同的數(shù)據(jù)源，為Mycat提供存儲服務(wù)。整個請求處理流程分為請求和響應(yīng)兩個部分，分別由“從上往下”和“從下往上”的兩個箭頭代表，這里我們將Mycat的處理分為六個步驟給大家介紹如下：

1. 在客戶端的應(yīng)用程序向Mycat服務(wù)發(fā)起SQL請求的時候，通信協(xié)議模塊會通過NIO/AIO的方式將請求提交給路由解析模塊。

2. 路由解析模塊包含SQL解析、優(yōu)化和路由的功能。主要功能是將SQL進(jìn)行解析成要執(zhí)行的命令，并且對其進(jìn)行優(yōu)化，之后通過路由規(guī)則找到要執(zhí)行的數(shù)據(jù)庫服務(wù)器。

3. 之后請求會交給SQL執(zhí)行模塊，根據(jù)路由解析的結(jié)果分發(fā)到數(shù)據(jù)庫服務(wù)器上執(zhí)行。

4. 在執(zhí)行之前需要通過數(shù)據(jù)庫連接模塊獲取數(shù)據(jù)庫對應(yīng)的連接，同時需要對數(shù)據(jù)庫連接池進(jìn)行管理。

5. 同樣，在分發(fā)執(zhí)行SQL的時候也需要通信協(xié)議模塊進(jìn)行信息的傳遞。

6. 當(dāng)執(zhí)行完SQL請求以后，數(shù)據(jù)庫會將數(shù)據(jù)通過結(jié)果處理模塊進(jìn)行聚合、排序、匯總的操作，最后將數(shù)據(jù)返回給客戶端的應(yīng)用程序，完成整個請求過程。

Mycat核心概念及配置

在描述完Mycat 的架構(gòu)和工作流程以后，相信大家對Mycat的執(zhí)行機制和結(jié)構(gòu)都有一定的了解。站在架構(gòu)的高度對下面的核心概念的理解會有一些幫助，如果說上面講的是Mycat邏輯架構(gòu)，那么下面介紹的核心概念及配置就涉及到具體操作的范疇。

畢竟Mycat需要提供配置工具完成開發(fā)者的功能，然后再通過架構(gòu)來執(zhí)行這些規(guī)則，最后實現(xiàn)對分布式數(shù)據(jù)庫開發(fā)的透明性。接下來要介紹的就是在使用Mycat過程中遇到的核心概念，以及這些概念對應(yīng)的配置方式和對應(yīng)的配置文件。方便我們落地Mycat中間件的應(yīng)用。

圖4

Mycat核心概念圖

如圖4所示，改圖描述了Mycat 核心概念之間的關(guān)系，并且描述了這些核心概念在哪些配置文件中進(jìn)行配置。

我們從上往下跟著序號來看這些概念：

1. Mycat中的系統(tǒng)信息和用戶信息都在Server.xml文件中進(jìn)行配置，其中對于user(用戶)的配置包含了，用戶基本信息和所能夠訪問schema(邏輯庫)的權(quán)限。
2. Schema.xml包含了Mycat對于數(shù)據(jù)的定義，Schema(邏輯庫)會包含一個或者多個table(邏輯表)。
3. Table(邏輯表)會通過包含的datanode(數(shù)據(jù)節(jié)點)來描述數(shù)據(jù)存放的服務(wù)器和物理數(shù)據(jù)庫。
4. 在datanode中包含了datahost和database。其中datahost表示數(shù)據(jù)庫所在的服務(wù)器集群，而database是對物理數(shù)據(jù)庫的描述。
5. 針對每個table的分片定義規(guī)則，在rule.xml文件中進(jìn)行定義，rule在定義規(guī)則的時候會調(diào)用function對規(guī)則算法進(jìn)行描述。

上面我們將Mycat核心概念以及它們對應(yīng)的配置文件給大家做了整體介紹，接下來將對上面的概念做深入的描述。

1.用戶(User)

Mycat中的用戶是一個邏輯上的用戶，他定義了用來連接Mycat中間件的用戶信息，并且將這些信息存放在server.xml文件中。如圖5所示，這是server.xml 文件中對user 信息的定義。

圖5

用戶的定義Server.xml文件

可以看到定義了用戶名為“test”，密碼“password”是123456.在schemas 標(biāo)簽里面定義了“test_db” 這是該用戶可以訪問的邏輯數(shù)據(jù)庫。在privileges標(biāo)簽中定義了true說明還會用戶對邏輯庫的具體使用權(quán)限。這里定義對“test_db”的dml到操作用的是四位數(shù)字表示，分別是“0110”。

實際上每一位都表示一種操作，四位對應(yīng)的操作分別是“insert、update、select、delete”，如果對應(yīng)的位數(shù)上是“1”表示支持該操作，如果是“0”表示不支持對應(yīng)的操作。

“0110”就表示，不支持insert操作、支持update操作、支持select操作，不支持delete操作。以此類推在schema標(biāo)簽下面還有一個table標(biāo)簽，可以設(shè)置對邏輯表的權(quán)限，例如：table01的dml是0000，也就是不能進(jìn)行四種操作的意思。

2.邏輯庫(schema)

開發(fā)人員在進(jìn)行數(shù)據(jù)庫開發(fā)的時候都需要對某個具體的數(shù)據(jù)庫進(jìn)行操作，例如：查找、更新、刪除等等。但是到了分布式數(shù)據(jù)庫的時代，數(shù)據(jù)庫以分布式的方式部署在不同的服務(wù)器節(jié)點中，此時再去訪問這些數(shù)據(jù)庫難度就增加了。有Mycat介入以后，引入了邏輯庫的概念，邏輯庫是一個概念上的定義，其背后對應(yīng)的是一個或者多個實體數(shù)據(jù)庫，它的定義是在schema.xml文件中進(jìn)行的。

如圖6所示：

圖6

邏輯庫在schema.xml文件中的定義

定義了名為“test_db”的邏輯數(shù)據(jù)庫。

sqlMaxLimit 用來限制每次查詢數(shù)據(jù)能否返回的最大行數(shù)，這里設(shè)置的是“1000”，當(dāng)為“-1”的時候就沒有限制。

checkSQLschema 是一個是否通過庫名和表名方式訪問數(shù)據(jù)庫的開關(guān)，默認(rèn)情況下是“fasle”。

3.邏輯表(table)

既然有邏輯庫就一定有邏輯表，通常意義上邏輯表會和物理表進(jìn)行對應(yīng)，有可能是一個邏輯表對應(yīng)多個分布在不同數(shù)據(jù)節(jié)點的物理表;也有可能對應(yīng)一張沒有進(jìn)行分片的物理表。同樣這些配置都是在schema.xml配置文件中完成的。

如圖7 所示：

圖7

在邏輯庫中定義邏輯表

• 在上面定義的邏輯庫“test_db”中定義了一個邏輯表，表的名字叫做“order” ，邏輯表的名字需要和物理表的名字保持一致。因為在Mycat不會再定義邏輯表與物理表之間的關(guān)系了，因此使用這種隱性的方式讓它們進(jìn)行對應(yīng)。
• “primaryKey”標(biāo)簽是定義邏輯表的主鍵，邏輯表的主鍵和物理表的主鍵也是保持一致的。設(shè)置主鍵的目的是，如果在數(shù)據(jù)分片時沒有選擇主鍵，Mycat會通過這個定義主鍵的定義對物理表進(jìn)行查詢，從而提高查詢的效率。
• 在“dataNode”標(biāo)簽中 定義了物理數(shù)據(jù)庫的名字。如果一張物理表分片存儲在多個物理數(shù)據(jù)庫，那么每個物理數(shù)據(jù)庫需要通過逗號進(jìn)行分割。這里物理節(jié)點的順序也就是索引的順序。如圖中顯示的“orderdb01”的索引就是0，“orderdb02”的索引就是1。
• 最后在Rule標(biāo)簽中定義的是水平分片的規(guī)則，具體的定義方式在后面進(jìn)行詳細(xì)講解。

4.數(shù)據(jù)節(jié)點(DataNode)

定義邏輯存儲對應(yīng)的物理數(shù)據(jù)庫，這里包含兩個重要的信息：

• 保存數(shù)據(jù)的數(shù)據(jù)庫主機(集群)的名字
• 物理數(shù)據(jù)庫的名稱

同樣在schema.xml配置文件的dataNode標(biāo)簽下配置。

如圖8 所示：

圖8

數(shù)據(jù)節(jié)點定義

“dataHost”標(biāo)簽描述了物理數(shù)據(jù)庫的數(shù)據(jù)庫服務(wù)器(服務(wù)器節(jié)點/集群)。

“database”標(biāo)簽描述了客戶端物理數(shù)據(jù)庫的名字，在服務(wù)器節(jié)點上必須存在這個數(shù)據(jù)庫。

從兩個數(shù)據(jù)節(jié)點(“orderdb01”，“orderdb02”)都定義到一個“mysql01”的datahost可以看出，它們的數(shù)據(jù)庫都存放在同一個數(shù)據(jù)庫集群中。

5.數(shù)據(jù)主機集群(DataHost)

數(shù)據(jù)主機集群主要是描述存放數(shù)據(jù)庫的主機信息，通常來說是描述一個數(shù)據(jù)庫服務(wù)器的集群。

如圖9 所示：

圖9

數(shù)據(jù)主機集群

dataHost中定義了“mysql01”的數(shù)據(jù)庫主機集群，其中包括“maxCon”(最大連接數(shù))，“minCon”(最小連接數(shù))，“balance”(讀寫分離開關(guān))，“dbType”(數(shù)據(jù)庫類型)等標(biāo)簽。

重要的是，在這個集群中定義了三臺數(shù)據(jù)庫的服務(wù)器。”192.168.0.1”這臺是寫服務(wù)器，與之對應(yīng)有一臺讀服務(wù)器，它是“192.168.0.2”。另外，還有一臺寫服務(wù)器是”192.168.0.3”。

6.分片規(guī)則(TableRule)&函數(shù)(Function)

在schema.xml文件中基本都是數(shù)據(jù)方面的定義，其中在邏輯表中有針對rule的定義，這種情況是用來定義分片規(guī)則的，一般而言分片規(guī)則的定義在rule.xml文件中完成。

如圖10所示：

圖10

tableRule和function 定義

• tableRule中定義了分片規(guī)則為“mod_3_order_id”,這個名字是給邏輯表中的rule標(biāo)簽使用的。從名字的含義可以看出，通過對3取模的方式對order_id這個字段進(jìn)行計算，從而實現(xiàn)分片操作。
• 在columns標(biāo)簽中定義了order_id作為取模的字段。
• 在algorithm標(biāo)簽中定義了具體的分片算法。這里的算法名稱可以從下面的function節(jié)點中找到對應(yīng)的定義。
• Function中的name 對應(yīng)上面tablerule中的算法名稱，同樣是”mod_3”,也就是通過對3進(jìn)行取模。
• 在class 標(biāo)簽中定義了算法實現(xiàn)的Class 類的namespace和對應(yīng)的類名。
• Count 標(biāo)簽定義的3就是具體取模的數(shù)字，這里是對3進(jìn)行取模。

根據(jù)上面給出的配置規(guī)則的定義，可以得到圖11所示分片規(guī)則。

圖11

分片規(guī)則定義路由選擇

1. 當(dāng)應(yīng)用程序發(fā)起一個對order表的SQL查詢，查詢order_id=1的數(shù)據(jù)。
2. 當(dāng)請求提交給Mycat以后，針對簡單取模的方式把order_id對3進(jìn)行取模得到1。
3. 由于order表被分片存放在DB0、DB1、DB2三個庫中，通過取模的值路由到DB1的order表中并且執(zhí)行SQL語句，完成這次分布式的查詢。

總結(jié)

本文從分布式數(shù)據(jù)存儲入手，描述了Mycat在分布式數(shù)據(jù)庫中起到了怎樣的作用。然后介紹了Mycat的六大模塊：通信協(xié)議、SQL執(zhí)行、路由解析、數(shù)據(jù)庫連接、結(jié)果集處理、監(jiān)控管理，是如何工作的。

最后通過介紹Mycat七大核心概念：用戶、邏輯庫、邏輯表、數(shù)據(jù)節(jié)點、數(shù)據(jù)主機集群、分片規(guī)則、分片函數(shù)，以及對應(yīng)的三個配置文件：Server.xml、Schema.xml 和Rule.xml文件是如何幫助應(yīng)用程序使用好Mycat中間件的。