基於代理的資料庫分庫分表框架 Mycat實踐

概 述

在如今海量數據充斥的互聯網環境下，分庫分表的意義我想在此處就不用贅述了。而分庫分表目前流行的方案最起碼有兩種：

• 方案一

  ：基於

  應用層

  的分片，即應用層代碼直接完成分片邏輯

• 方案二

  ：基於

  代理層

  的分片，即在應用代碼和底層資料庫中間添加一層代理層，而分片的路由規則則由代理層來進行處理

而本文即將要實驗的 MyCAT框架就屬於第二種方案的代表作品。

註： 本文首發於 My Personal Blog：CodeSheep·程序羊，歡迎光臨 小站

環境規劃

在本文中，我拿出了三台 Linux主機投入試驗，各節點的角色分配如下表所示：

節點部署組件角色192.168.199.75MySQL 、 MyCATmaster192.168.199.74MySQLslave192.168.199.76MySQLstandby master

如果說上面這張表不足以說明實驗模型，那接下來再給一張圖好了，如下所示：

我想這樣看來的話，各個節點布了哪些組件，節點間的角色關係應該一目了然了吧

實驗環境規劃好了以後，接下來進行具體的部署與實驗過程，首先當然是 MyCAT代理的部署

MyCAT 部署

關於該部分，網上教程實在太多了，但最好還是參考官方文檔來吧，下面也簡述一下部署過程

• 下載 MyCAT並解壓安裝

這裡安裝的是 MyCAT 1.5

wget https://raw.githubusercontent.com/MyCATApache/Mycat-download/master/1.5-RELEASE/Mycat-server-1.5.1-RELEASE-20161130213509-linux.tar.gz
tar -zxvf Mycat-server-1.5.1-RELEASE-20161130213509-linux.tar.gz
mv mycat /usr/local/

• 啟動 MyCAT

./mycat start

• MyCAT連接測試

mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB

MyCAT 配置

官網上對於這一部分的描述是非常詳細的，MyCAT 配置主要涉及三個 XML配置文件：

• server.xml：MyCAT框架的系統參數/用戶參數配置文件
• schema.xml： MyCAT框架的邏輯庫表與分片的配置文件
• rule.xml ：MyCAT框架的邏輯庫表分片規則的配置文件

用如下圖形可以形象地表示出這三個 XML配置文件的配置內容和相互關係：

下面來進入具體的實驗環節 ，這也是圍繞 MyCAT提供的幾大主要功能展開的，主要涉及三個方面

• 分庫分表
• 讀寫分離
• 主備切換

實驗之前，我們先給出公共的 server.xml文件的配置，這部分後續實驗過程中並不修改，其也就是定義了系統參數和用戶參數：

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://org.opencloudb/">
<system>
<property name="defaultSqlParser">druidparser</property>
<!-- <property /> 這塊諸多的property配置在此就不配置了，參照官網按需配置 -->
</system>
<user name="test">
<property name="password">test</property>
<property name="schemas">TESTDB</property>
</user>
<user name="user">
<property name="password">user</property>
<property name="schemas">TESTDB</property>
<property name="readOnly">true</property>
</user>
</mycat:server>

分庫分表實驗

預期實驗效果：通過 MyCAT代理往一張邏輯表中插入的多條數據，在後端自動地分配在不同的物理資料庫表上

我們按照本文 **第二節【環境規劃】**中給出的實驗模型圖來給出如下的 MyCAT邏輯庫配置文件 schema.xml 和 分庫分表規則配置文件 rule.xml

• 準備配置文件

schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://org.opencloudb/" >
<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
<table name="travelrecord" dataNode="dn1,dn2" rule="sharding-by-month" />
</schema>

<dataNode name="dn1" dataHost="testhost" database="db1" />
<dataNode name="dn2" dataHost="testhost" database="db2" />

<dataHost name="testhost" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="-1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM1" url="localhost:3306" user="root" password="xxxxxx">
<readHost host="hostS1" url="192.168.199.74:3306" user="root" password="xxxxxx" />
</writeHost>
<writeHost host="hostM2" url="192.168.199.76:3306" user="root" password="xxxxxx">
</writeHost>
</dataHost>
</mycat:schema>

其中定義了實驗用到的 hostM1、hostS1 和 hostM2

rule.xml

<tableRule name="sharding-by-month">
<rule>
<columns>create_date</columns>
<algorithm>partbymonth</algorithm>
</rule>
</tableRule>
<function name="partbymonth"
class="org.opencloudb.route.function.PartitionByMonth">
<property name="dateFormat">yyyy-MM-dd</property>
<property name="sBeginDate">2018-11-01</property>
</function>

這裡配置了 sharding-by-month的分庫分表規則，即按照表中的 create_date欄位進行分割，從 2018-11-01日期開始，月份不同的數據落到不同的物理資料庫表中

• 在三個物理節點資料庫上分別創建兩個庫 db1和 db2

create database db1;
create database db2;

• 連接 MyCAT

mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB

• 通過 MyCAT來創建資料庫 travelrecord

create table travelrecord (id bigint not null primary key,city varchar(100),create_date DATE);

• 通過 MyCAT來往travelrecord表中插入兩條數據

insert into travelrecord(id,city,create_date) values(1,"NanJing","2018-11-3");
insert into travelrecord(id,city,create_date) values(2,"BeiJing","2018-12-3");

由於插入的這兩條記錄的 create_date分別是 2018-11-3和 2018-12-3，而我們配的分庫分表的規則即是根據 2018-11-01這個日期為起始來進行遞增的，按照前面我們配的分片規則，理論上這兩條記錄按照 create_date日期欄位的不同，應該分別插入到 hostM1的 db1和 db2兩個不同的資料庫中。

• 驗證一下數據分片的效果

由於 hostM1和 hostS1組成了 主-從庫 關係，因此剛插入的兩條數據也應該相應自動同步到 hostS1的 db1和 db2兩個資料庫中，不妨也來驗證一下：

讀寫分離實驗

**預期實驗效果：**開啟了 MyCAT的讀寫分離機制後，讀寫數據操作各行其道，互不干擾

此節實驗用到的配置文件 schema.xml 和 rule.xml基本和上面的【分庫分表】實驗沒什麼不同，只是我們需要關注一下 schema.xml配置文件中 <dataHost />標籤里的 balance欄位，它是與讀寫分離息息相關的配置：

因此我們就需要弄清楚 <dataHost /> 標籤中 balance參數的含義：

• balance="0"：不開啟讀寫分離機制，即讀請求僅分發到 writeHost上
• balance="1"：讀請求隨機分發到當前 writeHost對應的 readHost和 standby writeHost上
• balance="2"：讀請求隨機分發到當前 dataHost內所有的 writeHost / readHost上
• balance="3"：讀請求隨機分發到當前 writeHost對應的 readHost上

我們驗證一下 balance="1"的情況，即開啟讀寫分離機制，且讀請求隨機分發到當前 writeHost對應的 readHost和 standby writeHost上，而對於本文來講，也即：hostS1 和 hostM2 上

我們來做兩次數據表的 SELECT讀操作：

mysql> select * from travelrecord limit 6;
+----+----------+-------------+
| id | city | create_date |
+----+----------+-------------+
| 3 | TianJing | 2018-11-04 |
| 5 | ShenYang | 2018-11-05 |
| 4 | Wuhan | 2018-12-04 |
| 6 | Harbin | 2018-12-05 |
+----+----------+-------------+
4 rows in set (0.08 sec)
mysql> select * from travelrecord limit 6;
+----+---------+-------------+
| id | city | create_date |
+----+---------+-------------+
| 2 | BeiJing | 2018-12-03 |
| 8 | WuXi | 2018-12-06 |
| 1 | NanJing | 2018-11-03 |
| 7 | SuZhou | 2018-11-06 |
+----+---------+-------------+
4 rows in set (0.01 sec)

然後我們取出 mycat.log日誌查看一下具體詳情，我們發現第一次 select讀操作分發到了 hostM2上：

而第二次 select讀操作分發到了 hostS1上：

主備切換實驗

**預期實驗效果：**開啟 MyCAT的主備機制後，當主庫宕機時，自動切換到備用機進行操作

關於主備切換，則需要弄清楚 <dataHost /> 標籤中 switchType參數的含義：

• switchType="-1"：不自動切換主備資料庫
• switchType="1"：自動切換主備資料庫
• switchType="2"：基於MySQL主從複製的狀態來決定是否切換，需修改heartbeat語句：show slave status
• switchType="3"：基於Galera（集群多節點複製）的切換機制，需修改heartbeat語句：show status like "wsrep%"

此處驗證一下 Mycat的主備自動切換效果。為此首先我們將 switchType="-1" 設置為 switchType="1"，並重啟 MyCat服務：

<dataHost name="testhost" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">

在本實驗環境中，在 hostM1 和 hostM2均正常時，默認寫數據時是寫到 hostM1的

• 接下來手動停止

  hostM1

  上的 MySQL資料庫來模擬

  hostM1

  宕機：

systemctl stop mysqld.service

接下來再通過 MyCat插入如下兩條數據：

insert into travelrecord(id,city,create_date) values(3,"TianJing","2018-11-4");
insert into travelrecord(id,city,create_date) values(4,"Wuhan","2018-12-4");

效果如下：

• 此時，我們恢復

  hostM1

  ，但接下來的數據寫入依然進入

  hostM2

insert into travelrecord(id,city,create_date) values(5,"ShenYang","2018-11-5");
insert into travelrecord(id,city,create_date) values(6,"Harbin","2018-12-5");

• 接下來手動讓

  hostM2

  宕機，看

  hostM1

  是否能升級為主寫節點

再插入兩條數據：

insert into travelrecord(id,city,create_date) values(7,"SuZhou","2018-11-6");
insert into travelrecord(id,city,create_date) values(8,"WuXi","2018-12-6");

很明顯，答案是肯定的

後 記

由於能力有限，若有錯誤或者不當之處，還請大家批評指正，一起學習交流！

作者： CodeSheep

原文：https://my.oschina.net/hansonwang99/blog/2990744

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！