[[376033]]

作者個(gè)人研發(fā)的在高并發(fā)場(chǎng)景下，提供的簡(jiǎn)單、穩(wěn)定、可擴(kuò)展的延遲消息隊(duì)列框架，具有精準(zhǔn)的定時(shí)任務(wù)和延遲隊(duì)列處理功能。自開(kāi)源半年多以來(lái)，已成功為十幾家中小型企業(yè)提供了精準(zhǔn)定時(shí)調(diào)度方案，經(jīng)受住了生產(chǎn)環(huán)境的考驗(yàn)。為使更多童鞋受益，現(xiàn)給出開(kāi)源框架地址：https://github.com/sunshinelyz/mykit-delay

寫(xiě)在前面

MySQL是互聯(lián)網(wǎng)行業(yè)使用的最多的關(guān)系型數(shù)據(jù)庫(kù)之一，而且MySQL又是開(kāi)源的，對(duì)于MySQL的深入研究，能夠加深我們對(duì)于數(shù)據(jù)庫(kù)原理的理解。自從開(kāi)源了mykit-data之后，不少小伙伴試用后，反饋mykit-data無(wú)法正確的解析MySQL8的binlog。于是我測(cè)試了下，mykit-data在解析MySQL5.x的binlog時(shí)，沒(méi)有啥問(wèn)題，能夠正確的解析出結(jié)果數(shù)據(jù)。然而，在解析MySQL8.x的binlog時(shí)，總是與binlog日志位數(shù)相差12位而導(dǎo)致解析失敗。

文章已收錄到：

https://github.com/sunshinelyz/technology-binghe

https://gitee.com/binghe001/technology-binghe

問(wèn)題修復(fù)

今天太晚了，我還在研究MySQL 8.0.20的源碼，問(wèn)題的修復(fù)過(guò)程后續(xù)再寫(xiě)一篇詳細(xì)的文章來(lái)與小伙伴們分享下。這里，我就直接說(shuō)我是如何解決這個(gè)問(wèn)題的。

MySQL5.x binlog的解析結(jié)果與MySQL8.x binlog的解析結(jié)果總是存在位數(shù)偏差，框架原本的代碼直接解析MySQL 5.x是沒(méi)啥問(wèn)題的，在解析MySQL 8.x的時(shí)候出現(xiàn)位數(shù)錯(cuò)位的問(wèn)題。

期間，我?guī)缀醴喠薓ySQL的所有官方文檔，把mykit-data中關(guān)于解析binlog日志的功能重新寫(xiě)了一遍，解析MySQL5.x沒(méi)問(wèn)題，解析MySQL8.x還是錯(cuò)位。

到底哪里出了問(wèn)題呢?就在對(duì)于問(wèn)題的解決一籌莫展的時(shí)候，突然，想到一個(gè)思路：解決MySQL8.x binlog的時(shí)候不是總錯(cuò)位嗎?那我就把多余位數(shù)的binlog數(shù)據(jù)讀取出來(lái)，直接忽略掉，使后續(xù)binlog的解析操作對(duì)齊不就行了嗎?

趕緊嘗試一下，于是我在mykit-data框架的源碼中，添加了如下代碼。

上面代碼是對(duì)解析MySQL binlog位數(shù)的校驗(yàn)和讀取的封裝，當(dāng)讀取的binlog位數(shù)未達(dá)到讀取的限制位數(shù)時(shí)，一直讀取binlog的數(shù)據(jù)，直到讀取的binlog位數(shù)達(dá)到讀取的限制位數(shù)位置。具體內(nèi)部的邏輯，小伙伴們可以閱讀mykit-data的源碼。

加上這個(gè)邏輯后，進(jìn)行測(cè)試驗(yàn)證，解析MySQL 8.x數(shù)據(jù)庫(kù)的binlog竟然成功了!!困擾我?guī)滋斓膯?wèn)題就這么在不經(jīng)意間解決了!!

從解決這個(gè)問(wèn)題的結(jié)果來(lái)看，MySQL8.x的binlog在本質(zhì)上比MySQL5.x的binlog位數(shù)要長(zhǎng)，中間會(huì)拼接用來(lái)分隔不同事件位的標(biāo)識(shí)，我們?cè)诮馕鯩ySQL8.x的binlog日志時(shí)，可直接忽略掉這些分隔不同事件位的標(biāo)識(shí)，目的就是讓binlog的解析位對(duì)齊，從而能夠正確的解析出下一個(gè)事件。而這樣處理，也不會(huì)影響解析結(jié)果。

很多時(shí)候就是這樣，當(dāng)你苦于解決某個(gè)問(wèn)題，遲遲找不到解決方案而一籌莫展時(shí)，在某個(gè)不經(jīng)意的瞬間，就會(huì)無(wú)意中解決這個(gè)棘手的問(wèn)題，但前提是你需要深刻理解它的原理并嘗試各種方式和方法來(lái)解決它!

關(guān)于mykit-data

mykit-data是一款完全開(kāi)源的數(shù)據(jù)異構(gòu)中間件，支持插件化、可視化的數(shù)據(jù)異構(gòu)框架，支持MySQL到MySQL、MySQL到Oracle、Oracle到MySQL、Oracle到Oracle的全量、實(shí)時(shí)/定時(shí)增量數(shù)據(jù)同步。完全的插件化、可視化操作。通過(guò)日志最大限度的避免同步過(guò)程中的數(shù)據(jù)丟失。支持失敗重試，人工干預(yù)，支持查看同步的數(shù)據(jù)和詳細(xì)的日志信息。

目前支持MySQL5.x、MySQL8.x，Oracle 11g及以上版本。后續(xù)會(huì)以插件的形式支持更多的異構(gòu)數(shù)據(jù)源。例如，后續(xù)會(huì)增加：SQL Server、Postgre SQL、Redis、ES、Hadoop、HBase、MongoDB、TiDB等數(shù)據(jù)源。

mykit-data的開(kāi)源地址如下：

GitHub：https://github.com/sunshinelyz/mykit-data

Gitee：https://gitee.com/binghe001/mykit-data

本文轉(zhuǎn)載自微信公眾號(hào)「 冰河技術(shù)」，可以通過(guò)以下二維碼關(guān)注。轉(zhuǎn)載本文請(qǐng)聯(lián)系 冰河技術(shù)公眾號(hào)。