隨著計算機的日益普及，各種應用每天產(chǎn)生的數(shù)據(jù)量呈指數(shù)級增長。如何存儲這些數(shù)據(jù)，有效處理分析這些數(shù)據(jù),并從中提取有價值的信息,是當下迫切需要解決的問題。在過去的十年里，NoSQL在軟件工程師陣營里越來越受歡迎，其中最重要的實現(xiàn)是MapReduce ，Bigtable,Cassandra，MongoDB,等產(chǎn)品。 它主要用于解決SQL的可擴展性問題。

然而今天SQL開始回歸。幾乎所有的云計算服務提供商都在提供備受青睞的關系型數(shù)據(jù)庫管理服務：例如Amazon RDS，Google Cloud SQL，Azure 的PostgreSQL數(shù)據(jù)庫(Azure今年推出)。在亞馬遜看來，其PostgreSQL和MySQL兼容的數(shù)據(jù)庫產(chǎn)品Aurora一直是AWS歷史上增長最快的服務。Hadoop和Spark之上的SQL接口繼續(xù)迅猛發(fā)展。就在上個月，Kafka推出了SQL支持。

在這篇文章中，我們將研究SQL備受青睞的原因以及這對未來的數(shù)據(jù)社區(qū)工程和分析意味著什么。

第1部分：新希望的崛起

想要了解SQL為什么回歸，讓我們先了解他最初的設計初衷。

故事始于20世紀70年代初的IBM研究院，其中關系型數(shù)據(jù)庫誕生了。那時候，查詢語言依賴于復雜的數(shù)學邏輯和符號。Donald Chamberlin和Raymond Boyce兩位博士對關系型數(shù)據(jù)模型造詣頗深，看到查詢語言將成為其主要瓶頸。他們開始設計一種新的查詢語言(以他們自己的話來說)：“ 用戶使用更容易，不需要再參加數(shù)學或計算機程序設計方面的正規(guī)培訓 ”。

回想在互聯(lián)網(wǎng)之前，在PC出現(xiàn)以前，當程序設計語言C***被引入世界時，兩名年輕的計算機科學家意識到，“計算機行業(yè)的成功很大程度上依賴于培養(yǎng)一種除了訓練有素的計算機專家以外的用戶。“他們渴望一種與英文一樣容易閱讀的查詢語言，包括數(shù)據(jù)庫管理和操作。

結果是SQL在1974年***被引入世界，成了關系型數(shù)據(jù)庫的最主要語言。在接下來的幾十年里，SQL被證明也是很受歡迎的。作為關系型數(shù)據(jù)庫，如System R，Ingres，DB2，Oracle，SQL Server，PostgreSQL，MySQL(等等)在軟件行業(yè)里的發(fā)展壯大，SQL也成為了與數(shù)據(jù)庫進行交互的***語言，成為了一個日益擁擠、競爭激烈的生態(tài)系統(tǒng)的通用語言。。

(不幸的是，Raymond Boyce從來沒有機會見證SQL的成功，他只做了一個早期的SQL演講，1個月后他便死于腦動脈瘤，當時他只有26歲，留下了一個妻子和一個年輕的女兒。)

有一段時間，似乎SQL已經(jīng)成功地履行了它的使命。接著互聯(lián)網(wǎng)出現(xiàn)了。

第2部分：NoSQL反擊

雖然Chamberlin和Boyce正在開發(fā)SQL，但他們沒有意識到的是，加利福尼亞州的 另一批工程師正在開展另一個新興項目，該項目逐漸成熟后，明顯威脅到SQL的存在。該項目就是 ARPANET，誕生于1969年10月29日。

但是此前SQL發(fā)展一直很好，直到1989年，另一位工程師的出現(xiàn)并發(fā)明了萬維網(wǎng)。

互聯(lián)網(wǎng)和Web的蓬勃發(fā)展正在改變著我們的世界，但是對于數(shù)據(jù)社區(qū)來說，也是很讓人頭痛的：數(shù)據(jù)以大的量級和更快的速度爆炸式增長。

隨著互聯(lián)網(wǎng)的不斷發(fā)展和壯大，軟件社區(qū)發(fā)現(xiàn)當時的關系數(shù)據(jù)庫無法應對新的負載壓力，就好像一百萬個數(shù)據(jù)庫突然過載讓人抓狂一般。

然后兩家新的互聯(lián)網(wǎng)巨頭取得突破，并開發(fā)了自己的非關系型分布式系統(tǒng)來應對這種新的數(shù)據(jù)沖擊：Google的MapReduce(2004年發(fā)布)和Bigtable(2006年發(fā)布)以及亞馬遜的Dynamo(2007年發(fā)布)。這些開創(chuàng)性論文導致出現(xiàn)了更多的非關系型數(shù)據(jù)庫，包括Hadoop(基于MapReduce論文，2006)，Cassandra(Bigtable和Dynamo的深度解析，2008 )和MongoDB(2009))。因為這些都是從零開始大量編寫的新系統(tǒng)，避開了SQL，導致了NoSQL運動的興起。

開發(fā)者社區(qū)的軟件工程師們逐漸地也接受了NoSQL，相較于SQL當時的出現(xiàn)，被越來越多的工程師所接受。這個原因非常容易理解：NoSQL是現(xiàn)在流行的;它承諾了規(guī)模和權力;這似乎是項目通往成功的捷徑。但后來問題出現(xiàn)了。

開發(fā)人員很快發(fā)現(xiàn)，不用SQL的局限性。每個NoSQL數(shù)據(jù)庫都提供了自己獨特的查詢語言，這意味著：要學習更多的語言(并向同事教授); 將這些數(shù)據(jù)庫連接到應用程序的難度增加，導致大量膠水代碼的出現(xiàn)(代碼之間有很強的耦合性);缺乏第三方生態(tài)系統(tǒng)，要求企業(yè)必須開發(fā)自己的操作和可視化工具。

這些NoSQL語言是新的，也沒有完全開發(fā)。例如，關系型數(shù)據(jù)庫已經(jīng)運行很多年了，為SQL添加必要的功能(例如JOIN)也早都已經(jīng)完成了，NoSQL語言的不成熟意味著在應用程序級別就會有更多的復雜性。缺乏JOIN也導致了非規(guī)范化，導致數(shù)據(jù)膨脹和僵化。

一些NoSQL數(shù)據(jù)庫添加了自己的“類SQL”的查詢語言，如Cassandra的CQL。但這往往使問題更糟。使用幾乎相同的界面，卻讓內(nèi)心更糾結：工程師不知道什么是支持的，什么不是。

社區(qū)中的一些人在早期就看到了NoSQL的問題(例如，DeWitt和Stonebraker在2008年就看到了)。經(jīng)過時間的實戰(zhàn)檢驗，以及使用過程中的經(jīng)驗積累，越來越多的軟件開發(fā)人員也看到了這一點。

第3部分：回歸SQL

經(jīng)歷了黎明前的黑暗，軟件社區(qū)看到了曙光，那就是回歸SQL。

首先是Hadoop(之后的Spark)之上的SQL接口，引導業(yè)界興起了NoSQL ,NoSQL“不僅僅是SQL”。

然后，NewSQL的興起：新的可擴展性數(shù)據(jù)庫，完全支持SQL。來自于麻省理工學院(MIT)和布朗大學(Brown)研究人員的H-Store (2008年發(fā)布)是***個可擴展OLTP數(shù)據(jù)庫之一。Google在發(fā)布的***份Spanner論文(2012年發(fā)布)(其作者包括最初的MapReduce作者)中揭示這是基于 SQL 的查詢語言，可以將一份數(shù)據(jù)復制到全球范圍的多個數(shù)據(jù)中心，并保證數(shù)據(jù)的一致性，從而開創(chuàng)了可地理復制的SQL界面的數(shù)據(jù)庫，接著是CockroachDB(2014)這樣的先驅者。

與此同時，PostgreSQL社區(qū)開始復蘇，增加了JSON數(shù)據(jù)類型(2012)，以及PostgreSQL 10 的新特性：對分區(qū)和復制更好的本地支持，JSON的全文搜索支持等(今年晚些時候發(fā)布)。其他像CitusDB(2016)和其他的公司(今年發(fā)布的TimescaleDB)發(fā)現(xiàn)了新的方法從而針對特定數(shù)據(jù)工作負載的擴展PostgreSQL。

事實上，我們開發(fā)TimescaleDB的過程與業(yè)界的發(fā)展軌跡密切相關。早期的TimescaleDB內(nèi)部版本使用了我們自己的類sql查詢語言“ioQL”。是的，我們正是被困難驅動著：構建我們自己的查詢語言才能更強大。但是，雖然看似簡單，但我們很快意識到，我們必須做更多的工作：例如，決定語法，構建各種連接器，培訓用戶等。我們還發(fā)現(xiàn)自己需要不斷地去查找合適的語法，去查詢那些已經(jīng)可以用SQL進行查詢的內(nèi)容。

有一天，我們意識到建立自己的查詢語言是沒有意義的。關鍵還是要擁抱SQL。這是我們做出的***的決策之一。同時也開啟了一個全新的世界。今天，即使我們的數(shù)據(jù)庫才問世5個月，但我們的用戶完全可以使用我們的產(chǎn)品，并獲得各種各樣支持：可視化工具(Tableau)，通用ORM連接器，各種工具和備份選項，大量的在線教程和語法說明等。

在計算機網(wǎng)絡中，有一個叫做“窄腰”的概念。

這個概念的出現(xiàn)解決了一個關鍵問題：在任何給定的網(wǎng)絡設備上，想象一個堆棧，底層硬件層和頂層軟件層。中間可能會存在各種網(wǎng)絡硬件;類似地，也存在各種軟件和應用程序。需要一種方法來確保無論硬件如何，軟件仍然可以連接到網(wǎng)絡; 無論軟件如何，網(wǎng)絡硬件都知道如何處理網(wǎng)絡請求。

在網(wǎng)絡中，窄腰的角色由互聯(lián)網(wǎng)協(xié)議(IP)扮演，它是局域網(wǎng)設計的底層聯(lián)網(wǎng)協(xié)議和更高級別的應用程序和傳輸協(xié)議的公共接口。(這是一個很好的解釋。)而且(在一個廣泛的過度簡化)中，這個公共接口成為了計算機的通用語言，使網(wǎng)絡互連，設備進行通信，而這個“網(wǎng)絡網(wǎng)絡”可以發(fā)展成為今天豐富多樣的互聯(lián)網(wǎng)。

我們認為，這等同于SQL已成為數(shù)據(jù)分析的“窄腰。

我們生活在一個數(shù)據(jù)正在成為“世界上最寶貴資源”的時代(”“經(jīng)濟學人”，2017年5月)。我們看到了Cambrian 的專業(yè)數(shù)據(jù)庫(OLAP，時間序列，文檔，圖表等)，數(shù)據(jù)處理工具(Hadoop，Spark，F(xiàn)link)，數(shù)據(jù)總線(Kafka，RabbitMQ)等的紅海。還有更多的應用程序需要依賴這種數(shù)據(jù)基礎設施，無論是第三方數(shù)據(jù)可視化工具(Tableau，Grafana，PowerBI，Superset)，Web框架(Rails，Django)還是定制的數(shù)據(jù)驅動應用程序。

像網(wǎng)絡一樣，我們有一個復雜的堆棧，底層的基礎設施和頂部的應用程序。通常，我們最終編寫了大量的膠水代碼，使此堆棧工作。但是膠水代碼可能很脆弱：需要維護和貼合。

我們需要的是一個公共接口，允許這個堆棧的各個部分相互通信。這個行業(yè)已經(jīng)標準化了。它能讓不同層級之間的通信阻礙降到最小。

這就是SQL的力量。和IP一樣，SQL也是一個公共接口。

但事實上，SQL 比 IP 復雜的多。因為數(shù)據(jù)還需要被人類分析。而且SQL創(chuàng)建者最初給它設定的目標就是可讀性要高。

SQL***嗎?不，但這是社區(qū)中的大多數(shù)人都已經(jīng)了解了這語言。雖然已經(jīng)有工程師在開發(fā)更和諧的語言界面，但這些系統(tǒng)最終會連接到哪里?還是SQL。

所以在堆棧的頂部還有一層。那一層就是我們 。

SQL回歸

SQL已經(jīng)回來了。不僅僅是因為使用NoSQL工具編寫膠水代碼是惱人的。不僅僅是因為培訓大家學習無數(shù)新的語言成本是巨大的，不只是因為統(tǒng)一標準的重要性。

而且也因為世界充滿了數(shù)據(jù)。它圍繞著我們，束縛著我們。首先，我們依靠我們的人類感官和感覺神經(jīng)系統(tǒng)來處理它?，F(xiàn)在我們的軟件和硬件系統(tǒng)也越來越智能，可以幫助我們。隨著我們收集的數(shù)據(jù)越來越多，可以更好的讓我們了解這個世界，系統(tǒng)的復雜性，存儲，處理，分析和可視化的需求只會繼續(xù)增長。

我們生活在一個脆弱的世界和一百萬個不同界面的世界?；蛟S我們可以繼續(xù)擁抱SQL。一切都遵循能量守恒定律。