數(shù)據(jù)庫的“行式存儲(chǔ)”和“列式存儲(chǔ)”
傳統(tǒng)的關(guān)系型數(shù)據(jù)庫,如 Oracle、DB2、MySQL、SQL SERVER 等采用行式存儲(chǔ)法(Row-based),在基于行式存儲(chǔ)的數(shù)據(jù)庫中, 數(shù)據(jù)是按照行數(shù)據(jù)為基礎(chǔ)邏輯存儲(chǔ)單元進(jìn)行存儲(chǔ)的, 一行中的數(shù)據(jù)在存儲(chǔ)介質(zhì)中以連續(xù)存儲(chǔ)形式存在。
我們知道,當(dāng)今的數(shù)據(jù)處理大致可分為兩大類,聯(lián)機(jī)事務(wù)處理 OLTP(on-line transaction processing)和聯(lián)機(jī)分析處理 OLAP(On-Line Analytical Processing)。OLTP 是傳統(tǒng)關(guān)系型數(shù)據(jù)庫的主要應(yīng)用,用來執(zhí)行一些基本的、日常的事務(wù)處理,比如數(shù)據(jù)庫記錄的增、刪、改、查等等;而 OLAP 則是分布式數(shù)據(jù)庫的主要應(yīng)用,它對實(shí)時(shí)性要求不高,但處理的數(shù)據(jù)量大,通常應(yīng)用于復(fù)雜的動(dòng)態(tài)報(bào)表系統(tǒng)上。
OLTP與OLAP的主要區(qū)別
OLTP與OLAP,在數(shù)據(jù)庫的應(yīng)用類別方面,為何會(huì)出現(xiàn)顯著差別呢?其實(shí),這是因數(shù)據(jù)庫存儲(chǔ)模式不同而造成的。
行式存儲(chǔ)和列式存儲(chǔ)
傳統(tǒng)的關(guān)系型數(shù)據(jù)庫,如 Oracle、DB2、MySQL、SQL SERVER 等采用行式存儲(chǔ)法(Row-based),在基于行式存儲(chǔ)的數(shù)據(jù)庫中, 數(shù)據(jù)是按照行數(shù)據(jù)為基礎(chǔ)邏輯存儲(chǔ)單元進(jìn)行存儲(chǔ)的, 一行中的數(shù)據(jù)在存儲(chǔ)介質(zhì)中以連續(xù)存儲(chǔ)形式存在。
列式存儲(chǔ)(Column-based)是相對于行式存儲(chǔ)來說的,新興的 Hbase、HP Vertica、EMC Greenplum 等分布式數(shù)據(jù)庫均采用列式存儲(chǔ)。在基于列式存儲(chǔ)的數(shù)據(jù)庫中, 數(shù)據(jù)是按照列為基礎(chǔ)邏輯存儲(chǔ)單元進(jìn)行存儲(chǔ)的,一列中的數(shù)據(jù)在存儲(chǔ)介質(zhì)中以連續(xù)存儲(chǔ)形式存在。
行式存儲(chǔ)的適用場景包括:
1、適合隨機(jī)的增刪改查操作;
2、需要在行中選取所有屬性的查詢操作;
3、需要頻繁插入或更新的操作,其操作與索引和行的大小更為相關(guān)。
實(shí)操中我們會(huì)發(fā)現(xiàn),行式數(shù)據(jù)庫在讀取數(shù)據(jù)的時(shí)候會(huì)存在一個(gè)固有的“缺陷”,比如,所選擇查詢的目標(biāo)即使只涉及少數(shù)幾項(xiàng)屬性,但由于這些目標(biāo)數(shù)據(jù)埋藏在各行數(shù)據(jù)單元中,而行單元往往又特別大,應(yīng)用程序必須讀取每一條完整的行記錄,從而使得讀取效率大大降低。對此,行式數(shù)據(jù)庫給出的優(yōu)化方案是加“索引”,在OLTP類型的應(yīng)用中,通過索引機(jī)制或給表分區(qū)等手段,可以簡化查詢操作步驟,并提升查詢效率。
但針對海量數(shù)據(jù)背景的OLAP應(yīng)用(例如分布式數(shù)據(jù)庫、數(shù)據(jù)倉庫等等),行式存儲(chǔ)的數(shù)據(jù)庫就有些“力不從心”了。行式數(shù)據(jù)庫建立索引和物化視圖,需要花費(fèi)大量時(shí)間和資源,因此還是得不償失,無法從根本上解決查詢性能和維護(hù)成本等問題也不適用于數(shù)據(jù)倉庫等應(yīng)用場景,所以后來出現(xiàn)了基于列式存儲(chǔ)的數(shù)據(jù)庫。
對于數(shù)據(jù)倉庫和分布式數(shù)據(jù)庫來說,大部分情況下它會(huì)從各個(gè)數(shù)據(jù)源匯總數(shù)據(jù),然后進(jìn)行分析和反饋,其操作大多是圍繞同一列屬性的數(shù)據(jù)進(jìn)行的,而當(dāng)查詢某屬性的數(shù)據(jù)記錄時(shí),列式數(shù)據(jù)庫只需返回與列屬性相關(guān)的值,在大數(shù)據(jù)量查詢場景中,列式數(shù)據(jù)庫可在內(nèi)存中高效組裝各列的值,最終形成關(guān)系記錄集,因此可以顯著減少IO消耗,并降低查詢響應(yīng)時(shí)間,非常適合數(shù)據(jù)倉庫和分布式的應(yīng)用。
列式存儲(chǔ)引擎的適用場景包括:
1、查詢過程中,可針對各列的運(yùn)算并發(fā)執(zhí)行(SMP),***在內(nèi)存中聚合完整記錄集,***可能降低查詢響應(yīng)時(shí)間;
2、可在數(shù)據(jù)列中高效查找數(shù)據(jù),無需維護(hù)索引(任何列都能作為索引),查詢過程中能夠盡量減少無關(guān)IO,避免全表掃描;
3、因?yàn)楦髁歇?dú)立存儲(chǔ),且數(shù)據(jù)類型已知,可以針對該列的數(shù)據(jù)類型、數(shù)據(jù)量大小等因素動(dòng)態(tài)選擇壓縮算法,以提高物理存儲(chǔ)利用率;如果某一行的某一列沒有數(shù)據(jù),那在列存儲(chǔ)時(shí),就可以不存儲(chǔ)該列的值,這將比行式存儲(chǔ)更節(jié)省空間。
當(dāng)然,跟行數(shù)據(jù)庫一樣,列式存儲(chǔ)也有不太適用的場景。
主要包括:
- 數(shù)據(jù)需要頻繁更新的交易場景
- 表中列屬性較少的小量數(shù)據(jù)庫場景
- 不適合做含有刪除和更新的實(shí)時(shí)操作
隨著列式數(shù)據(jù)庫的發(fā)展,傳統(tǒng)的行式數(shù)據(jù)庫加入了列式存儲(chǔ)的支持,形成具有兩種存儲(chǔ)方式的數(shù)據(jù)庫系統(tǒng)。例如,隨著Oracle 12c推出了in memory組件,使得Oracle數(shù)據(jù)庫具有了雙模式數(shù)據(jù)存放方式,從而能夠?qū)崿F(xiàn)對混合類型應(yīng)用的支持,當(dāng)然列式數(shù)據(jù)庫也有對行式存儲(chǔ)的支持比如HP Vertica??傊?,沒有***的數(shù)據(jù)庫,一切都要以實(shí)際的數(shù)據(jù)存儲(chǔ)和分析需求為準(zhǔn)!