偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

一個全新的 kv 存儲引擎-LotusDB

存儲 存儲架構(gòu)
有了 rosedb 在 bitcask 模型上的實踐之后,以及自己在存儲這方面的一些經(jīng)驗積累,去年底的時候,在上班路上突然想到的一個 idea,讓我有了做一個新的 kv 存儲引擎的想法。

經(jīng)歷了大概 4 個月的打磨,LotusDB 的第一個 release 版本終于發(fā)布了,我看了下,有 200 多次 commit(接近 rosedb 一年多的 commit 次數(shù)了)。

項目地址:https://github.com/flower-corp/lotusdb

有了 rosedb 在 bitcask 模型上的實踐之后,以及自己在存儲這方面的一些經(jīng)驗積累,去年底的時候,在上班路上突然想到的一個 idea,讓我有了做一個新的 kv 存儲引擎的想法。

有了想法之后便是驗證,因為其實心里還是沒譜,我又在 Github 上翻了翻,并沒有同類型的實現(xiàn)。后來又找一些大佬溝通了下,證明我的想法是可行的。

這期間還發(fā)現(xiàn)了 Usenix Fast 上的一篇關于優(yōu)化 LSM 的論文,發(fā)現(xiàn)論文的內(nèi)容跟我的 idea 非常類似,這算是又多了一個理論依據(jù),于是便決定開干了。

眾所周知,數(shù)據(jù)存儲引擎,目前最主流的兩種模型是 B+ 樹和 LSM 樹,B+ 樹在關系型數(shù)據(jù)庫例如 Mysql 中應用比較廣泛,而 LSM 的典型代表 rocksdb 也是大多數(shù)分布式系統(tǒng)數(shù)據(jù)落盤的首選。

B+ 樹讀性能穩(wěn)定,而 LSM 寫吞吐高,LotusDB 在這基礎上做了一個巨大的改動,就是完全舍棄掉 LSM 中的 SST 文件,改由 B+ 樹來存儲索引,而 value 存放則參考了 Wisckey 和 bitcask 模型的設計,存儲到單獨的 value log 文件中。

LotusDB 是對 LSM 和 B+ 樹的優(yōu)勢結(jié)合,目前并沒有同類型的實現(xiàn),我們應該是第一個吃螃蟹的人。

LotusDB 的架構(gòu)圖如下:

前臺的寫入和 LSM 完全一致,先寫 wal 再寫 memtable。

而讀取則會從 memtable 開始,如果 memtable 找到了,直接返回;沒找到的話則從 B+ 樹中查詢索引,然后根據(jù)索引信息到 value log 中獲取 value。

大家可以先了解個大概,后續(xù)我會出一個完整的《LotusDB 設計與實現(xiàn)》系列文章,全面解析 LotusDB 的架構(gòu)細節(jié)以及代碼實現(xiàn),目前已經(jīng)寫了幾篇待發(fā)布,歡迎關注公眾號的后續(xù)更新:

再來看看 LotusDB 提供的一些基本接口,目前實現(xiàn)了基礎的 Put、Get、Delete 接口,并且支持 Column Family(借鑒于 rocksdb),以及 value log 的自動 GC 回收。

簡單的使用方法如下:

package main

import (
"github.com/flower-corp/lotusdb"
"io/ioutil"
"time"
)

// basic operations for LotusDB:
// put
// put with options
// get
// delete
// delete with options
func main() {
path, _ := ioutil.TempDir("", "lotusdb")
opts := lotusdb.DefaultOptions(path)
db, err := lotusdb.Open(opts)
if err != nil {
panic(err)
}
defer db.Close()

// 1.----put----
key1 := []byte("name")
err = db.Put(key1, []byte("lotusdb"))
if err != nil {
// ...
}

key2 := []byte("feature")
// 2.----put with options----
writeOpts := &lotusdb.WriteOptions{
Sync: true,
ExpiredAt: time.Now().Add(time.Second * 100).Unix(),
}
err = db.PutWithOptions(key2, []byte("store data"), writeOpts)
if err != nil {
// ...
}

// 3.----get----
val, err := db.Get(key1)
if err != nil {
// ...
}
if len(val) > 0 {
// ...
}

// 4.----delete----
err = db.Delete(key1)
if err != nil {
// ...
}

// 5.----delete with options----
deleteOpts := &lotusdb.WriteOptions{
Sync: false,
DisableWal: true,
}
err = db.DeleteWithOptions([]byte("dummy key"), deleteOpts)
if err != nil {
// ...
}
}

目前自認為 LotusDB 的代碼質(zhì)量比之前的 RoseDB 好多了,單元測試更加完備,注釋清晰,代碼也更加簡潔規(guī)范,如果你是 Go 新手,或者準備學習 Go,也能夠把項目當做練習素材,自己對照著來學習。

當然我們的愿景還是打造一個能夠在生產(chǎn)環(huán)境中實際落地的存儲引擎,目前的版本只是一個開始,后續(xù)還會有非常多的工作,包括但不限于:

  • batch 操作,保證原子性
  • 多個 Column Family 保證原子性
  • 基于 SSI 的事務
  • Iterator 迭代器
  • 數(shù)據(jù)壓縮
  • 數(shù)據(jù)備份
  • index 的分裂
責任編輯:武曉燕 來源: roseduan寫字的地方
相關推薦

2025-04-17 01:30:00

開源PostgreSQL存儲引擎

2020-03-13 10:36:19

KV存儲性能

2021-06-30 07:19:36

網(wǎng)絡安全

2015-08-19 09:29:35

Git協(xié)議編寫

2013-01-25 09:53:40

GitHub

2023-05-11 07:30:10

KV存儲GC優(yōu)化

2020-06-02 10:04:58

IT部門首席信息官CIO

2018-10-16 16:46:14

華為云

2010-03-31 17:21:04

云計算

2024-08-14 13:24:24

2015-12-02 11:23:38

DockerUber容器服務

2022-10-26 10:56:29

數(shù)據(jù)庫存儲引擎

2012-05-10 16:32:01

Hadoop

2017-08-11 17:55:48

前端JavaScript模板引擎

2023-10-10 08:22:12

Tesseract庫開源

2023-02-06 09:44:35

美圖開源kv存儲

2023-07-30 17:34:53

KV存儲ChunkPosit

2024-05-27 00:00:20

2016-12-20 10:59:43

MySQL存儲insert

2009-08-02 16:46:20

綠色IT服務器虛擬化
點贊
收藏

51CTO技術(shù)棧公眾號