.NET中的緩存實現(xiàn)
軟件開發(fā)中最常用的模式之一是緩存,這是一個簡單但非常有效的概念,想法是重用操作結(jié)果,執(zhí)行繁重的操作時,我們會將結(jié)果保存在緩存容器中,下次我們需要該結(jié)果時,我們將從緩存容器中取出它,而不是再次執(zhí)行繁重的操作。
例如,要獲得某人的頭像,您可能需要前往數(shù)據(jù)庫。我們不會每次都執(zhí)行那次查詢,而是將結(jié)果保存在緩存中,每次需要時都將其從內(nèi)存中刪除。
緩存非常適合不經(jīng)常更改的數(shù)據(jù),甚至永遠不會改變。不斷變化的數(shù)據(jù)不適合緩存,如當前機器的時間不應(yīng)緩存,否則您將得到錯誤的結(jié)果。
進程內(nèi)緩存,持久化緩存和分布式緩存
- 進程內(nèi)緩存用于在單個進程中實現(xiàn)緩存時,當進程終止時,緩存會隨之消失。如果您在多個服務(wù)器上運行相同的進程,則每個服務(wù)器都有一個單獨的緩存。
- 持久化緩存是指在進程內(nèi)存之外備份緩存,它可能位于文件中,也可能位于數(shù)據(jù)庫中。這實現(xiàn)比較困難,但如果重新啟動進程,緩存不會丟失。
- 分布式緩存是指您為多臺計算機提供共享緩存,通常它將是幾個服務(wù)器,使用分布式緩存,它存儲在外部服務(wù)中。這意味著如果一臺服務(wù)器保存了緩存項,其他服務(wù)器也可以使用它。像Redis這樣的服務(wù)非常適合這種情況。
單線程的緩存
這個簡單的代碼解決了一個關(guān)鍵問題,要獲取test的值,只有***個請求才會實際執(zhí)行數(shù)據(jù)庫操作,然后將數(shù)據(jù)保存在進程存儲器中,以后有關(guān)test的請求都將從內(nèi)存中提取,從而節(jié)省時間和資源。
但是,作為編程中的大多數(shù)事情,沒有什么是如此簡單。由于許多原因,上述解決方案并不好。首先,這種實現(xiàn)不是線程安全的,多個線程使用時可能會發(fā)生異常,除此之外,緩存的項目將永遠留在內(nèi)存中,這實際上非常糟糕。
例如:
運行結(jié)果7234859,運行 的數(shù)據(jù)丟失了
這就是為什么我們應(yīng)該從Cache中刪除項目:
- 緩存可能占用大量內(nèi)存,最終導致內(nèi)存不足異常和崩潰。
- 高內(nèi)存消耗可導致GC壓力(又稱內(nèi)存壓力)。在這種狀態(tài)下,垃圾收集器的工作量超出預(yù)期,會影響性能。
- 如果數(shù)據(jù)發(fā)生更改,可能需要刷新緩存,我們的緩存基礎(chǔ)架構(gòu)應(yīng)該支持這種能力。
為了處理這些問題,緩存框架具有驅(qū)逐策略(即刪除策略),這些是根據(jù)某些邏輯從緩存中刪除項目的規(guī)則,常見的驅(qū)逐政策是:
- 絕對過期策略將在一段固定的時間后從緩存中刪除一個項目。
- 如果未在固定的時間內(nèi)訪問項目,則滑動過期策略將從緩存中刪除項目。因此,如果我將到期時間設(shè)置為1分鐘,只要我每隔30秒使用一次,該項目就會保持在緩存中,一旦我不使用它超過一分鐘,該項目被驅(qū)逐。
- 大小限制策略將限制高速緩存大小。
現(xiàn)在我們知道了我們需要什么,讓我們繼續(xù)尋找更好的解決方案。
改善方案
令我非常沮喪的是,作為博主,微軟已經(jīng)創(chuàng)建了一個很棒的緩存實現(xiàn),這剝奪了我自己創(chuàng)建類似實現(xiàn)的樂趣,但至少我寫這篇博文的工作較少。
我將向您展示Microsoft的解決方案,如何有效地使用它,以及如何在某些情況下改進它。
System.Runtime.Caching / MemoryCache與Microsoft.Extensions.Caching.Memory
微軟有2個解決方案,2個不同的NuGet包用于緩存,兩者都很棒,根據(jù)微軟的建議,更喜歡使用Microsoft.Extensions.Caching.Memory因為它與Asp更好地集成.NET核心。它可以很容易地注入到Asp .NET Core的依賴注入機制中。
這是一個基本的例子Microsoft.Extensions.Caching.Memory:
這與我自己非常相似NaiveCache,所以改變了什么?嗯,首先,這是一個線程安全的實現(xiàn)。您可以安全地從多個線程一次調(diào)用它。
帶有逐出政策的IMemoryCache:
讓我們分析一下新增內(nèi)容:
- SizeLimit加入了MemoryCacheOptions,這會將基于大小的策略添加到緩存容器中。相反,我們需要在每個緩存條目上設(shè)置大小,在這種情況下,我們每次設(shè)置為1 SetSize(1),這意味著緩存限制為1024個項目。
- 當我們達到大小限制時,應(yīng)該刪除哪個緩存項?您實際上可以設(shè)置優(yōu)先級.SetPriority(CacheItemPriority.High)。級別為Low,Normal,High和NeverRemove。
- SetSlidingExpiration(TimeSpan.FromSeconds(2))添加了,將滑動到期時間設(shè)置為2秒,這意味著如果超過2秒內(nèi)未訪問某個項目,它將被刪除。
- SetAbsoluteExpiration(TimeSpan.FromSeconds(10))添加了,它將絕對到期時間設(shè)置為10秒,這意味著如果物品尚未在10秒內(nèi)被驅(qū)逐。
除了示例中的選項之外,您還可以設(shè)置一個RegisterPostEvictionCallback委托,當項目被驅(qū)逐時將調(diào)用該委托。
這是一個非常全面的功能集。它讓你想知道是否還有其他東西要添加,實際上有幾件事。
問題和缺失的功能
這個實現(xiàn)中有幾個重要的缺失部分。
- 雖然您可以設(shè)置大小限制,但緩存實際上并不監(jiān)視gc壓力。如果我們確實對其進行監(jiān)控,我們可以在壓力較大時收緊政策,并在壓力較低時放松政策。
- 當同時請求具有多個線程的相同項時,請求不等待***個完成,該項目將被多次創(chuàng)建。例如,假設(shè)我們正在緩存阿凡達,從數(shù)據(jù)庫中獲取頭像需要10秒鐘,如果我們在***次請求后2秒請求頭像,它將檢查頭像是否被緩存(它還沒有),并開始另一次訪問數(shù)據(jù)庫。
英文原文中有說明,但是覺得不太好,再次沒有翻譯。
英文原文地址:
https://michaelscodingspot.com/cache-implementations-in-csharp-net/?utm_source=csharpdigest&utm_medium=web&utm_campaign=featured
代碼與所寫有所修改,但是大致意思一樣,如果感興趣,可以看看英文。