繼續(xù)創(chuàng)新的同時(shí)降低云數(shù)據(jù)存儲成本的7個(gè)方法
譯文【51CTO.com快譯】 眼下對企業(yè)來說日子不好過:面對經(jīng)濟(jì)衰退威脅,企業(yè)需要嚴(yán)格控制成本,同時(shí)仍需要足夠的技術(shù)投入以保持競爭力。有了公共云,很容易根據(jù)需要增減存儲容量,但是訪問看似無限的資源也讓使用量和成本快速且不可預(yù)測地增長。
對于分析和機(jī)器學(xué)習(xí)項(xiàng)目而言尤其如此。數(shù)據(jù)湖非常適合機(jī)器學(xué)習(xí)和數(shù)據(jù)流分析,是企業(yè)開發(fā)新產(chǎn)品、更好地為服務(wù)客戶的有效方式。但由于數(shù)據(jù)團(tuán)隊(duì)能夠在云端輕松啟動(dòng)新項(xiàng)目,因此必須嚴(yán)加管理基礎(chǔ)架構(gòu),以確保所有資源針對成本進(jìn)行了優(yōu)化,證明花的每一分錢都是值得的。在當(dāng)前經(jīng)濟(jì)形勢下,沒有一家企業(yè)能容忍浪費(fèi)。
但企業(yè)并非無能為力。強(qiáng)有力的財(cái)務(wù)治理實(shí)踐讓數(shù)據(jù)團(tuán)隊(duì)可以控制甚至降低云成本,同時(shí)仍便于創(chuàng)新。設(shè)立適當(dāng)?shù)姆雷o(hù)機(jī)制以防止團(tuán)隊(duì)使用過多的資源,并確保工作負(fù)載與正確的實(shí)例類型匹配以優(yōu)化成本節(jié)省,這對于減少浪費(fèi)并確保符合關(guān)鍵的服務(wù)級別協(xié)議(SLA)大有幫助。
以下是CIO們可以用來管理云數(shù)據(jù)湖成本的七個(gè)最佳實(shí)踐。這有助于在這個(gè)充滿不確定性的時(shí)期避免不可預(yù)知的賬單,并控制支出,但仍可以讓貴公司進(jìn)行創(chuàng)新、變得更強(qiáng)大。
•監(jiān)測、監(jiān)測、監(jiān)測。成本管理始于準(zhǔn)確了解使用什么資源、何時(shí)使用以及誰在使用,至少每天要跟蹤這方面。在作業(yè)、集群和用戶層面密切跟蹤使用情況,就可以立即識別浪費(fèi)或效率低下,并進(jìn)行必要的改變??床坏降臇|西是沒法管理的。
•使用異構(gòu)集群。集群中的節(jié)點(diǎn)可能有不同類型的實(shí)例,這取決于工作負(fù)載和不同實(shí)例的成本/可用性。比如說,集群可能包括按需實(shí)例和AWS競價(jià)實(shí)例或谷歌搶占式虛擬機(jī)。采用工具(通常以DIY腳本的形式)可自動(dòng)管理使用情況,以便你在使用最具價(jià)值的基礎(chǔ)架構(gòu),同時(shí)滿足應(yīng)用程序的彈性和可用性要求。
•積極主動(dòng)地自動(dòng)擴(kuò)展。集群不用時(shí)不需要運(yùn)行,根據(jù)需要自動(dòng)啟用和關(guān)閉集群可大幅節(jié)省成本。新冠疫情期間,我們至少有一個(gè)客戶在閑置15分鐘后關(guān)閉集群,大幅降低成本。這顯然有賴于應(yīng)用程序的SLA要求,但是對于開發(fā)工作和概念驗(yàn)證工作而言,等待片刻讓集群重新啟動(dòng)應(yīng)該不是問題。
•測試不同的引擎。許多企業(yè)使用多個(gè)決策引擎,比如Spark、Hive和Presto,因?yàn)樗鼈兏髯赃m合不同類型的工作負(fù)載。在多個(gè)引擎上測試一下查詢,看看在哪個(gè)引擎上運(yùn)行最快。這不僅可以為最終用戶提升性能,還可以使貴公司受益,因?yàn)楦痰牟樵儠r(shí)間通常意味著您使用較少的資源。
•使用基于計(jì)劃表的生命周期管理。自動(dòng)創(chuàng)建和銷毀系統(tǒng)以匹配使用模式。比如說,如果集群通常在早上或高峰交易時(shí)段滿負(fù)荷運(yùn)行,查看運(yùn)行中的作業(yè),看看哪些作業(yè)可以在其他時(shí)段運(yùn)行。
•調(diào)整未充分利用的基礎(chǔ)架構(gòu)。推出新項(xiàng)目和應(yīng)用程序時(shí),容量需求并不總是很明確?;A(chǔ)架構(gòu)過度配置,當(dāng)實(shí)際需求變得清晰時(shí),沒人回過頭去改動(dòng)基礎(chǔ)架構(gòu)。將基礎(chǔ)架構(gòu)的大小調(diào)整到適當(dāng)?shù)乃?。這需要認(rèn)真制定策略,因?yàn)槿萘咳孕柚С诸A(yù)期的使用高峰。
•教育用戶。如果數(shù)據(jù)團(tuán)隊(duì)了解更宏觀的業(yè)務(wù)需求和可選擇的路子,會(huì)盡力幫助降低成本。概念證明項(xiàng)目果真需要r4.4xlarge實(shí)例嗎?可能不需要。與他們聊聊當(dāng)前的情況,談?wù)劄槭裁凑{(diào)整基礎(chǔ)架構(gòu)對大家都有利。我們的一個(gè)客戶甚至與其團(tuán)隊(duì)一起使用彩色樂高積木進(jìn)行演練,表明可以如何使用集群中不同類型的實(shí)例。幫助您的團(tuán)隊(duì),以便幫助您。
云成本管理旨在優(yōu)化利用率,同時(shí)提供財(cái)務(wù)防范,讓團(tuán)隊(duì)可以在自助服務(wù)環(huán)境中快速行動(dòng),同時(shí)防止意外成本。任何組織應(yīng)經(jīng)常采用這些最佳實(shí)踐,不過在眼下這種宏觀經(jīng)濟(jì)環(huán)境下尤為重要。使用這些技巧,您將能夠度過難關(guān),到時(shí)會(huì)有良好的財(cái)務(wù)狀況。
原文標(biāo)題:7 Ways to Reduce Cloud Data Costs While Continuing to Innovate
作者:Ashish Thusoo
【51CTO譯稿,合作站點(diǎn)轉(zhuǎn)載請注明原文譯者和出處為51CTO.com】