TWI611301B

TWI611301B - 雲端環境之資源使用率分析預測系統與方法

Info

Publication number: TWI611301B
Application number: TW104140279A
Authority: TW
Inventors: Yong-Wei Lin; Ren-Xian Zheng
Original assignee: Chunghwa Telecom Co Ltd
Priority date: 2015-12-02
Filing date: 2015-12-02
Publication date: 2018-01-11
Also published as: TW201721454A

Description

雲端環境之資源使用率分析預測系統與方法

本發明係關於一種資源使用率分析預測系統與方法，特別為利用少量或大量的歷史效能資料來進行分析預測，並透過預測結果，預先決定是否自動擴展虛擬機資源之雲端環境之資源使用率分析預測系統與方法。

隨者雲端技術越來越成熟，越來越多的大型雲端供應商提供雲的服務，如租用虛擬機給客戶使用，然而在龐大的服務後面，如何有效管理巨大運算資源是很重要的，因此如何讓使用者使用起來順暢又不浪費運算資源是一個極欲解決的問題。以往虛擬機在資源不足時，可以透過自動擴展(auto-scaling)的技術動態的增加虛擬機的資源，讓使用者的服務品質維持一定的水準，但是如果資源達到上限時才進行調整的動作，往往使用者的服務品質已經下降，導致使用者對於服務的評價低落，如果過早進行自動擴展的話將會浪費運算資源，因此若能事先預測出虛擬機的效能趨勢就可以即早自動擴展，也不浪費資源。

由此可見，上述習用方式仍有諸多缺失，仍有改善空間，亟待加以改良。

發明人鑑於上述習用方式所衍生的各項缺點，乃亟思加以改良創新，並經多年苦心孤詣潛心研究後，終於成功研發完成本發明一種雲端環境之資源使用率分析預測系統與方法。

本發明提供一種雲端環境之資源使用率分析預測系統，包含，一設定模組，該設定模組係提供一輸入介面，並利用該輸入介面設定一設定參數，其中該設定參數係為一預測時間、一短期分析歷史效能數量、一時間區塊數量、一長期分析歷史效能數量、一監控間隔、一監控資源項目、一自動擴展門檻值及一自動縮減門檻值，一效能蒐集模組，該效能蒐集模組係接收該設定模組之該設定參數，並依據該設定參數中的該監控間隔與該監控資源項目，定期取得該監控資源項目之數據，並儲存，一效能預測模組，該效能預測模組係依據該效能蒐集模組所儲存之該監控資源項目之數據進行一短期效能分析預測及一長期效能分析預測，以及一動態資源調整模組，該動態資源調整模組係依據該效能預測模組之該短期效能分析預測及該長期效能分析預測判斷資源的自動擴展資源或自動減縮資源。

該效能預測模組更包含一短期效能分析預測模組及一長期效能分析預測模組，其中該短期效能分析預測模組係利用該短期效能分析預測計算該預測時間內效能資料的變化率以推估預測時間的效能，以及該長期效能分析預測模組係利用長期效能分析預測透過分群演算法分群一特定區間內的效能資料，取出複數個代表該特定區間內的效能資料以推估出未來資源的預測值。

該動態資源調整模組更包含一判斷模組、一自動擴展模組及一自動縮減模組，其中該判斷模組係依據該設定模組與該效能預測模組之效能預測，自動判斷是否動態調整資源並命令該自動擴展模組進行自動擴展資源及該自動縮減模組自行進行自動減縮資源。

本發明提供一種雲端環境之資源使用率分析預測方法，步驟包含：透過一設定模組之一輸入介面設定預測一預測目標之一設定參數；一效能蒐集模組依據該設定參數蒐集該預測目標之效能資料；一效能預測模組依據該設定參數及該預測目標之效能資料透過一短期效能分析預測模組計算效能資料的變化率以推估效能，以及透過一長期效能分析預測模組藉由分群演算法分群一特定區間內的效能資料，取出複數個代表該特定區間內的效能資料以推估出未來資源的預測值；以及一動態資源調整模組透過一判斷模組係依據該設定模組與該效能預測模組之效能預測，自動判斷是否動態調整資源並命令一自動擴展模組進行自動擴展資源及一自動縮減模組自行進行自動減縮資源。

本發明提供之雲端環境之資源使用率分析預測系統與方法，透過預測未來效能趨勢，可動態調整雲端資源，精準的分配雲端資源，讓用戶的服務維持一定的效能。

本發明的短期效能分析預測及長期效能分析預測，可根據不同的情況或時間自動使用不同的方法預測。當預測目標效能變化量較大時，可透過短期效能分析預測，透過分析不同時間的變化率預測出未來的效能。而預測目標效能較規律時，可透過長期效能分析預測，透過分群技術去除偏差較大的效能資料，保留具代表性的群來統計出預測的效能，此外，短期效能分析預測及長期效能分析預測可同時應用於預測目標上，提供更穩固的預測方式確保用戶服務的品質。

再者，本發明的短期效能分析預測透過分析不同時間點下效能的變化率，並給予不同時間的變化量不同權重，有效的推估出未來的效能趨勢。長期效能分析預測則選取多個代表性的群做統計，預測出來的效能較不會是極端的值，準確度較高。

100‧‧‧資源池

101‧‧‧網路

102‧‧‧實體機

103‧‧‧實體機

104‧‧‧實體機

105‧‧‧虛擬機

106‧‧‧虛擬機

107‧‧‧虛擬機

108‧‧‧虛擬機

109‧‧‧虛擬機

110‧‧‧虛擬機

200‧‧‧雲端環境之資源使用率分析預測系統

210‧‧‧設定模組

220‧‧‧效能蒐集模組

230‧‧‧效能預測模組

240‧‧‧動態資源調整模組

231‧‧‧短期效能分析預測模組

232‧‧‧長期效能分析預測模組

241‧‧‧判斷模組

242‧‧‧自動擴展模組

243‧‧‧自動縮減模組

S510~S560‧‧‧步驟流程

圖1 係為本發明之雲端環境之資源使用率分析預測系統的環境配置圖。

圖2 係為本發明之雲端環境之資源使用率分析預測系統的架構圖。

圖3 係為本發明之效能預測模組的架構圖。

圖4 係為本發明之動態資源調整模組的架構圖。

圖5 係為本發明之雲端環境之資源使用率分析預測系統的架構圖之流程圖。

圖6 係為本發明之短期效能分析預測流程之結果示意圖。

圖7係為本發明之短期效能分析預測流程之結果示意圖。

圖8係為本發明之長期效能分析預測流程之結果示意圖。

以下將參照相關圖式，說明依本發明之多語系語音辨識裝置及其方法之實施例，為使便於理解，下述實施例中之相同元件係以相同之符號標示來說明。

請參閱圖1，如圖所示，為本發明之雲端環境之資源使用率分析預測系統的環境配置圖，資源池100包含實體機102、實體機103和實體機104，並透過網路101連通。其中實體機102、實體機103和實體機104的作業系統可以為Citrix XenServer、KVM、或VMware ESXi作為提供虛擬化的基礎設施，在實體機102、實體機103和實體機104上分別執行虛擬機105、虛擬機106、虛擬機107、虛擬機108、虛擬機109、和虛擬機110。以XenServer為例，多台XenServer可以組成一個資源池，在資源池100中的資源可以共享，當虛擬機在資源池100中的實體機102執行時，若遭遇實體機102中央處理器資源不足時，可以透過即時遷移的方式，將虛擬機遷移至中央處理器資源充足的實體機103上執行。除此之外若虛擬機資源不足時，但實體機資源仍然充足時，可以透過雲端技術自動擴展虛擬機的資源。

請參閱圖2，如圖所示，為本發明之雲端環境之資源使用率分析預測系統的架構圖，雲端環境之資源使用率分析預測系統200，包含設定模組210、效能蒐集模組220、效能預測模組230、和動態資源調整模組240。雲端環境之資源使用率分析預測系統200可以設置在任一實體機、虛擬機上執行或獨立於資源池外的一台可連通資源池的機器。設定模組210提供輸入介面，讓使用者可以輸入預測的時間、短期效能分析預測使用的歷史效能數量、時間區塊數量、長期效能分析使用的歷史效能數量、監控間隔、監控資源項目、自動擴展門檻值和自動縮減門檻值。監控資源項目可以有中央處理器使用率、記憶體使用率、硬碟寫入速率、硬碟讀取速度、網路接收速度、網路傳送速度、session數量使用率、連線數量使用率等，但不限於這些項目。針對每一個資源項目設定自動擴展門檻值，自動擴展門檻值是執行動態資源調整模組240用來判斷是否需要執行動作，當效能預測模組230預測出來的數值超過自動擴展門檻值時，執行動態資源調整模組240的動作。除了自動擴展門檻值，還須針對每一資源項目輸入自動縮減門檻值，自動縮減門檻值是執行動態資源調整模組240用來判斷是否需要執行動作，當目前效能使用率低於自動縮減門檻值時，執行動態資源調整模組240的動作。效能蒐集模組220接收設定模組210的參數，監控間隔與監控資源項目，定期取得監控資源項目的數據，並且儲存下來，以供效能預測模組230使用。監控的方式可以透過Nagios或其它現有的工具達成。

請參閱圖3，如圖所示，為本發明之效能預測模組的架構圖，其中，效能預測模組230包含短期效能分析預測模組231與長期效能分析預測模組232，短期效能分析預測模組231接收設定模組210的參數與效能蒐集模組220的效能資訊。設定模組210的參數包含預測的時間、短期效能分析預測使用的歷史效能數量、監控的項目、監控間隔、與各個監控項目的自動擴展門檻值與自動縮減門檻值。

短期效能分析預測模組231的預測資源方式為，PredictByRecentData(t,t',h,n,U_c)，其中

U_c={u_c,t ,u_c,t-h ,u_c,t-2h ,u_c,t-3h ,...,u_c,t-nh ,...}

d_c,t',k=t'-t+kh

其中，C為監控項目類別的集合，c為資源，t為目前時間，t'為預測的時間點，h為每隔h分鐘蒐集一次效能資訊，n為使用的歷史效能數量，也就是目前時間往前n筆為使用的範圍，U_c為資源c的歷史效能資料的集合，u_c,t為時間t時的資源c的效能，d_c,t',k為預測時間t'與以目前時間為基準過去第k筆效能資訊產生的時間相差的值，w_c,n,k為資源c在過去歷史效能資料中的第k筆的權重，r_c,t為時間t時的資源c的使用率變化量。

長期效能分析預測模組232接收設定模組210的設定參數與效能蒐集模組220的效能資訊。設定模組210的參數包含預測的時間、時間區塊數量、長期效能分析使用的歷史效能數量、監控的項目、監控間隔、與各個監控項目的自動擴展門檻值與自動縮減門檻值。長期效能分析預測模組232的預測步驟如下：將一天的時間分為b個區塊，若b=24，則一天可分為00：00：00~00：59：99、01：00：00~01：59：59、23：00：00~23：59：59二十四個區塊；取出想要預測的時間所在區塊的歷史效能資料；每筆監控資料作為一個向量v_i,c，其中v_i,c為在時間i資源c的使用量；長期效能分析使用的歷史效能數量e，對e天內該區間的所有向量做分群，分群方法為k-means，得到k群，其中相似度計算方式可採用Euclidean Distance；去除大小排在後面一半的群，因這些群較小，較不能代表此區間的效能，因此用前

群的中心點來計算平均做為預測的效能v_average,c，其中v_average,c代表資源c預測的效能；以及

，其中centroid_i,c為資源c，群i的中心點。

請參閱圖4，如圖所示，為本發明之動態資源調整模組的架構圖，動態資源調整模組240包含三個模組，分別為判斷模組241、自動擴展模組242、自動縮減模組243。判斷模組241會接收效能預測模組230的預測結果和目前的資源使用率，並判斷預測的效能是否會超過自動擴展門檻值或目前資源使用率是否低於自動縮減門檻值，超過則執行自動擴展模組242，低於則執行自動縮減模組243。自動擴展模組242可增加虛擬機資源所分配到的數量，如虛擬機原先配置一顆一核心的中央處理器，在執行完後可分配成一顆二核心的中央處理器。反之自動縮減模組243可減少虛擬機分配的資源。

請參閱圖5，為本發明之雲端環境之資源使用率分析預測系統的架構圖之流程圖，分別以短期效能分析預測和長期效能分析預測說明。

短期效能分析預測流程：步驟S510：透過設定模組讓使用者輸入預測的時間t'、短期效能分析預測使用的歷史效能數量n、監控間隔h、監控項目類別的集合C、自動擴展門檻值T1和自動縮減門檻值T2，其中T1={t_1,1 ,t_1,2 ,...,t_1,S}，T2={t_2,1 ,t_2,2 ,...,t_2,S}，t_1,1為中央處理器使用率自動擴展的門檻值和t_2,1為中央處理器使用率縮減資源的門檻值，s=|C|；同時執行步驟S520和步驟S530，步驟S520判斷應執行短期效能分析預測或執行長期效能分析預測，當目前時間t，若t%h=0，則執行短期效能分析預測，若

，則執行長期效能分析預測，兩者可同時執行，這邊假設執行短期效能分析預測；步驟S530啟動效能蒐集模組，並每隔h分鐘執行一次，每個監控項目的效能資料集合為U_c，c為監控項目或資源，如中央處理器使用率；步驟S540執行短期效能分析預測時，分析效能資料，將步驟S530的效能資料U_c和使用者想要預測的時間t'和使用的效能資料歷史範圍n作為輸入，目前時間t，帶入到

舉例如下：目前時間為17：00，中央處理器使用率50%，預測的時間點為17：10，每2分鐘蒐集一次效能資訊，過去的中央處理器效能資訊，16：48 10%、16：50 20%、16：52 30%、16：54 35%、16：56 20%、16：58 45%，此時PredictByRecentData(t,t',h,n,U _c)=106.32，如下表1及圖6所示：

又一舉例如下：目前時間為17：00，中央處理器使用率20%，預測的時間點為17：10，每2分鐘蒐集一次效能資訊，過去的中央處理器效能資訊，16：48 10%、16：50 40%、16：52 20%、16：54 10%、16：56 30%、16：58 25%，PredictByRecentData(t,t',h,n,U _c)=14.12，如下表2及圖7所示：

步驟S560判斷預測結果是否超過T1或目前監控項目使用率低於T2，若超過則執行自動擴展模組。

長期效能分析預測流程：步驟S510透過設定模組讓使用者輸入預測的時間t'、時間區塊數量b、長期效能分析使用的歷史效能數量e、監控間隔h、監控資源項目C、自動擴展門檻值T1和自動縮減門檻值T2，其中T1={t_1,1 ,t_1,2 ,...,t_1,S}，T2={t_2,1 ,t_2,2 ,...,t_2,S}，t_1,1為中央處理器使用率自動擴展的門檻值和t_2,1為中央處理器使用率縮減資源的門檻值，s=|C|；同時執行步驟S520和步驟S530，步驟S520判斷應執行長期效能分析預測；步驟S530啟動效能蒐集模組，並每隔h分鐘執行一次，不同時間點下的資源c所蒐集到的資料作為一個向量v_i,c，其中v_i,c為在時間i資源c的使用量；長期效能分析使用的歷史效能數量e，對e天內該區間的所有向量做分群，假設時間區塊數量b=24，執行流程550，將一天24小時劃分為24個區塊，每個區塊為1小時，如00：00：00到00：59：59，23：00：00至23：59：59為最後一個區塊，然後取出e天內，預測時間所在區塊的所有歷史效能資料，對這些向量做分群，分群方法為k-means，得到k群，其中相似度計算方式可採用Euclidean Distance，分群完成後，取前

群的中心點來計算平均做為預測的效能。舉例如下：目前時間為16：50，預測的時間點為17：00，每10分鐘蒐集一次效能資訊，上個月過去的中央處理器效能資訊，總共有180筆，中央處理器使用率分別為0%~10% 10筆，10%~20% 15筆，20%~30% 20筆，30%~40% 65筆，40%~50% 30筆，50%~60% 15筆，60%~70% 10筆，70%~80% 5筆，80%~90% 5筆，90%~100% 5筆，100% 0筆，完整歷史效能請參照附錄，利用k-means對這些歷史效能做分群，k=5，，如下表3及圖8所示：

其中，群2、群1、和群5大小為前

群，統計這三個群的平均，因此v_average=42.7，42.7即為中央處理器使用率預測值；步驟S560判斷預測結果是否超過T1或目前監控項目使用率低於T2，若超過則執行自動擴展模組。

綜上可見，本發明在突破先前之技術下，確實已達到所欲增進之功效，且也非熟悉該項技藝者所易於思及，其所具之進步性、實用性，顯已符合專利之申請要件，爰依法提出專利申請，懇請貴局核准本件發明專利申請案，以勵創作，至感德便。

以上所述僅為舉例性，而非為限制性者。其它任何未脫離本發明之精神與範疇，而對其進行之等效修改或變更，均應該包含於後附之申請專利範圍中。

200‧‧‧雲端環境之資源使用率分析預測系統

210‧‧‧設定模組

220‧‧‧效能蒐集模組

230‧‧‧效能預測模組

240‧‧‧動態資源調整模組

Claims

一種雲端環境之資源使用率分析預測系統，包含：一設定模組，該設定模組係提供一輸入介面，並利用該輸入介面設定一設定參數，其中該設定參數係為一預測時間、一短期分析歷史效能數量、一時間區塊數量、一長期分析歷史效能數量、一監控間隔、一監控資源項目、一自動擴展門檻值及一自動縮減門檻值；一效能蒐集模組，該效能蒐集模組係接收該設定模組之該設定參數，並依據該設定參數中的該監控間隔與該監控資源項目，定期取得該監控資源項目之數據，並儲存；一效能預測模組，該效能預測模組係依據該效能蒐集模組所儲存之該監控資源項目之數據進行一短期效能分析預測及一長期效能分析預測；以及一動態資源調整模組，該動態資源調整模組係依據該效能預測模組之該短期效能分析預測及該長期效能分析預測判斷資源的自動擴展資源或自動減縮資源。
如申請專利範圍第1所述之雲端環境之資源使用率分析預測系統，該效能預測模組更包含一短期效能分析預測模組及一長期效能分析預測模組，其中該短期效能分析預測模組係利用該短期效能分析預測計算該預測時間內效能資料的變化率以推估預測時間的效能，以及該長期效能分析預測模組係利用長期效能分析預測透過分群演算法分群一特定區間內的效能資料，取出複數個代表該特定區間內的效能資料以推估出未來資源的預測值。
如申請專利範圍第1所述之雲端環境之資源使用率分析預測系統，該動態資源調整模組更包含一判斷模組、一自動擴展模組及一自動縮減模組，其中該判斷模組係依據該設定模組與該效能預測模組之效能預測，自動判斷是否動態調整資源並命令該自動擴展模組進行自動擴展資源及該自動縮減模組自行進行自動減縮資源。
一種雲端環境之資源使用率分析預測方法，步驟包含：透過一設定模組之一輸入介面設定預測一預測目標之一設定參數；一效能蒐集模組依據該設定參數蒐集該預測目標之效能資料；一效能預測模組依據該設定參數及該預測目標之效能資料透過一短期效能分析預測模組計算效能資料的變化率以推估效能，以及透過一長期效能分析預測模組藉由分群演算法分群一特定區間內的效能資料，取出複數個代表該特定區間內的效能資料以推估出未來資源的預測值；以及一動態資源調整模組透過一判斷模組係依據該設定模組與該效能預測模組之效能預測，自動判斷是否動態調整資源並命令一自動擴展模組進行自動擴展資源及一自動縮減模組自行進行自動減縮資源。
如申請專利範圍第4所述之雲端環境之資源使用率分析預測方法，其中該設定參數係為一預測時間、一短期分析歷史效能數量、一時間區塊數量、一長期分析歷史效能數量、一監控間隔、一監控資源項目、一自動擴展門檻值及一自動縮減門檻值。