基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的研究

基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的研究

摘要：提出了一種基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的實現(xiàn)框架，描述了系統(tǒng)的硬件構(gòu)成和軟件層次體系結(jié)構(gòu)，提出了一種對點播任務(wù)的自適應調(diào)度算法。

關(guān)鍵詞：網(wǎng)格VOD校園VOD網(wǎng)格

目前各個高校都已建立好了自己的校園網(wǎng)絡(luò)平臺。由于校園網(wǎng)絡(luò)平臺硬件設(shè)施的不斷更新發(fā)展，使得校園視頻點播服務(wù)VOD(Video On Demand)也迅速發(fā)展起來。VOD系統(tǒng)利用了網(wǎng)絡(luò)和視頻技術(shù)的優(yōu)勢，為廣大師生提供了在線的新聞、教學、資料、娛樂等節(jié)目的點播和廣播服務(wù)，并提供了大型會議和活動的直播服務(wù)。然而還存在一些具體技術(shù)問題的困擾，如流量難以控制，無法保證服務(wù)質(zhì)量，服務(wù)器集群如何布局，資源該如何共享等。網(wǎng)格技術(shù)就是將各種計算機資源連接起來，以實現(xiàn)真正意思上的資源共享。網(wǎng)格技術(shù)的應用可以解決校園V0D系統(tǒng)中所存在的一些問題。

1 網(wǎng)格技術(shù)的應用研究
網(wǎng)格是構(gòu)筑在互聯(lián)網(wǎng)上的一組新興技術(shù)，是信息社會的一種網(wǎng)絡(luò)基礎(chǔ)設(shè)施。將高速互聯(lián)網(wǎng)、高性能計算機、大型數(shù)據(jù)庫、遠程設(shè)備等融為一體，可以提供更多的資源，實現(xiàn)真正意義上的資源共享。網(wǎng)格是目前越來越重要的研究領(lǐng)域，被稱為是下一代的Internet。隨著網(wǎng)格計算研究的深入，人們越來越發(fā)現(xiàn)網(wǎng)格體系結(jié)構(gòu)的重要性，提出了一種新型網(wǎng)格體系結(jié)構(gòu)——開放網(wǎng)格體系結(jié)構(gòu)OGSA(Open Grid Services Architecture)。

OGSA是Global Grid forum 4的重要標準，是當前獲得廣泛支持的一種網(wǎng)絡(luò)體系結(jié)構(gòu)。OGSA是GT3的設(shè)計原型，重點在于把Globus思想和Web service結(jié)臺起來。在OGSA框架中，可以將一切資源(包括計算資源、存儲資源、帶寬資源、軟件資源、數(shù)據(jù)資源等)都抽象為服務(wù)。利用OGSA，有利于通過統(tǒng)一的標準接口來管理和使用網(wǎng)格。Web Service提供了一種基于服務(wù)的框架結(jié)構(gòu)。但是，Web Service面對的一般都是永久服務(wù)，而在網(wǎng)格應用環(huán)境中，大量的服務(wù)是臨時性的短暫服務(wù)，如一個計算任務(wù)的執(zhí)行等?？紤]到網(wǎng)格環(huán)境的具體特點，OGSA在原來Web Service服務(wù)概念的基礎(chǔ)上，提出了網(wǎng)格服務(wù)(Grid Service)的概念，用于解決服務(wù)發(fā)現(xiàn)、動態(tài)服務(wù)創(chuàng)建、服務(wù)生命周期管理等與l臨時服務(wù)有關(guān)的問題。

2 基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)
校園VOD系統(tǒng)的服務(wù)對象是全體使用校園網(wǎng)的普通用戶。由于用戶的層次較多．計算機水平各異，因此校園VOD一般采用基于瀏覽器的Web收看方式。在網(wǎng)絡(luò)上傳輸音／視頻多媒體信息目前主要采用流式傳輸方案。這種在Intemet／Intranet中使用流式傳輸技術(shù)的連續(xù)時基媒體稱為流媒體。然而在現(xiàn)有的大多數(shù)VOD系統(tǒng)的點播傳輸方式中，視頻內(nèi)容仍需經(jīng)由服務(wù)器到客戶端的整個端到端的路徑。由于視頻流傳輸需要很高的傳輸帶寬，且單個視頻的傳輸時間很長，一般在120min左右，這就要求解決一些技術(shù)問題：多種資源的合理調(diào)度和協(xié)調(diào)工作等；一些實時性的要求要盡快解決；對于不斷擴大的視頻服務(wù)的需求還要求解決地理上分布于校園內(nèi)部的各個孤立的VOD服務(wù)系統(tǒng)的統(tǒng)一管理和調(diào)度_。網(wǎng)格將突破傳統(tǒng)Web的局限性，將校園網(wǎng)內(nèi)所有資源(包括計算資源、存儲資源、帶寬資源、軟件資源、數(shù)據(jù)資源、信息資源、知識資源等)連成一個邏輯整體，就像一臺超級計算機一樣，為用戶提供一體化信息和應用服務(wù)(計算、存儲、訪問等)。而虛擬組織在這個虛擬環(huán)境下將最終實現(xiàn)資源共享和協(xié)同工作，徹底消除資源“孤島”。這樣，人們使用網(wǎng)格上的資源就像用電一樣簡單，為校園VOD系統(tǒng)提供了更加可靠的保障。

校園VOD網(wǎng)格解決方案的指導思想是采用OGSA。對于系統(tǒng)平臺中各個網(wǎng)格服務(wù)器之問的數(shù)據(jù)傳輸，采用現(xiàn)在國際上公認的符合OGSA規(guī)范的Globus的網(wǎng)格計算協(xié)議作為數(shù)據(jù)之間的傳輸協(xié)議。Globus是一個構(gòu)成網(wǎng)格基礎(chǔ)設(shè)施的平臺，它的作用相當于網(wǎng)格操作系統(tǒng)，擔負管理網(wǎng)格資源的重任，但它距離具體應用還相對較遠。如果直接基于Globus編寫應用程序，則會像直接使用底層API編寫windows程序一樣麻煩。因此Globus和應用程序間還需有一個橋梁，即Cactus(仙人掌)。有了Caetus的支持，編寫應用程序幾乎不需要考慮網(wǎng)格的具體問題，甚至以前的應用程序可以不加修改就能使用。Cactus是一種集成的、通用的、開放源碼的計算科學與工程問題解決環(huán)境。Cactus允許用戶將原來在個人計算機上開發(fā)的程序(不管它們原來是用C語言、C++寫的，還是用Fortran、Java語言編寫的)，轉(zhuǎn)換成能夠在虛擬的網(wǎng)格計算機上運行的并行程序；Cactus提供了簡單、抽象的API調(diào)用接口，屏蔽了系統(tǒng)的復雜特性，從而簡化了用戶界面，獲得了很強的可移置性；Cactus能夠在不同體系結(jié)構(gòu)的機器上運行，如單處理器、集群計算機和其他體系結(jié)構(gòu)的并行計算機。這樣對于那些分散在校園各處．采用不同應用程序的VOD服務(wù)器，都可以在caetus的支持下直接使用。

基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)主要是利用網(wǎng)格的方法將校園網(wǎng)格內(nèi)的多個VOD服務(wù)及其他相關(guān)信息加以整合，為用戶提供統(tǒng)一、透明的視圖。用戶只需選取其喜歡的視頻，系統(tǒng)便會自動為用戶提供最佳的視頻資源供用戶使用。而這一切對用戶來說都是透明的，用戶無需關(guān)注到底是哪個VOD主機為其提供視頻服務(wù)，更不需要關(guān)注系統(tǒng)后臺復雜的技術(shù)實現(xiàn)。

3 關(guān)鍵問題
3．1 系統(tǒng)硬件構(gòu)成
系統(tǒng)的構(gòu)建是基于地理上分布于校園網(wǎng)中的以各個VOD服務(wù)器為中心的網(wǎng)格VOD子系統(tǒng)的若干資源，如圖1所示。這些網(wǎng)格子系統(tǒng)在網(wǎng)絡(luò)拓撲、軟硬件體系結(jié)構(gòu)、安全和認證策略等方面都不盡相同。各個VOD服務(wù)器之間利用多個路由器等網(wǎng)絡(luò)設(shè)備通過校園寬帶網(wǎng)互聯(lián)起來，而在網(wǎng)格子系統(tǒng)內(nèi)的其他一些計算機則作為視頻服務(wù)器，可以對用戶透明。每個視頻服務(wù)器都掛接著獨立的大容量磁盤陣列，還有高速緩存和控制管理單元。另外在系統(tǒng)中至少還要設(shè)置一臺與所有VOD服務(wù)器都連通的網(wǎng)格管理服務(wù)器，提供與管理有關(guān)的全局動、靜態(tài)Web Service服務(wù)信息，例如，在線的用戶數(shù)、帶寬的占用率、帶寬限制、視頻所在服務(wù)器的地址等。網(wǎng)格管理服務(wù)器與用戶和VOD服務(wù)器之間所傳送的只是查詢、控制等信息，而沒有流媒體數(shù)據(jù)，帶寬要求比較低。
 

網(wǎng)格管理服務(wù)器主要承擔網(wǎng)格檢索信息服務(wù)GIIS(Grid Index Informafion Service)，具體講就是對VOD網(wǎng)格中的一些用戶信息(髟視材料)的整理和安全保密等綜合信息的索引。而視頻服務(wù)器主要對媒體數(shù)據(jù)實現(xiàn)壓縮和存儲、根據(jù)用戶的請求讀取存儲器上的節(jié)目、實時地向用戶端進行軟件傳輸。此外，每臺視頻服務(wù)器還要啟動若干信息提供者負責將播放的一些信息及各硬件資源的負載狀況等提交給本地的VOD服務(wù)器中的網(wǎng)格資源信息服務(wù)GRIS(Grid Resource Information Service)，以便于動態(tài)選擇負載較輕、響應較快的視頻服務(wù)器來提供資源。網(wǎng)格路由器的運行機制類似于IP路由器，不同之處在于網(wǎng)格路由器既可以接收或轉(zhuǎn)發(fā)資源定位請求，同時也可以存儲物理服務(wù)到虛擬服務(wù)的映射關(guān)系。為防止信息泛洪和路由回路，可對資源請求的傳播距離——轉(zhuǎn)發(fā)跳數(shù)規(guī)定上限。此外還可以限定資源匹配的數(shù)量來減少網(wǎng)格路由器間的通信量，提高資源定位的性能。

3．2 系統(tǒng)軟件體系結(jié)構(gòu)
網(wǎng)格VOD系統(tǒng)的軟件體系結(jié)構(gòu)主要由三個層次構(gòu)成，如圖2所示。

(1)網(wǎng)格資源層
這些資源包括VOD系統(tǒng)中的所有數(shù)據(jù)庫、數(shù)據(jù)倉庫及文件目錄，各種存儲設(shè)備，各種計算資源(包括超級計算機、PC)，它們通過校園寬帶網(wǎng)絡(luò)實現(xiàn)物理連接。

(2)網(wǎng)格VOD服務(wù)層
提供網(wǎng)格VOD系統(tǒng)的一體化管理與處理平臺，主要功能是協(xié)調(diào)多種資源的共享，為綜合使用各類資源提供數(shù)據(jù)存儲、組織管理、分發(fā)、檢索和處理認證等服務(wù)。

(3)網(wǎng)格VOD應用層
在VOD網(wǎng)格服務(wù)層的基礎(chǔ)上，提供一個面向應用領(lǐng)域的VOD集成應用環(huán)境。面向各個具體應用領(lǐng)域，提供Web服務(wù)、用戶管理、資源調(diào)配、統(tǒng)一調(diào)度和流量監(jiān)視等功能。根據(jù)資源信息的使用模式和使用特點提供使用政策和協(xié)議、應用軟件工具和應用開發(fā)平臺等，以建立資源信息處理與服務(wù)集成環(huán)境。

整個系統(tǒng)的信息可分為靜態(tài)信息(如網(wǎng)絡(luò)拓撲、網(wǎng)絡(luò)節(jié)點的IP地址和軟件版本等)和動態(tài)實時信息(如系統(tǒng)的負載狀況)兩類，信息共享，尤其是資源、負載等動態(tài)信息的共享和管理是網(wǎng)格系統(tǒng)的主要特征之一，也是一個網(wǎng)格系統(tǒng)順利調(diào)度與運轉(zhuǎn)的基礎(chǔ)。

3.3 調(diào)度程序
在整個網(wǎng)格VOD系統(tǒng)中，應用層的調(diào)度程序是最復雜的部分，幾乎牽涉到系統(tǒng)中的所有組件系統(tǒng)中所維護管理的信息大都為調(diào)度程序的決策暇務(wù)。不論是采用面向系統(tǒng)的調(diào)度策略(如Condoz-G)，還是采用面向應用的調(diào)度策略(如Apples，Nimrod／G，Netsolve)，它們的主要調(diào)度對象都是面向科學計算任務(wù)的處理器、存儲器和網(wǎng)絡(luò)等“裸”的硬件資源，向用戶提供的接口也是主要針對批處理作業(yè)設(shè)計的接口，調(diào)度目標比較單一，主要是宴現(xiàn)結(jié)點的負載平衡。當經(jīng)過安全認證的用戶請求提交給調(diào)度程序時，調(diào)度程序首先根據(jù)用戶IP、任務(wù)的資酥需求、網(wǎng)絡(luò)配置等靜態(tài)信息進行初步的過濾，然后收集細節(jié)的動態(tài)信息。按照一定的策略選定一個視頻服務(wù)器，進行資源的預留、任務(wù)提交并監(jiān)督任務(wù)的執(zhí)行。其間可能會觸發(fā)視頻服務(wù)器文件資源的配置的改變，任務(wù)完成后還要清除任務(wù)。其調(diào)度策略遵循以下兩個原則：
 

(1)本地優(yōu)先原則。當本地網(wǎng)格VOD子系統(tǒng)負載較輕且存儲有所要求的節(jié)目時，直接在本地進行調(diào)度，不必考慮全局情況。該原則出于兩個考慮：①跨子網(wǎng)傳輸?shù)难舆t一般較大；②在主干網(wǎng)絡(luò)上的帶寬一般是有限的，而且費用也較高。
 

(2)VOD子系統(tǒng)問負載相對均衡原則。當本地的負載量已達到某個給定的平衡點但還沒有達到允許的上限時，就開始考慮在整個網(wǎng)絡(luò)內(nèi)使用目標規(guī)劃的方法選擇合適的子系統(tǒng)，這樣既避免了負載很輕時做無謂的全局協(xié)調(diào)，又避免了本地滿載時才進行系統(tǒng)間調(diào)度有可能造成的被動局面。當本地系統(tǒng)負載達到平衡點時，調(diào)度管理模塊開始查看是否有必要對該節(jié)目增加備份。

基于對網(wǎng)格概念、相關(guān)技術(shù)的研究和網(wǎng)格應用的探索以及對校園VOD系統(tǒng)的研究和建設(shè)經(jīng)驗，本文提出的一種基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的實現(xiàn)方案，主要特點在于它可以構(gòu)建在各種異構(gòu)平臺之上，具有廣泛的適用性和自適應性，支持前所未有的規(guī)模和擴張能力。