大數(shù)據(jù)開源技術(shù)大變遷

　　在這個基礎(chǔ)上，我們看到很多開源云計算、大數(shù)據(jù)技術(shù)框架得到了飛速發(fā)展，其中更有一些已經(jīng)成文業(yè)內(nèi)事實上的標準。這些開源框架的出現(xiàn)大幅度降低了云計算和大數(shù)據(jù)技術(shù)的使用門檻，然而同時新的問題也隨之浮現(xiàn)，即如生產(chǎn)環(huán)境使用挑戰(zhàn)。為此，2016年，CSDN特舉辦了一場面向開發(fā)者的云計算技術(shù)大會——2016中國云計算技術(shù)大會（CCTC 2016），以實際應用和實踐調(diào)優(yōu)為主，力邀Intel、微軟、IBM、AWS、Hortonworks、Databricks、Elastic、百度、阿里、騰訊、華為、樂視、京東、小米、微博、迅雷、青云、國家電網(wǎng)、中國移動、長安汽車、廣發(fā)證券、民生銀行、國家超級計算廣州中心等機構(gòu)的60+頂級技術(shù)講師授業(yè)布道，為各位基礎(chǔ)設(shè)施維護的與會者指點迷津。
　　大會召開前期，特別梳理了歷屆大會亮點以記錄中國云計算技術(shù)大會發(fā)展歷程，并立足當下生態(tài)圈現(xiàn)狀對即將召開的CCTC 2016進行展望。
　　讀開源云計算&大數(shù)據(jù)技術(shù)演變
　　業(yè)務需求刺激下，大數(shù)據(jù)生態(tài)繁花似錦
　　近年內(nèi)，隨著越來越多的設(shè)備接入互聯(lián)網(wǎng)，當下一年所產(chǎn)生的數(shù)據(jù)往往是以往數(shù)年的總和。而據(jù)Global Cloud Index預計，截止至2020年互聯(lián)設(shè)備數(shù)量將達到500億，眾多爆發(fā)式增長的設(shè)備預計在2017年便會產(chǎn)生高達7.7 ZB的互聯(lián)網(wǎng)數(shù)據(jù)。在這個大背景下，各個機構(gòu)都積累了足夠多的數(shù)據(jù)，從而對數(shù)據(jù)進行分析并產(chǎn)生指導實踐的見解也成為了企業(yè)提高競爭力的迫切需求。在這個需求刺激下，開源大數(shù)據(jù)技術(shù)生態(tài)圈得到了飛速發(fā)展——在數(shù)據(jù)的整個生命周期中，從收集到處理，一直到數(shù)據(jù)可視化和儲存，各種開源技術(shù)框架林立。
　　在開源大數(shù)據(jù)處理上，出于對成本和數(shù)據(jù)量的考慮，橫向擴展已經(jīng)必不可少，因此在這個領(lǐng)域涌現(xiàn)出大量優(yōu)秀的集群計算框架，其中大家首先想到的就是Hadoop。Hadoop天生高貴，由原雅虎工程師Doug Cutting在Google論文的啟發(fā)下建立，也是時下生產(chǎn)環(huán)境部署最多的計算框架。然而，隨著內(nèi)存成本的降低和對不同處理類型需求的增加，缺乏對內(nèi)存有效利用及資源調(diào)度粒度的不夠，業(yè)內(nèi)涌現(xiàn)出大量優(yōu)秀的計算框架并占據(jù)一席之地，其中備受關(guān)注的包括Apache Spark、Apache Flink、Apache Storm/JStorm等，整個大數(shù)據(jù)生態(tài)繁華似錦。
　　開源IaaS發(fā)展，從百花齊放到一家獨大
　　如上文所述，隨著接入互聯(lián)網(wǎng)的設(shè)備增多，企業(yè)IT基礎(chǔ)設(shè)施往往需要承受以往數(shù)倍的壓力，從而對原有的資源組織方式提出了嚴峻的挑戰(zhàn)。在這個前提下，云計算得以快速發(fā)展并在各行各業(yè)落地，更成為許多創(chuàng)業(yè)公司的立足之本。而作為云計算的一種重要形式，IaaS服務有各種開源和商業(yè)云平臺方案，作為當前最成功的云計算平臺，AWS更是吸引了眾多的關(guān)注和模仿，如果說云計算發(fā)展到如今的火爆，除了IT技術(shù)的發(fā)展趨勢，更重要的是背后頂級云計算廠商的大力支持和推廣。我們最早聽到IaaS概念可以追溯到1983年，一家在現(xiàn)在看來非常厲害的公司Sun Microsystems就提出了“網(wǎng)絡(luò)是電腦”的概念，但是由于概念太超前，在當時并沒有引起重視。
　　隨著Amazon推出其彈性云計算，并在IaaS領(lǐng)域大獲成功，Google、微軟、VMware、IBM等IT巨頭們大舉跟進，紛紛涉足云計算領(lǐng)域，云計算的熱潮洶涌而至。在這期間，開源IaaS領(lǐng)域發(fā)展同樣迅猛，從最早的Eucalyptus、OpenNebula、CloudStack等到我們熟知的OpenStack，百花齊放，百家爭鳴，一時云計算領(lǐng)域熱鬧非凡，當然，隨著眾多大型廠商的支持、社區(qū)的壯大以及生態(tài)的不斷完善，OpenStack如今大放異彩，開始逐漸占據(jù)主導。不是說OpenStack現(xiàn)在完美無缺，只是在當下的開源IaaS領(lǐng)域，OpenStack已經(jīng)毫無爭議的成為最受關(guān)注的云計算技術(shù)，并逐漸成為開源IaaS領(lǐng)域的代名詞。
　　容器技術(shù)異軍突起，從技術(shù)演進到標準、生態(tài)之爭
　　Docker，時下最火的容器技術(shù)，從誕生到進軍生產(chǎn)環(huán)境，每一步的技術(shù)演進都受到了巨大的關(guān)注。其實，談及容器技術(shù)，其實Docker并非首創(chuàng)，早在十數(shù)年前，容器技術(shù)便已有雛形，但是以Solomon Hykes為首的一幫工程師敏銳的發(fā)現(xiàn)了容器技術(shù)在云計算領(lǐng)域的巨大潛力，隨后迅速技術(shù)轉(zhuǎn)型，開始投向容器技術(shù)并且從一開始就走開源路線，這位身上流著美國與法國的血統(tǒng)，喜歡網(wǎng)咖打電動，酷愛摩托車的年輕人開始了一段非凡的浪漫之旅。
　　無論是版本的迭代還是進軍生產(chǎn)環(huán)境，Docker這三年來的發(fā)展可以說是如魚得水，當然，期間也受到過質(zhì)疑，比如CoreOS與Docker的標準之爭就在容器圈引起了不大不小的轟動，最后以Solomon和CoreOS的創(chuàng)始人Alex Polvi握手言和告終。之后隨著Docker版本的更新，在網(wǎng)絡(luò)和安全、存儲等領(lǐng)域的短板被逐漸補足之后，Docker的集群能力得以完善。
　　容器引擎領(lǐng)域，雖說有CoreOS團隊開源的rkt項目，但是和Docker相比，在用戶以及社區(qū)活躍度方面都有很大差距。容器的編排，可以說在目前Docker領(lǐng)域受到的關(guān)注度前所未有，從Mesos到Kubernetes，圍繞兩種技術(shù)的編排之爭超乎想象，由于背后都有大批的廠商支持，短期內(nèi)，這兩種技術(shù)都將得到迅速的發(fā)展，某一方不會形成壓倒性優(yōu)勢，另外，從Docker公司的角度，背后的動作也有對編排的考量，綜述所述，容器生態(tài)中，圍繞Docker的生態(tài)之爭才剛剛開始。
　　析開源云計算&大數(shù)據(jù)技術(shù)最新實踐
　　Docker短板補足，生產(chǎn)級實踐備受關(guān)注
　　如上文所述，在Docker版本的更新過程中，自身的一些技術(shù)缺陷得到了彌補，Docker在安全、存儲以及網(wǎng)絡(luò)領(lǐng)域的短板得到逐步的解決，Docker進軍生產(chǎn)環(huán)境已經(jīng)成為大勢所趨。國外，在Docker應用領(lǐng)域有著比較先進的經(jīng)驗。國內(nèi)目前真正將Docker應用在生產(chǎn)領(lǐng)域的很少，其中應用在核心業(yè)務的就更少，Docker從誕生到現(xiàn)在，已經(jīng)3年時間，如果繼續(xù)炒作Docker的優(yōu)越已經(jīng)毫無意義，當下，開發(fā)者們最為關(guān)心的是如何讓Docker真正落地，如何在生產(chǎn)環(huán)境中使用Docker，急需這個領(lǐng)域有一些第一個吃螃蟹的企業(yè)出來分享他們的經(jīng)驗和教訓。
　　為此，2016 Container峰會聚焦生產(chǎn)級實踐，邀請了在金融、教育、制造、證券等領(lǐng)域已經(jīng)應用Docker的企業(yè)技術(shù)負責人到場，給我們談談他們在生產(chǎn)環(huán)境中是如何使用Docker的，大規(guī)模部署Docker的經(jīng)驗和趟過的坑。比如我們請到了民生銀行架構(gòu)管理中心副主任周越博帶來《Docker助力互聯(lián)網(wǎng)金融新架構(gòu)》，長安汽車分布式技術(shù)架構(gòu)室室主任黃俊帶來《容器化技術(shù)在長安汽車中的實踐》，廣發(fā)證券信息技術(shù)部資深架構(gòu)師、交易云技術(shù)研發(fā)團隊負責人楊濤帶來的《廣發(fā)證券基于大規(guī)模docker容器集群的OpenTrading證券交易云實踐之路》，另外，哈有永信至誠科技股份有限公司副總裁帶來的《CloudStack＋Docker構(gòu)建云端信息安全實驗場》。
　　OpenStack式微？如何借勢Docker
　　無可否認，Docker的發(fā)展熱度在一定程度上掩蓋了OpenStack的光芒，但是作為開源IaaS領(lǐng)域的首選平臺，IaaS如何和Docker和諧發(fā)展，或者如何借勢Docker彌補OpenStack在技術(shù)領(lǐng)域的短板，已經(jīng)成為很多開發(fā)者關(guān)注的焦點。另外，上屆的OpenStack技術(shù)峰會，我們邀請到IBM云計算架構(gòu)師劉光亞分享了《深度解析Docker和OpenStack系統(tǒng)集成》收到了眾多參會者的廣泛關(guān)注，今年OpenStack技術(shù)峰會，我們同樣邀請到九州云OpenStack 開發(fā)工程師張雷為大家分享如何基于Docker部署升級OpenStack，此外，對于已經(jīng)部署了OpenStack基礎(chǔ)服務的用戶而言，如何最大化地發(fā)揮底層服務的能力、優(yōu)化資源使用，同時提升用戶體驗，我們邀請到IBM高級研究員，OpenStack Senlin項目組長、Heat項目的Core滕啟明博士來為我們分享如何通過編程充分發(fā)揮OpenStack云的能力。值得一提的是，對于OpenStack在企業(yè)的實踐，我們也邀請到中國移動，中國銀聯(lián)、國家電網(wǎng)、華為、ebay、順豐快遞等頂級工程師，分享他們在OpenStack實踐方面的感悟。
　　Hadoop老矣？時下開源大數(shù)據(jù)生態(tài)解讀
　　如前文所述，在海量數(shù)據(jù)處理上，橫向擴展已毋庸置疑。而在這個領(lǐng)域，由Hadoop 2.0中誕生的YARN無疑最為耀眼，也是時下生產(chǎn)環(huán)境部署最為廣泛的開源框架。在本屆CCTC 2016上，華為印研Hadoop工程團隊架構(gòu)師、Hadoop Committer Naganarasimha Garla將從技術(shù)角度解析YARN的異構(gòu)實現(xiàn)，而Hulu大數(shù)據(jù)架構(gòu)組負責人董西成將分享YARN在生產(chǎn)環(huán)境中的異構(gòu)應用與實踐。
　　談到開源海量數(shù)據(jù)處理，行業(yè)內(nèi)首先落地的無疑是批量計算，而在這方面，MapReduce無疑是鼻祖，也是時下生產(chǎn)環(huán)境部署最多的計算框架。然而正如上文所述，缺少對內(nèi)存的有效利用和業(yè)務對不同類型計算的需求，效率比較低的MapReduce同樣面臨著大量競爭者，其中兩個備受關(guān)注的就是Spark和Flink。因此，在CCTC 2016上，主辦方特設(shè)置了2016中國Spark技術(shù)峰會，不僅有3位Apache Spark Committer Ram Sriharsha、連城、范文臣為大家解析Spark 2.0，來自Intel、Hortonworks、Elastic、騰訊、新浪微博、Admaster、MediaV等國內(nèi)外機構(gòu)的近十位專家將帶來最新的Spark實踐分享，詳情可以看筆者之前的峰會解析。而在Flink方面，F(xiàn)link 活躍貢獻者，萬達金融李呈祥將為大家分享名為“Apache Flink： Stream engine beyond Batch”的議題。
　　此外，基于大量用戶的生產(chǎn)歡迎使用，Hadoop同樣亦在飛速進步，就比如說之前一直由HDF和HBase的存儲層已面臨Kudu（Cloudera開源）的強力挑戰(zhàn)，而在本次會議上，小米云平臺軟件工程師常冰琳將帶來小米在Kudu等開源大數(shù)據(jù)上的實踐。同時，阿里云技術(shù)專家曹龍（封神）也會分享阿里的Hadoop相關(guān)實踐。
　　當然，滿足業(yè)務需求，生產(chǎn)環(huán)境使用是大家所追求的共同目的，因此在本屆峰會上，我們特邀了中移動蘇研薛港，百度高級產(chǎn)品經(jīng)理、百度開放云大數(shù)據(jù)平臺產(chǎn)品負責人張琪，騰訊高級工程師許振文，京東搜索與大數(shù)據(jù)平臺部數(shù)據(jù)倉庫研發(fā)部高級經(jīng)理劉業(yè)輝，平安科技高級研究員夏磊豪，青云QingCloud系統(tǒng)工程師周小四為大家分享各大知名機構(gòu)的第一手實踐，詳情可訪問CCTC 2016日程。
?