大數(shù)據(jù)分析需要通過數(shù)據(jù)分析來發(fā)現(xiàn)現(xiàn)狀,并且通過模型與預(yù)測分析技術(shù)來對改善進(jìn)行預(yù)測與優(yōu)化,國內(nèi),不論是國企還是民企,真正在業(yè)務(wù)決策中以數(shù)據(jù)分析結(jié)果為依據(jù)的,主要集中在銀行、保險(xiǎn)、電信和電商等幾個(gè)行業(yè)。
大數(shù)據(jù)”時(shí)代到來了嗎?
潮流是一股可笑又可敬的力量:今天,如果打開任何媒體,要是不提“大數(shù)據(jù)”,恐怕都不好意思出版。這股潮流,鋪天蓋地,連國家領(lǐng)導(dǎo)人都不例外。問題在于:為什么人人言必稱大數(shù)據(jù)?
數(shù)據(jù)的價(jià)值,隨著數(shù)據(jù)量的幾何級數(shù)增長,已經(jīng)不再能夠通過傳統(tǒng)的圖表得以顯現(xiàn),這正是為什么商業(yè)智能還沒來得及流行,便已被“數(shù)據(jù)分析”擠下舞臺。因?yàn)?,價(jià)值隱藏在數(shù)據(jù)中,需要數(shù)據(jù)分析方可釋放這些價(jià)值。
數(shù)據(jù)分析能力的高低,決定了價(jià)值發(fā)現(xiàn)過程的好壞與成敗。可以說,沒有數(shù)據(jù)分析,“大數(shù)據(jù)”只是一堆IT庫存,成本高而收益為零。但是國內(nèi)熱潮的“大數(shù)據(jù)”概念,目前仍然停留在數(shù)據(jù)收集、整理、存儲和簡單報(bào)表等幾個(gè)初級階段。能夠?qū)Υ髷?shù)據(jù)進(jìn)行基本分析和運(yùn)用的,只有少數(shù)幾個(gè)行業(yè)的少數(shù)企業(yè)。
對于國內(nèi)數(shù)據(jù)分析市場,我們的感覺如下:
市場巨大,許多企業(yè)(無論是互聯(lián)網(wǎng)的新銳還是傳統(tǒng)的企業(yè))都在討論這個(gè),也有實(shí)際的需求并愿意為此付錢,但是比較零碎尚不系統(tǒng)化。目前對數(shù)據(jù)需求最強(qiáng)烈的行業(yè)依此是:金融機(jī)構(gòu)(從基金到銀行到保險(xiǎn)公司到P2P公司),以廣告投放及電商為代表的互聯(lián)網(wǎng)企業(yè)等
尚沒出現(xiàn)平臺級公司的模式(這或許往往是大市場或者大機(jī)會出現(xiàn)之前的混沌期)
ToB服務(wù)的氛圍在國內(nèi)尚沒完全形成,對于一些有能力的技術(shù)公司,如果數(shù)據(jù)需求強(qiáng)烈的話,考慮到自身能力的健全以及數(shù)據(jù)安全性,往往不會外包或者采用外部模塊,而傾向于自建這塊業(yè)務(wù)
未來BAT及京東、58和滴滴打車等企業(yè),憑借其自身產(chǎn)生的海量數(shù)據(jù),必然是數(shù)據(jù)領(lǐng)域的大玩家。但是整個(gè)行業(yè)很大而且需求旺盛,即使沒有留給創(chuàng)業(yè)公司出現(xiàn)平臺級巨型企業(yè)的機(jī)會,也將留出各種各樣的細(xì)分市場機(jī)會讓大家可以獲得自己的領(lǐng)地
數(shù)據(jù)沉淀
用大白話說就是數(shù)據(jù)抓取,目前有四大方式獲取數(shù)據(jù)
網(wǎng)絡(luò)爬蟲,用Python及Go等開發(fā)了自己的爬蟲平臺,對幾十個(gè)網(wǎng)站進(jìn)行每日抓取獲得相關(guān)信息
Wi-Fi接入方案,我們自己開發(fā)了一套完整的軟硬件方案,優(yōu)勢是超高的ROI(投資回報(bào)比),且免費(fèi)提供給物業(yè)管理者,幫助其實(shí)現(xiàn)靠網(wǎng)費(fèi)賺錢以及推廣費(fèi)賺錢。在與其協(xié)商的基礎(chǔ)上,獲得用戶數(shù)據(jù)。這主要是OpenWRT的開發(fā)以及一些智能硬件和客戶端的開發(fā)。
提供一些圖像方面的API,進(jìn)行圖片搜索及人臉?biāo)阉?,滿足客戶在圖像處理和圖像識別方面的一些需求。開發(fā)主要用到一些Machine Learning和Deep Learning的算法,使用C++/Open CV/Matlab等。
數(shù)據(jù)服務(wù)需求方自行提供。
數(shù)據(jù)挖掘
用大白話說,就是利用數(shù)據(jù)分析產(chǎn)生深層次有價(jià)值的理解。基于以上各種方式獲得的數(shù)據(jù),我們可以做最簡單的統(tǒng)計(jì)分析、用戶及品牌理解、用戶畫像、各品牌或各產(chǎn)品型號之間的關(guān)系等等,了解現(xiàn)在和歷史并爭取預(yù)測未來。
常用的工具是Python/R/SPSS等,算法包括最簡單的統(tǒng)計(jì)、稍微復(fù)雜一些的Machine Learning、現(xiàn)在被捧上天的Deep Learning以及Collaborative Filtering等等。
數(shù)據(jù)呈現(xiàn)
用大白話說,就是把分析結(jié)果用最美觀和最容易理解的方式(圖標(biāo)或者圖形)展現(xiàn)出來。目前,我們大概有幾種形式:
網(wǎng)站(兼容PC端和移動端):提供給付費(fèi)的B端客戶,不對外公開,大致形勢如下
一個(gè)SaaS的公有云平臺,方便大家把自己的數(shù)據(jù)利用我們的工具來制作成為便于在網(wǎng)上特別是移動端傳播的圖文報(bào)表,即將上線,大致形態(tài)見下圖。產(chǎn)品的邏輯很簡單:讀數(shù)讀圖的需求越來越強(qiáng)烈,但是卻缺乏這樣的工具或者平臺來制作這樣圖文并茂的內(nèi)容,即使是Excel,也不能制作出適合于網(wǎng)絡(luò)傳播的圖文內(nèi)容
常使用的技術(shù)是JS+Node JS+MongoDB等等。
中國式大數(shù)據(jù)與分析的現(xiàn)狀
所謂”大數(shù)據(jù)分析“,其和”小數(shù)據(jù)分析“的唯一差別在于數(shù)據(jù)量以及數(shù)據(jù)量帶來的對于數(shù)據(jù)存儲、查詢及分析吞吐量的要求。本質(zhì)上,”大數(shù)據(jù)分析“仍然需要通過數(shù)據(jù)分析來發(fā)現(xiàn)現(xiàn)狀,找到導(dǎo)致現(xiàn)狀的根源要素,并且通過模型與預(yù)測分析技術(shù)來對改善進(jìn)行預(yù)測與優(yōu)化,并且實(shí)現(xiàn)企業(yè)運(yùn)營各個(gè)領(lǐng)域的持續(xù)改善與創(chuàng)新。要談”大數(shù)據(jù)分析”的中國現(xiàn)狀,首先必須深入了解”數(shù)據(jù)分析“在國內(nèi)的應(yīng)用情況。
國內(nèi)企業(yè),不論是國企還是民企,真正在業(yè)務(wù)決策中以數(shù)據(jù)分析結(jié)果為依據(jù)的,主要集中在銀行,保險(xiǎn),電信和電商等幾個(gè)行業(yè)。以IT預(yù)算最充沛,人員能力最強(qiáng)的銀行為例,目前主要是大型銀行在導(dǎo)入數(shù)據(jù)分析。中小銀行尚在觀望與學(xué)習(xí)階段,人員與能力建設(shè)正在起步階段。數(shù)據(jù)分析的應(yīng)用范圍主要集中在信用風(fēng)險(xiǎn)、流程優(yōu)化、市場營銷、成本與預(yù)算等幾個(gè)方面,深度尚可,但廣度一般,尚未擴(kuò)充到運(yùn)營管理的所有領(lǐng)域。
而談到“大數(shù)據(jù)”或者數(shù)據(jù)倉庫,上述行業(yè)中的絕大多數(shù)企業(yè)早已實(shí)施了各種數(shù)據(jù)倉庫,以管理數(shù)據(jù)。這種買藥再看病的模式,完全本末倒置。數(shù)據(jù)倉庫與數(shù)據(jù)庫不一樣,其使命就是為了分析而存在的。沒有分析,倉庫何用之有? 四大行之一的某大型國有銀行,90年代末期就開始花費(fèi)好幾億元IT預(yù)算,建設(shè)“數(shù)據(jù)大集中”項(xiàng)目,受該行影響,其他國內(nèi)銀行掀起了一股數(shù)據(jù)集中的熱潮。而當(dāng)時(shí)連商業(yè)智能還是個(gè)尚未傳入中國IT概念,更遑論數(shù)據(jù)分析了。15年過去了,這些被集中的數(shù)據(jù),還在么?
至于支撐起我國龐大GDP的制造業(yè)、建筑業(yè)和貿(mào)易業(yè),在運(yùn)用數(shù)據(jù)分析進(jìn)行業(yè)務(wù)決策方面,則尚未見規(guī)模。其IT開支仍然主要集中在基礎(chǔ)架構(gòu)與流程化的軟件套件領(lǐng)域(如ERP,CRM,HRM, SCM等),部分企業(yè)開始導(dǎo)入商業(yè)智能(報(bào)表、制圖、管理駕駛艙),而數(shù)據(jù)分析應(yīng)用遠(yuǎn)遠(yuǎn)沒有進(jìn)入規(guī)模發(fā)展階段。以我國制造業(yè)企業(yè)為例,從五、六年前開始熱炒“六西格瑪”、”全面質(zhì)量管理“,”精益生產(chǎn)“,盡管這些舉措對中國制造、中國創(chuàng)造等帶來本質(zhì)變化尚需時(shí)日,但是就提升企業(yè)決策能力和管理水平而言,這些舉措的的確起到了一定的作用,對于中國企業(yè)從拍腦袋到用數(shù)據(jù)決策這一本質(zhì)轉(zhuǎn)變打下了一個(gè)基礎(chǔ)。
這一現(xiàn)狀的原因,我們認(rèn)為主要體現(xiàn)在如下幾個(gè)方面:
1.企業(yè)的權(quán)力來源
數(shù)據(jù)分析才是真正的一把手工程。分析的使命,在于改善決策。決策的第一責(zé)任人,也就是企業(yè)最高層管理人員。國企,尤其是大型央企,職業(yè)經(jīng)理人體系并不完善,董事長、總經(jīng)理級別的任命是由組織部門而不是經(jīng)濟(jì)部門來決定的?!爸v政治”的人事任命體系決定了企業(yè)決策的復(fù)雜性和特殊性,科學(xué)管理方法和決策手段的推廣,完全取決于企業(yè)最高領(lǐng)導(dǎo)人本身對于這些手段的認(rèn)可程度。
另外,數(shù)據(jù)分析帶來的不僅僅是分析軟件和分析方法論,更需要決策、運(yùn)營進(jìn)行相應(yīng)的改善與調(diào)整,我們通常稱之為“變革”。 任何變革都會帶來相匹配的風(fēng)險(xiǎn)與收益。國企的權(quán)力架構(gòu)和民企、外企非常不同,哪怕總經(jīng)理決定了要變革,還得征求企業(yè)內(nèi)部各路權(quán)力部門的認(rèn)可與接受,變革的難度導(dǎo)致了我們通??吹胶吐牭降摹稗D(zhuǎn)型極其艱難”,“身為大家長要對幾十萬張嘴負(fù)責(zé)”等煽情苦情的自我表白。不要說數(shù)據(jù)分析,就連開除幾個(gè)績差員工,一不小心就要得罪人,嚴(yán)重了還要危及烏紗帽,改革談何容易。
相比之下民企和外企在這方面的轉(zhuǎn)變要敏捷、迅速很多。比如蘋果,很多年前就開始全球范圍導(dǎo)入JMP數(shù)據(jù)分析平臺,在我們的跨國團(tuán)隊(duì)的幫助下從搭建數(shù)據(jù)分析能力、規(guī)范數(shù)據(jù)分析流程、導(dǎo)入高級數(shù)據(jù)分析方法、直到生產(chǎn)與研發(fā)環(huán)節(jié)的數(shù)據(jù)分析全球標(biāo)準(zhǔn)化等工作。整個(gè)過程長達(dá)數(shù)年,涉及到龐大的機(jī)構(gòu)、人員、方法、流程的轉(zhuǎn)變,卻平穩(wěn)有序。其間還發(fā)生了Steve Jobs辭世,新任CEO上臺等足以中斷一切的重大企業(yè)事件,但導(dǎo)入數(shù)據(jù)分析能力這一過程絲毫沒有受到任何影響。
2.企業(yè)的運(yùn)營能力儲備
能力儲備也是個(gè)關(guān)鍵要素。哪怕管理層決心一致,雄心壯志,重大變革能否落地,還得取決于團(tuán)隊(duì)能否升級與被變化。意志力盡管重要,體能卻是個(gè)關(guān)鍵。數(shù)據(jù)分析對于參與者的統(tǒng)計(jì)、概率、數(shù)學(xué)、計(jì)算機(jī)、業(yè)務(wù)理解等幾個(gè)方面的能力要求甚高。盡管“能力是可以培養(yǎng)的”,但是我們在國內(nèi)這么多年的眾多數(shù)據(jù)分析導(dǎo)入項(xiàng)目中,面臨最多的挑戰(zhàn)就是人員培訓(xùn)和流程變革。
以電信運(yùn)營業(yè)為例,BOSS系統(tǒng),各種業(yè)務(wù)系統(tǒng)和數(shù)據(jù)倉庫搭建了許多年,數(shù)據(jù)分析對于客戶行為的理解與促銷產(chǎn)品的層出不窮也使得這個(gè)行業(yè)的數(shù)據(jù)分析應(yīng)用遠(yuǎn)遠(yuǎn)超過絕大多數(shù)其他行業(yè)。但電信業(yè)在大規(guī)模導(dǎo)入數(shù)據(jù)分析方面面臨的首要問題,仍然是專業(yè)人才儲備以及與數(shù)據(jù)分析有關(guān)的規(guī)章制度、決策流程與文化體系的建立。
我們在市場上看到更多的,是IT部門主導(dǎo)的數(shù)據(jù)分析項(xiàng)目。項(xiàng)目名稱是數(shù)據(jù)分析,而內(nèi)容仔細(xì)一了解,往往都是數(shù)據(jù)倉庫+企業(yè)報(bào)表。不是傳統(tǒng)財(cái)務(wù)三表,而是用于展現(xiàn)核心KPI的圖表。對“數(shù)據(jù)分析”不了解,把報(bào)表和制圖當(dāng)成“分析”,是這一現(xiàn)狀的根源。
3.市場環(huán)節(jié)與競爭壓力
不同企業(yè)對市場競爭的變化是非常不同而有趣的。比如三桶油,建立競爭力的方法,在于找油田、收購加油站,利用壟斷性政策優(yōu)勢抬高行業(yè)準(zhǔn)入門檻。三大電信運(yùn)營商,若干年前曾經(jīng)有子公司互相攻擊,甚至發(fā)展到人員斗毆,割斷對方光線網(wǎng)絡(luò)的事件。而華為與中興的競爭,若干年前除了口水仗,還有互相挖對方技術(shù)團(tuán)隊(duì)。
政策性壟斷行業(yè),盡管有壓力,但是在提升生產(chǎn)力和生產(chǎn)效率的手段方面,改變緩慢而低效。 高度市場化領(lǐng)域,比如家電,汽車,消費(fèi)電子,華工、醫(yī)藥等領(lǐng)域,對以數(shù)據(jù)分析為代表的“高級能力”的接受程度則高了不少。
綜上所述,我國企業(yè)界對于數(shù)據(jù)分析的應(yīng)用仍然停留在個(gè)別行業(yè)與個(gè)別應(yīng)用的階段。不過,盡管導(dǎo)入數(shù)據(jù)分析的過程是如此艱難而挫折,我仍然認(rèn)為,隨著我國各行業(yè)市場化進(jìn)程的推動,隨著互聯(lián)網(wǎng)、數(shù)據(jù)分析技術(shù)不斷對傳統(tǒng)產(chǎn)業(yè)的顛覆過程,“數(shù)據(jù)分析”或者“大數(shù)據(jù)分析”遲早會成為中國企業(yè)界突破藩籬的關(guān)鍵手段。
數(shù)據(jù)大不大其實(shí)一點(diǎn)也不重要
只要是數(shù)據(jù),里面必然有故事。與其在能力毫不匹配的情況下片面追求大數(shù)據(jù),還不如立即行動起來,從手頭、身邊保有的小數(shù)據(jù)當(dāng)中提取價(jià)值,進(jìn)而為真正的大數(shù)據(jù)時(shí)代的數(shù)字化決策打下基礎(chǔ)。
從微觀角度來看,我們以中國零售及消費(fèi)品行業(yè)為例,看看數(shù)據(jù)分析在這一領(lǐng)域的應(yīng)用現(xiàn)狀:
1.企業(yè)內(nèi)部采用的分析手段是非標(biāo)準(zhǔn)化的,零散的—--例如把圖表當(dāng)分析;
2.更多地關(guān)注數(shù)據(jù)獲取和管理,而不是開展面向客戶的預(yù)測性建模與數(shù)據(jù)挖掘。前者是IT工作,后者才是從數(shù)據(jù)里獲取價(jià)值的過程。
3.尚未在公司真正地運(yùn)行或者構(gòu)建持續(xù)的分析能力、分析流程和與數(shù)據(jù)分析有關(guān)的業(yè)務(wù)與管理決策機(jī)制。
而根據(jù)我們?yōu)橹袊髽I(yè)提供JMP數(shù)據(jù)分析戰(zhàn)略拓展與項(xiàng)目支持的多年經(jīng)驗(yàn),我們的建議是:
1.從項(xiàng)目級別的數(shù)據(jù)分析應(yīng)用開始,逐漸現(xiàn)成項(xiàng)目組級別的標(biāo)準(zhǔn)化分析流程與業(yè)務(wù)決策制度。借助項(xiàng)目拓展出有基本分析與應(yīng)用能力的團(tuán)隊(duì);
2.將項(xiàng)目分析經(jīng)驗(yàn)擴(kuò)展到部門級別,拓展 數(shù)據(jù)分析—價(jià)值獲取—業(yè)務(wù)決策 這一價(jià)值鏈。 根據(jù)部門級數(shù)據(jù)分析應(yīng)用的需要來開展數(shù)據(jù)獲取和管理。借助部門級引用導(dǎo)入拓展出數(shù)據(jù)分析與業(yè)務(wù)決策的流程,以及統(tǒng)一、先進(jìn)的數(shù)據(jù)分析平臺與業(yè)務(wù)實(shí)踐庫。
3.從部門級到企業(yè)級應(yīng)用,縱橫兩個(gè)維度都在拓展,需要企業(yè)管理層的高度參與與制度支持,推廣基于數(shù)據(jù)分析為核心的文化與模式轉(zhuǎn)變,建立支撐這些變化的長遠(yuǎn)的數(shù)據(jù)分析戰(zhàn)略
4.至于數(shù)據(jù)是不是夠大,是不是需要“云計(jì)算“,全看業(yè)務(wù)需要而定!
大數(shù)據(jù)挖掘的發(fā)展前景
在技術(shù)方面,科學(xué)家們從現(xiàn)有層面上提出各種新興技術(shù)。比如從數(shù)據(jù)處理角度,有分布式處理方法MapReduce,較著名的應(yīng)用工具有Hadoop 和DISCO。從數(shù)據(jù)庫角度出發(fā),在信息檢索、流媒體存儲等方面有NOSQL 開發(fā)工具,以及對應(yīng)超大規(guī)模和高并發(fā)的SNS 類型的WEB2.0 純動態(tài)網(wǎng)站而使用的非關(guān)系數(shù)據(jù)庫高速發(fā)展,如MongoDB、CouchDB。在如何提取有價(jià)值的信息,處理底層的結(jié)構(gòu)化技術(shù)支持外,數(shù)據(jù)挖掘算法,機(jī)器學(xué)習(xí)算法都是必不可少的。
在信息安全方面,大數(shù)據(jù)挖掘?qū)⒊蔀樾畔踩l(fā)展的契機(jī)。如今,數(shù)據(jù)無處不在降低了自身信息的安全性。例如存儲于云端的大量數(shù)據(jù),至今還沒有形成有效的集中管理,而單獨(dú)的管理用戶信息無法一一分辨其是否合法,這就提高了非法入侵、篡改數(shù)據(jù)信息的危險(xiǎn)性。對此,各種為信息安全服務(wù)的技術(shù)和產(chǎn)品成為大數(shù)據(jù)研究中心的方向和信息安全領(lǐng)域的首要問題。因此如何保證數(shù)據(jù)產(chǎn)業(yè)鏈的安全對信息安全發(fā)展具有重要的意義。
在企業(yè)經(jīng)營管理和產(chǎn)業(yè)服務(wù)方面,大數(shù)據(jù)挖掘?qū)⒊蔀槠髽I(yè)及服務(wù)機(jī)構(gòu)等諸多行業(yè)的轉(zhuǎn)折點(diǎn)。伴隨著大數(shù)據(jù)挖掘技術(shù)在企業(yè)管理中帶來經(jīng)濟(jì)效益的同時(shí),也帶來了管理模式的巨大改變,企業(yè)必須擁有三類人才:管理人才、分析人才及技術(shù)型人才,緊跟時(shí)代脈搏,從大數(shù)據(jù)中獲得關(guān)鍵信息,及時(shí)調(diào)整企業(yè)產(chǎn)業(yè)規(guī)劃,才能在時(shí)代變革中保持自身利益,求得生存。
在教育教學(xué)方面,面授式教學(xué),尤其在大學(xué),已經(jīng)突顯落后,一所具有強(qiáng)大數(shù)據(jù)挖掘能力的遠(yuǎn)程教學(xué)平臺,信息化教學(xué)的數(shù)字校園,能為師生提供更具個(gè)性化的數(shù)據(jù)支撐和服務(wù)。在校園啟用“大數(shù)據(jù)”,通過便捷的多元的采集方式,建立基礎(chǔ)數(shù)據(jù)平臺并和教學(xué)資源,提供標(biāo)準(zhǔn)數(shù)據(jù)接口,統(tǒng)一采集、認(rèn)證,集中存儲,開放計(jì)算,最終消除“信息孤島”。
在商業(yè)價(jià)值方面,大數(shù)據(jù)挖掘?qū)⒊蔀閯?chuàng)造價(jià)值的核心。時(shí)間雖短,歷經(jīng)二十年打開了一個(gè)新的時(shí)代,引領(lǐng)全球進(jìn)入創(chuàng)新和發(fā)展的新的競爭模式。例如,歐洲政府運(yùn)用大數(shù)據(jù)而分別節(jié)省1000 億歐元,美國醫(yī)療業(yè)則節(jié)省了和3000 億美元,此外,大數(shù)據(jù)中潛在個(gè)人信息價(jià)值不可估量。世界各國政府都加大了對大數(shù)據(jù)發(fā)展的扶持力度,特別在發(fā)達(dá)國家甚至上升到國家戰(zhàn)略的高度。
我國正步入了大數(shù)據(jù)時(shí)代發(fā)展的中堅(jiān)核心,展望未來,我們最終會利用紛繁復(fù)雜的數(shù)據(jù)建立起人工智能的信息時(shí)代。但數(shù)據(jù)大并不等于大數(shù)據(jù),當(dāng)繁雜的價(jià)值密度低的信息數(shù)據(jù)堆現(xiàn)于眼前,數(shù)據(jù)就是一個(gè)噩夢。人們無法回避對數(shù)據(jù)安全性、應(yīng)用性及隱私保護(hù)的擔(dān)憂。試想,放任軟件繼續(xù)在幾何遞增的數(shù)據(jù)庫上執(zhí)行海量的科學(xué)計(jì)算,在此基礎(chǔ)上進(jìn)行科學(xué)、經(jīng)濟(jì)和軍事安全等領(lǐng)域的決策制定,我們是不是過多地把權(quán)力交給了機(jī)器?這是研究大數(shù)據(jù)需要注意的問題。
評論
查看更多