大數(shù)據(jù)以大為本 數(shù)據(jù)挖掘技術能否“算命”？

　　BAT雖然在數(shù)據(jù)量上占據(jù)優(yōu)勢，但卻在豐富性上受到局限，甚至并不具備垂直領域UGC所具備的大數(shù)據(jù)能力。中小企業(yè)則可以充分利用自己在垂直領域里深耕的優(yōu)勢，將數(shù)據(jù)的豐富性提升上來，從而獲得差異性的優(yōu)勢。

大數(shù)據(jù)以大為本 數(shù)據(jù)挖掘技術能否“算命”？

　　大數(shù)據(jù)的門檻

　　“如果你只有一堆人的電話號碼，這可能沒多大意義。但像攜程的數(shù)據(jù)，比如所有人提前預訂、搜索、瀏覽、點評的信息等，這就是有價值的。但更深層的核心是，你能不能在某個產(chǎn)品上使用到這些數(shù)據(jù)，而且確實有幫助?！北娝C數(shù)據(jù)智能事業(yè)部總經(jīng)理焦宇說。

　　美團云大數(shù)據(jù)平臺負責人對此表示認同，“首先要弄清楚擁有的數(shù)據(jù)是否有價值，是否有人愿意為其買單。另外則是源數(shù)據(jù)的豐富度，是否能夠為數(shù)據(jù)價值的發(fā)揮帶來補充和完善”。

　　顯然，數(shù)據(jù)收集的目的并不單單是把數(shù)據(jù)集中起來，最終還是要在實際運營中發(fā)揮作用。擁有數(shù)據(jù)只是開端，如何深入分析、洞察數(shù)據(jù)彼此之間的關聯(lián)，才是大數(shù)據(jù)應用的關鍵，這也是眾多手握大數(shù)據(jù)企業(yè)的分水嶺。

　　不過，在這個過程中，有一個不容忽視的問題，那就是數(shù)據(jù)的質量問題?！板e誤的輸入，換來的必然是錯誤的輸出”，螞蜂窩大數(shù)據(jù)技術總監(jiān)韓鑫在接受采訪時就特別指出了這個問題。

　　“真正決定數(shù)據(jù)挖掘成敗的是數(shù)據(jù)本身的質量，對于算法的合理使用和優(yōu)化反而是次要的。由于大數(shù)據(jù)的興起，我們很容易獲得龐雜的數(shù)據(jù)；然而單純地指望從高深的算法中去獲得我們想要的信息而忽視數(shù)據(jù)本身的質量，往往只能是空中樓閣?！?/p>

　　對大數(shù)據(jù)而言，表面上看數(shù)據(jù)是越多越好，因為更多的數(shù)據(jù)可以產(chǎn)生更能擬合真實情況的場景，但同時更多的數(shù)據(jù)也產(chǎn)生了更多的噪音——所以單純的數(shù)據(jù)的量的增加并不能提高計算的精準度。

　　因而擁有高質量的數(shù)據(jù)，要遠比握有一堆龐雜的數(shù)據(jù)更有價值：這樣既能減少數(shù)據(jù)挖掘的難度，也有利于提高數(shù)據(jù)挖掘的精度。但是，這就是大數(shù)據(jù)的核心門檻嗎？

　　韓鑫認為：“建立完整的大數(shù)據(jù)體系還需要兩個重要的因素，業(yè)務的豐富程度和數(shù)據(jù)思維的融入?！?/p>

　　焦宇從自己的實踐經(jīng)驗出發(fā)，談了自己的看法：“對一個特別好的產(chǎn)品經(jīng)理來講，大數(shù)據(jù)的門檻首先是要理解這個東西到底是什么；第二建模能力要強。從這兩方面說，人才相對都是稀缺的。比如有些公司是有大數(shù)據(jù)的，但要找到很牛的人來做這件事情，雖然理論上講是可以隨時找到的，但事實上卻很難?！?/p>

　　“第一個是大數(shù)據(jù)。第二個方面，有人把數(shù)據(jù)比喻成‘石油’，有石油寶藏還得有機器、工具把它挖出來，這個工具就是機器學習。第三方面是計算能力的進步。工具再強，沒有非常強的計算能力，還是跑不動的。”滴滴研究院院長何曉飛則給出了這樣的答案。
?

　　數(shù)據(jù)挖掘的難點

　　數(shù)據(jù)挖掘，不像收集數(shù)據(jù)填幾張表，問幾個問題就能輕松實現(xiàn)。它的專業(yè)性相對較高，運用的知識、技術難度也明顯加大。因而大多數(shù)的數(shù)據(jù)挖掘基本是由專業(yè)人士或專業(yè)團隊來做的。

　　另外，建模的成功與否，對數(shù)據(jù)呈現(xiàn)的結果也有非常重要的影響。模型不同，結果也往往會出現(xiàn)差異。

　　“任何人都能搭出來一個模型，只要搭出模型就能有結果，但這個結果是不是反映真實世界？因為數(shù)據(jù)之間的關系，并不是直接的線性關系，因此模型可以非常復雜。所以你先得知道你要解決的是個什么問題：從統(tǒng)計上來講，是哪種類型的問題，它有什么樣的特性，你在數(shù)據(jù)上的采集有什么局限？然后再找到跟這個問題最接近的模型?！苯褂钫f。

　　“數(shù)據(jù)挖掘的難點在于，主要數(shù)據(jù)收集和最終應用之間的相互關聯(lián)卻又矛盾的關系，這類似于‘先有雞還是先有蛋’的問題。兩者之間相互影響相互補充，導致其相對其他類別的程序開發(fā)而言，是更為漫長而又復雜的過程?！?韓鑫說道。

　　無論是焦宇所說的模型，還是韓鑫所說的算法，其實都在強調一個重點：根據(jù)實際情況變化對模型和算法做出相應的調整。沒有固定的規(guī)則，只有時時更新的數(shù)據(jù)和不斷變化的情況，所以運用的規(guī)則也要因時調整。

　　美團云大數(shù)據(jù)平臺負責人則認為，如何拿到“規(guī)范的數(shù)據(jù)”才是真正的難點所在：“新美大每天產(chǎn)生p級別的數(shù)據(jù)，包括大量的商戶、用戶和交互數(shù)據(jù)；每天通過hadoop、hive、spark、storm等大數(shù)據(jù)工具進行批量和實時的清洗，才得以形成規(guī)范的數(shù)據(jù)?！?/p>

　　然而，也許最難的一點還是在于那個最實際的問題。技術快速發(fā)展，提供了像應用統(tǒng)計方法、事例推理、決策樹、規(guī)則推理、模糊集、神經(jīng)網(wǎng)絡、遺傳算法等諸多方法來處理信息，這既降低了數(shù)據(jù)挖掘的難點，同時也提高了數(shù)據(jù)挖掘的效率和精準度——但所有的這些，都需要不菲的資金。

　　許多人可能都聽說過那些使用大數(shù)據(jù)的輝煌案例：Facebook每天要存儲大約100TB的用戶數(shù)據(jù)；NASA每天要處理約24TB的數(shù)據(jù)。那么處理這些數(shù)據(jù)所需的成本是多少呢？

　　按照亞馬遜Redshift的定價，NASA需要為45天數(shù)據(jù)存儲服務支付超過100萬美元。而根據(jù)國外的一項調查，大多數(shù)企業(yè)的CIO稱他們的預算支付不起大數(shù)據(jù)部署的成本，數(shù)據(jù)存儲和處理的成本實在太高。
?