一文認(rèn)識(shí)并讀懂大數(shù)據(jù)

0 評(píng)論 12356 瀏覽 35 收藏 52 分鐘

在寫(xiě)這篇文章之前,我發(fā)現(xiàn)身邊很多IT人對(duì)于這些熱門(mén)的新技術(shù)、新趨勢(shì)往往趨之若鶩卻又很難說(shuō)的透徹,如果你問(wèn)他大數(shù)據(jù)和你有什么關(guān)系?估計(jì)很少能 說(shuō)出一二三來(lái)。究其原因,一是因?yàn)榇蠹覍?duì)新技術(shù)有著相同的原始渴求,至少知其然在聊天時(shí)不會(huì)顯得很“土鱉”;二是在工作和生活環(huán)境中真正能參與實(shí)踐大數(shù)據(jù) 的案例實(shí)在太少了,所以大家沒(méi)有必要花時(shí)間去知其所以然。

我希望有些不一樣,所以對(duì)該如何去認(rèn)識(shí)大數(shù)據(jù)進(jìn)行了一番思索,包括查閱了資料,翻閱了最新的專(zhuān)業(yè)書(shū)籍,但我并不想把那些零散的資料碎片或不同理解論述簡(jiǎn)單規(guī)整并堆積起來(lái)形成毫無(wú)價(jià)值的轉(zhuǎn)述或評(píng)論,我很真誠(chéng)的希望進(jìn)入事物探尋本質(zhì)。

如果你說(shuō)大數(shù)據(jù)就是數(shù)據(jù)大,或者侃侃而談4個(gè)V,也許很有深度的談到BI或預(yù)測(cè)的價(jià)值,又或者拿Google和Amazon舉例,技術(shù)流可能會(huì)聊起 Hadoop和Cloud Computing,不管對(duì)錯(cuò),只是無(wú)法勾勒對(duì)大數(shù)據(jù)的整體認(rèn)識(shí),不說(shuō)是片面,但至少有些管窺蠡測(cè)、隔衣瘙癢了?!苍S,“解構(gòu)”是最好的方法。

怎樣結(jié)構(gòu)大數(shù)據(jù)?

首先,我認(rèn)為大數(shù)據(jù)就是互聯(lián)網(wǎng)發(fā)展到現(xiàn)今階段的一種表象或特征而已,沒(méi)有必要神話它或?qū)λ3志次分?,在以云?jì)算為代表的技術(shù)創(chuàng)新大幕的襯托下,這些原本很難收集和使用的數(shù)據(jù)開(kāi)始容易被利用起來(lái)了,通過(guò)各行各業(yè)的不斷創(chuàng)新,大數(shù)據(jù)會(huì)逐步為人類(lèi)創(chuàng)造更多的價(jià)值。

其次,想要系統(tǒng)的認(rèn)知大數(shù)據(jù),必須要全面而細(xì)致的分解它,我著手從三個(gè)層面來(lái)展開(kāi):

第一層面是理論,理論是認(rèn)知的必經(jīng)途徑,也是被廣泛認(rèn)同和傳播的基線。我會(huì)從大數(shù)據(jù)的特征定義理解行業(yè)對(duì)大數(shù)據(jù) 的整體描繪和定性;從對(duì)大數(shù)據(jù)價(jià)值的探討來(lái)深入解析大數(shù)據(jù)的珍貴所在;從對(duì)大數(shù)據(jù)的現(xiàn)在和未來(lái)去洞悉大數(shù)據(jù)的發(fā)展趨勢(shì);從大數(shù)據(jù)隱私這個(gè)特別而重要的視角 審視人和數(shù)據(jù)之間的長(zhǎng)久博弈。

第二層面是技術(shù),技術(shù)是大數(shù)據(jù)價(jià)值體現(xiàn)的手段和前進(jìn)的基石。我將分別從云計(jì)算、分布式處理技術(shù)、存儲(chǔ)技術(shù)和感知技術(shù)的發(fā)展來(lái)說(shuō)明大數(shù)據(jù)從采集、處理、存儲(chǔ)到形成結(jié)果的整個(gè)過(guò)程。

第三層面是實(shí)踐,實(shí)踐是大數(shù)據(jù)的最終價(jià)值體現(xiàn)。我將分別從互聯(lián)網(wǎng)的大數(shù)據(jù),政府的大數(shù)據(jù),企業(yè)的大數(shù)據(jù)和個(gè)人的大數(shù)據(jù)四個(gè)方面來(lái)描繪大數(shù)據(jù)已經(jīng)展現(xiàn)的美好景象及即將實(shí)現(xiàn)的藍(lán)圖。

?和大數(shù)據(jù)相關(guān)的理論

? 特征定義

最早提出大數(shù)據(jù)時(shí)代到來(lái)的是麥肯錫:“數(shù)據(jù),已經(jīng)滲透到當(dāng)今每一個(gè)行業(yè)和業(yè)務(wù)職能領(lǐng)域,成為重要的生產(chǎn)因素。人們對(duì)于海量數(shù)據(jù)的挖掘和運(yùn)用,預(yù)示著新一波生產(chǎn)率增長(zhǎng)和消費(fèi)者盈余浪潮的到來(lái)。”

業(yè)界(IBM 最早定義)將大數(shù)據(jù)的特征歸納為4個(gè)“V”(量Volume,多樣Variety,價(jià)值Value,速Velocity),或者說(shuō)特點(diǎn)有四個(gè)層面:第一, 數(shù)據(jù)體量巨大。大數(shù)據(jù)的起始計(jì)量單位至少是P(1000個(gè)T)、E(100萬(wàn)個(gè)T)或Z(10億個(gè)T);第二,數(shù)據(jù)類(lèi)型繁多。比如,網(wǎng)絡(luò)日志、視頻、圖 片、地理位置信息等等。第三,價(jià)值密度低,商業(yè)價(jià)值高。第四,處理速度快。最后這一點(diǎn)也是和傳統(tǒng)的數(shù)據(jù)挖掘技術(shù)有著本質(zhì)的不同。

其實(shí)這些V并不能真正說(shuō)清楚大數(shù)據(jù)的所有特征,下面這張圖對(duì)大數(shù)據(jù)的一些相關(guān)特性做出了有效的說(shuō)明。

36大數(shù)據(jù)

古語(yǔ)云:三分技術(shù),七分?jǐn)?shù)據(jù),得數(shù)據(jù)者得天下。先不論誰(shuí)說(shuō)的,但是這 句話的正確性已經(jīng)不用去論證了。維克托·邁爾-舍恩伯格在《大數(shù)據(jù)時(shí)代》一書(shū)中舉了百般例證,都是為了說(shuō)明一個(gè)道理:在大數(shù)據(jù)時(shí)代已經(jīng)到來(lái)的時(shí)候要用大數(shù) 據(jù)思維去發(fā)掘大數(shù)據(jù)的潛在價(jià)值。書(shū)中,作者提及最多的是Google如何利用人們的搜索記錄挖掘數(shù)據(jù)二次利用價(jià)值,比如預(yù)測(cè)某地流感爆發(fā)的趨 勢(shì);Amazon如何利用用戶(hù)的購(gòu)買(mǎi)和瀏覽歷史數(shù)據(jù)進(jìn)行有針對(duì)性的書(shū)籍購(gòu)買(mǎi)推薦,以此有效提升銷(xiāo)售量;Farecast如何利用過(guò)去十年所有的航線機(jī)票價(jià) 格打折數(shù)據(jù),來(lái)預(yù)測(cè)用戶(hù)購(gòu)買(mǎi)機(jī)票的時(shí)機(jī)是否合適。

那么,什么是大數(shù)據(jù)思維?維克托·邁爾-舍恩伯格認(rèn)為,1-需要全部數(shù)據(jù)樣本而不是抽樣;2-關(guān)注效率而不是精確度;3-關(guān)注相關(guān)性而不是因果關(guān)系。

阿里巴巴的王堅(jiān)對(duì)于大數(shù)據(jù)也有一些獨(dú)特的見(jiàn)解,比如,

“今天的數(shù)據(jù)不是大,真正有意思的是數(shù)據(jù)變得在線了,這個(gè)恰恰是互聯(lián)網(wǎng)的特點(diǎn)?!?/p>

“非互聯(lián)網(wǎng)時(shí)期的產(chǎn)品,功能一定是它的價(jià)值,今天互聯(lián)網(wǎng)的產(chǎn)品,數(shù)據(jù)一定是它的價(jià)值。”

“你千萬(wàn)不要想著拿數(shù)據(jù)去改進(jìn)一個(gè)業(yè)務(wù),這不是大數(shù)據(jù)。你一定是去做了一件以前做不了的事情。”

特別是最后一點(diǎn),我是非常認(rèn)同的,大數(shù)據(jù)的真正價(jià)值在于創(chuàng)造,在于填補(bǔ)無(wú)數(shù)個(gè)還未實(shí)現(xiàn)過(guò)的空白。

有人把數(shù)據(jù)比喻為蘊(yùn)藏能量的煤礦。煤炭按照性質(zhì)有焦煤、無(wú)煙煤、肥煤、貧煤等分類(lèi),而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類(lèi)似,大數(shù)據(jù)并不在“大”,而在于“有用”。價(jià)值含量、挖掘成本比數(shù)量更為重要。

? 價(jià)值探討

大數(shù)據(jù)是什么?投資者眼里是金光閃閃的兩個(gè)字:資產(chǎn)。比如,F(xiàn)acebook上市時(shí),評(píng)估機(jī)構(gòu)評(píng)定的有效資產(chǎn)中大部分都是其社交網(wǎng)站上的數(shù)據(jù)。

如果把大數(shù)據(jù)比作一種產(chǎn)業(yè),那么這種產(chǎn)業(yè)實(shí)現(xiàn)盈利的關(guān)鍵,在于提高對(duì)數(shù)據(jù)的“加工能力”,通過(guò)“加工”實(shí)現(xiàn)數(shù)據(jù)的“增值”。

Target 超市以20多種懷孕期間孕婦可能會(huì)購(gòu)買(mǎi)的商品為基礎(chǔ),將所有用戶(hù)的購(gòu)買(mǎi)記錄作為數(shù)據(jù)來(lái)源,通過(guò)構(gòu)建模型分析購(gòu)買(mǎi)者的行為相關(guān)性,能準(zhǔn)確的推斷出孕婦的具體臨盆時(shí)間,這樣Target的銷(xiāo)售部門(mén)就可以有針對(duì)的在每個(gè)懷孕顧客的不同階段寄送相應(yīng)的產(chǎn)品優(yōu)惠卷。

Target的例子是一個(gè)很典型的案例,這樣印證了維克托·邁爾-舍恩伯格提過(guò)的一個(gè)很有指導(dǎo)意義的觀點(diǎn):通過(guò)找出一個(gè)關(guān)聯(lián)物并監(jiān)控它,就可以預(yù)測(cè) 未來(lái)。Target通過(guò)監(jiān)測(cè)購(gòu)買(mǎi)者購(gòu)買(mǎi)商品的時(shí)間和品種來(lái)準(zhǔn)確預(yù)測(cè)顧客的孕期,這就是對(duì)數(shù)據(jù)的二次利用的典型案例。如果,我們通過(guò)采集駕駛員手機(jī)的GPS 數(shù)據(jù),就可以分析出當(dāng)前哪些道路正在堵車(chē),并可以及時(shí)發(fā)布道路交通提醒;通過(guò)采集汽車(chē)的GPS位置數(shù)據(jù),就可以分析城市的哪些區(qū)域停車(chē)較多,這也代表該區(qū) 域有著較為活躍的人群,這些分析數(shù)據(jù)適合賣(mài)給廣告投放商。

不管大數(shù)據(jù)的核心價(jià)值是不是預(yù)測(cè),但是基于大數(shù)據(jù)形成決策的模式已經(jīng)為不少的企業(yè)帶來(lái)了盈利和聲譽(yù)。

從大數(shù)據(jù)的價(jià)值鏈條來(lái)分析,存在三種模式:

1- 手握大數(shù)據(jù),但是沒(méi)有利用好;比較典型的是金融機(jī)構(gòu),電信行業(yè),政府機(jī)構(gòu)等。

2- 沒(méi)有數(shù)據(jù),但是知道如何幫助有數(shù)據(jù)的人利用它;比較典型的是IT咨詢(xún)和服務(wù)企業(yè),比如,埃森哲,IBM,Oracle等。

3- 既有數(shù)據(jù),又有大數(shù)據(jù)思維;比較典型的是Google,Amazon,Mastercard等。

未來(lái)在大數(shù)據(jù)領(lǐng)域最具有價(jià)值的是兩種事物:1-擁有大數(shù)據(jù)思維的人,這種人可以將大數(shù)據(jù)的潛在價(jià)值轉(zhuǎn)化為實(shí)際利益;2-還未有被大數(shù)據(jù)觸及過(guò)的業(yè)務(wù)領(lǐng)域。這些是還未被挖掘的油井,金礦,是所謂的藍(lán)海。

Wal-Mart作為零售行業(yè)的巨頭,他們的分析人員會(huì)對(duì)每個(gè)階段的銷(xiāo)售記錄進(jìn)行了全面的分析,有一次他們無(wú)意中發(fā)現(xiàn)雖不相關(guān)但很有價(jià)值的數(shù)據(jù),在 美國(guó)的颶風(fēng)來(lái)臨季節(jié),超市的蛋撻和抵御颶風(fēng)物品竟然銷(xiāo)量都有大幅增加,于是他們做了一個(gè)明智決策,就是將蛋撻的銷(xiāo)售位置移到了颶風(fēng)物品銷(xiāo)售區(qū)域旁邊,看起 來(lái)是為了方便用戶(hù)挑選,但是沒(méi)有想到蛋撻的銷(xiāo)量因此又提高了很多。

還有一個(gè)有趣的例子,1948年遼沈戰(zhàn)役期間,司令員林彪要求每天要進(jìn)行例常的“每日軍情匯報(bào)”,由值班參謀讀出下屬各個(gè)縱隊(duì)、師、團(tuán)用電臺(tái)報(bào)告的 當(dāng)日戰(zhàn)況和繳獲情況。那幾乎是重復(fù)著千篇一律枯燥無(wú)味的數(shù)據(jù):每支部隊(duì)殲敵多少、俘虜多少;繳獲的火炮、車(chē)輛多少,槍支、物資多少……有一天,參謀照例匯 報(bào)當(dāng)日的戰(zhàn)況,林彪突然打斷他:“剛才念的在胡家窩棚那個(gè)戰(zhàn)斗的繳獲,你們聽(tīng)到了嗎?”大家都很茫然,因?yàn)槿绱藨?zhàn)斗每天都有幾十起,不都是差不多一模一樣 的枯燥數(shù)字嗎?林彪掃視一周,見(jiàn)無(wú)人回答,便接連問(wèn)了三句:“為什么那里繳獲的短槍與長(zhǎng)槍的比例比其它戰(zhàn)斗略高?”“為什么那里繳獲和擊毀的小車(chē)與大車(chē)的 比例比其它戰(zhàn)斗略高?”“為什么在那里俘虜和擊斃的軍官與士兵的比例比其它戰(zhàn)斗略高?”林彪司令員大步走向掛滿(mǎn)軍用地圖的墻壁,指著地圖上的那個(gè)點(diǎn)說(shuō): “我猜想,不,我斷定!敵人的指揮所就在這里!”果然,部隊(duì)很快就抓住了敵方的指揮官廖耀湘,并取得這場(chǎng)重要戰(zhàn)役的勝利。

這些例子真實(shí)的反映在各行各業(yè),探求數(shù)據(jù)價(jià)值取決于把握數(shù)據(jù)的人,關(guān)鍵是人的數(shù)據(jù)思維;與其說(shuō)是大數(shù)據(jù)創(chuàng)造了價(jià)值,不如說(shuō)是大數(shù)據(jù)思維觸發(fā)了新的價(jià)值增長(zhǎng)。

? 現(xiàn)在和未來(lái)

我們先看看大數(shù)據(jù)在當(dāng)下有怎樣的杰出表現(xiàn):

  • 大數(shù)據(jù)幫助政府實(shí)現(xiàn)市場(chǎng)經(jīng)濟(jì)調(diào)控、公共衛(wèi)生安全防范、災(zāi)難預(yù)警、社會(huì)輿論監(jiān)督;
  • 大數(shù)據(jù)幫助城市預(yù)防犯罪,實(shí)現(xiàn)智慧交通,提升緊急應(yīng)急能力;
  • 大數(shù)據(jù)幫助醫(yī)療機(jī)構(gòu)建立患者的疾病風(fēng)險(xiǎn)跟蹤機(jī)制,幫助醫(yī)藥企業(yè)提升藥品的臨床使用效果,幫助艾滋病研究機(jī)構(gòu)為患者提供定制的藥物;
  • 大數(shù)據(jù)幫助航空公司節(jié)省運(yùn)營(yíng)成本,幫助電信企業(yè)實(shí)現(xiàn)售后服務(wù)質(zhì)量提升,幫助保險(xiǎn)企業(yè)識(shí)別欺詐騙保行為,幫助快遞公司監(jiān)測(cè)分析運(yùn)輸車(chē)輛的故障險(xiǎn)情以提前預(yù)警維修,幫助電力公司有效識(shí)別預(yù)警即將發(fā)生故障的設(shè)備;
  • 大數(shù)據(jù)幫助電商公司向用戶(hù)推薦商品和服務(wù),幫助旅游網(wǎng)站為旅游者提供心儀的旅游路線,幫助二手市場(chǎng)的買(mǎi)賣(mài)雙方找到最合適的交易目標(biāo),幫助用戶(hù)找到最合適的商品購(gòu)買(mǎi)時(shí)期、商家和最優(yōu)惠價(jià)格;
  • 大數(shù)據(jù)幫助企業(yè)提升營(yíng)銷(xiāo)的針對(duì)性,降低物流和庫(kù)存的成本,減少投資的風(fēng)險(xiǎn),以及幫助企業(yè)提升廣告投放精準(zhǔn)度;
  • 大數(shù)據(jù)幫助娛樂(lè)行業(yè)預(yù)測(cè)歌手,歌曲,電影,電視劇的受歡迎程度,并為投資者分析評(píng)估拍一部電影需要投入多少錢(qián)才最合適,否則就有可能收不回成本;
  • 大數(shù)據(jù)幫助社交網(wǎng)站提供更準(zhǔn)確的好友推薦,為用戶(hù)提供更精準(zhǔn)的企業(yè)招聘信息,向用戶(hù)推薦可能喜歡的游戲以及適合購(gòu)買(mǎi)的商品。

其實(shí),這些還遠(yuǎn)遠(yuǎn)不夠,未來(lái)大數(shù)據(jù)的身影應(yīng)該無(wú)處不在,就算無(wú)法準(zhǔn)確預(yù)測(cè)大數(shù)據(jù)終會(huì)將人類(lèi)社會(huì)帶往到哪種最終形態(tài),但我相信只要發(fā)展腳步在繼續(xù),因大數(shù)據(jù)而產(chǎn)生的變革浪潮將很快淹沒(méi)地球的每一個(gè)角落。

比如,Amazon的最終期望是:“最成功的書(shū)籍推薦應(yīng)該只有一本書(shū),就是用戶(hù)要買(mǎi)的下一本書(shū)?!?/span>

Google也希望當(dāng)用戶(hù)在搜索時(shí),最好的體驗(yàn)是搜索結(jié)果只包含用戶(hù)所需要的內(nèi)容,而這并不需要用戶(hù)給予Google太多的提示。

而當(dāng)物聯(lián)網(wǎng)發(fā)展到達(dá)一定規(guī)模時(shí),借助條形碼、二維碼、RFID等能夠唯一標(biāo)識(shí)產(chǎn)品,傳感器、可穿戴設(shè)備、智能感知、視頻采集、增強(qiáng)現(xiàn)實(shí)等技術(shù)可實(shí)現(xiàn) 實(shí)時(shí)的信息采集和分析,這些數(shù)據(jù)能夠支撐智慧城市,智慧交通,智慧能源,智慧醫(yī)療,智慧環(huán)保的理念需要,這些都所謂的智慧將是大數(shù)據(jù)的采集數(shù)據(jù)來(lái)源和服務(wù) 范圍。

未來(lái)的大數(shù)據(jù)除了將更好的解決社會(huì)問(wèn)題,商業(yè)營(yíng)銷(xiāo)問(wèn)題,科學(xué)技術(shù)問(wèn)題,還有一個(gè)可預(yù)見(jiàn)的趨勢(shì)是以人為本的大數(shù)據(jù)方針。人才是地球的主宰,大部分的數(shù)據(jù)都與人類(lèi)有關(guān),要通過(guò)大數(shù)據(jù)解決人的問(wèn)題。

比如,建立個(gè)人的數(shù)據(jù)中心,將每個(gè)人的日常生活習(xí)慣,身體體征,社會(huì)網(wǎng)絡(luò),知識(shí)能力,愛(ài)好性情,疾病嗜好,情緒波動(dòng)……換言之就是記錄人從出生那一刻起的每一分每一秒,將除了思維外的一切都儲(chǔ)存下來(lái),這些數(shù)據(jù)可以被充分的利用:

  • 醫(yī)療機(jī)構(gòu)將實(shí)時(shí)的監(jiān)測(cè)用戶(hù)的身體健康狀況;
  • 教育機(jī)構(gòu)更有針對(duì)的制定用戶(hù)喜歡的教育培訓(xùn)計(jì)劃;
  • 服務(wù)行業(yè)為用戶(hù)提供即時(shí)健康的符合用戶(hù)生活習(xí)慣的食物和其它服務(wù);
  • 社交網(wǎng)絡(luò)能為你提供合適的交友對(duì)象,并為志同道合的人群組織各種聚會(huì)活動(dòng);
  • 政府能在用戶(hù)的心理健康出現(xiàn)問(wèn)題時(shí)有效的干預(yù),防范自殺,刑事案件的發(fā)生;
  • 金融機(jī)構(gòu)能幫助用戶(hù)進(jìn)行有效的理財(cái)管理,為用戶(hù)的資金提供更有效的使用建議和規(guī)劃;
  • 道路交通、汽車(chē)租賃及運(yùn)輸行業(yè)可以為用戶(hù)提供更合適的出行線路和路途服務(wù)安排;

……

當(dāng)然,上面的一切看起來(lái)都很美好,但是否是以犧牲了用戶(hù)的自由為前提呢?只能說(shuō)當(dāng)新鮮事物帶來(lái)了革新的同時(shí)也同樣帶來(lái)了“病菌”。比如,在手機(jī)未普 及前,大家喜歡聚在一起聊天,自從手機(jī)普及后特別是有了互聯(lián)網(wǎng),大家不用聚在一起也可以隨時(shí)隨地的聊天,只是“病菌”滋生了另外一種情形,大家慢慢習(xí)慣了 和手機(jī)共渡時(shí)光,人與人之間情感交流仿佛永遠(yuǎn)隔著一張“網(wǎng)”。

? 大數(shù)據(jù)隱私

你或許并不敏感,當(dāng)你在不同的網(wǎng)站上注冊(cè)了個(gè)人信息后,可能這些信息已經(jīng)被擴(kuò)散出去了,當(dāng)你莫名其妙的接到各種郵件,電話,短信的滋擾時(shí),你不會(huì)想 到自己的電話號(hào)碼,郵箱,生日,購(gòu)買(mǎi)記錄,收入水平,家庭住址,親朋好友等私人信息早就被各種商業(yè)機(jī)構(gòu)非法存儲(chǔ)或賤賣(mài)給其它任何有需要的企業(yè)或個(gè)人了。

更可怕的是,這些信息你永遠(yuǎn)無(wú)法刪除,它們永遠(yuǎn)存在于互聯(lián)網(wǎng)的某些你不知道的角落。除非你更換掉自己的所有信息,但是這代價(jià)太大了。

用戶(hù)隱私問(wèn)題一直是大數(shù)據(jù)應(yīng)用難以繞開(kāi)的一個(gè)問(wèn)題,如被央視曝光過(guò)的分眾無(wú)線、羅維鄧白氏以及網(wǎng)易郵箱都涉及侵犯用戶(hù)隱私。目前,中國(guó)并沒(méi)有專(zhuān)門(mén)的 法律法規(guī)來(lái)界定用戶(hù)隱私,處理相關(guān)問(wèn)題時(shí)多采用其他相關(guān)法規(guī)條例來(lái)解釋。但隨著民眾隱私意識(shí)的日益增強(qiáng),合法合規(guī)地獲取數(shù)據(jù)、分析數(shù)據(jù)和應(yīng)用數(shù)據(jù),是進(jìn)行 大數(shù)據(jù)分析時(shí)必須遵循的原則。

說(shuō)到隱私被侵犯,愛(ài)德華?斯諾登應(yīng)該占據(jù)一席之地,這位前美國(guó)中央情報(bào)局(CIA)雇員一手引爆了美國(guó)“棱鏡計(jì)劃”(PRISM)的內(nèi)幕消息?!袄?鏡”項(xiàng)目是一項(xiàng)由美國(guó)國(guó)家安全局(NSA)自2007年起開(kāi)始實(shí)施的絕密電子監(jiān)聽(tīng)計(jì)劃,年耗資近2000億美元,用于監(jiān)聽(tīng)全美電話通話記錄,據(jù)稱(chēng)還可以使 情報(bào)人員通過(guò)“后門(mén)”進(jìn)入9家主要科技公司的服務(wù)器,包括微軟、雅虎、谷歌、Facebook、PalTalk、美國(guó)在線、Skype、YouTube、 蘋(píng)果。這個(gè)事件引發(fā)了人們對(duì)政府使用大數(shù)據(jù)時(shí)對(duì)公民隱私侵犯的擔(dān)心。

再看看我們身邊,當(dāng)微博,微信,QQ空間這些社交平臺(tái)肆意的吞噬著數(shù)億用戶(hù)的各種信息時(shí),你就不要指望你還有隱私權(quán)了,就算你在某個(gè)地方刪除了,但也許這些信息已經(jīng)被其他人轉(zhuǎn)載或保存了,更有可能已經(jīng)被百度或Google存為快照,早就提供給任意用戶(hù)搜索了。
因此在大數(shù)據(jù)的背景下,很多人都在積極的抵制無(wú)底線的數(shù)字化,這種大數(shù)據(jù)和個(gè)體之間的博弈還會(huì)一直繼續(xù)下去……

專(zhuān)家給予了我們一些如何有效保護(hù)大數(shù)據(jù)背景下隱私權(quán)的建議:

1-減少信息的數(shù)字化;

2-隱私權(quán)立法;

3-數(shù)字隱私權(quán)基礎(chǔ)設(shè)施(類(lèi)似DRM數(shù)字版權(quán)管理);

4-人類(lèi)改變認(rèn)知(接受忽略過(guò)去);

5-創(chuàng)造良性的信息生態(tài);

6-語(yǔ)境化。

但是這些都很難立即見(jiàn)效或者有實(shí)質(zhì)性的改善。

比如,現(xiàn)在有一種職業(yè)叫刪帖人,專(zhuān)門(mén)負(fù)責(zé)幫人到各大網(wǎng)站刪帖,刪除評(píng)論。其實(shí)這些人就是通過(guò)黑客技術(shù)侵入各大網(wǎng)站,破獲管理員的密碼然后進(jìn)行手工定 向刪除。只不過(guò)他們保護(hù)的不是客戶(hù)的隱私,而大多是丑聞。還有一種職業(yè)叫人肉專(zhuān)家,他們負(fù)責(zé)從互聯(lián)網(wǎng)上找到一個(gè)與他們根本就無(wú)關(guān)系用戶(hù)的任意信息。這是很 可怕的事情,也就是說(shuō),如果有人想找到你,只需要兩個(gè)條件:1-你上過(guò)網(wǎng),留下過(guò)痕跡;2-你的親朋好友或僅僅是認(rèn)識(shí)你的人上過(guò)網(wǎng),留下過(guò)你的痕跡。這兩 個(gè)條件滿(mǎn)足其一,人肉專(zhuān)家就可以很輕松的找到你,可能還知道你現(xiàn)在正在某個(gè)餐廳和誰(shuí)一起共進(jìn)晚餐。

當(dāng)很多互聯(lián)網(wǎng)企業(yè)意識(shí)到隱私對(duì)于用戶(hù)的重要性時(shí),為了繼續(xù)得到用戶(hù)的信任,他們采取了很多辦法,比如google承諾僅保留用戶(hù)的搜索記錄9個(gè)月,瀏覽器廠商提供了無(wú)痕沖浪模式,社交網(wǎng)站拒絕公共搜索引擎的爬蟲(chóng)進(jìn)入,并將提供出去的數(shù)據(jù)全部采取匿名方式處理等。

在這種復(fù)雜的環(huán)境里面,很多人依然沒(méi)有建立對(duì)于信息隱私的保護(hù)意識(shí),讓自己一直處于被滋擾,被精心設(shè)計(jì),被利用,被監(jiān)視的處境中??墒?,我們能做的 幾乎微乎其微,因?yàn)閭€(gè)人隱私數(shù)據(jù)已經(jīng)無(wú)法由我們自己掌控了,就像一首詩(shī)里說(shuō)到的:“如果你現(xiàn)在繼續(xù)麻木,那就別指望這麻木能抵擋得住被”扒光”那一刻的驚 恐和絕望……”

?和大數(shù)據(jù)相關(guān)的技術(shù)

? 云技術(shù)

大數(shù)據(jù)常和云計(jì)算聯(lián)系到一起,因?yàn)閷?shí)時(shí)的大型數(shù)據(jù)集分析需要分布式處理框架來(lái)向數(shù)十、數(shù)百或甚至數(shù)萬(wàn)的電腦分配工作。可以說(shuō),云計(jì)算充當(dāng)了工業(yè)革命時(shí)期的發(fā)動(dòng)機(jī)的角色,而大數(shù)據(jù)則是電。

云計(jì)算思想的起源是麥卡錫在上世紀(jì)60年代提出的:把計(jì)算能力作為一種像水和電一樣的公用事業(yè)提供給用戶(hù)。

如今,在Google、Amazon、Facebook等一批互聯(lián)網(wǎng)企業(yè)引領(lǐng)下,一種行之有效的模式出現(xiàn)了:云計(jì)算提供基礎(chǔ)架構(gòu)平臺(tái),大數(shù)據(jù)應(yīng)用運(yùn)行在這個(gè)平臺(tái)上。

業(yè)內(nèi)是這么形容兩者的關(guān)系:沒(méi)有大數(shù)據(jù)的信息積淀,則云計(jì)算的計(jì)算能力再?gòu)?qiáng)大,也難以找到用武之地;沒(méi)有云計(jì)算的處理能力,則大數(shù)據(jù)的信息積淀再豐富,也終究只是鏡花水月。

那么大數(shù)據(jù)到底需要哪些云計(jì)算技術(shù)呢?

這里暫且列舉一些,比如虛擬化技術(shù),分布式處理技術(shù),海量數(shù)據(jù)的存儲(chǔ)和管理技術(shù),NoSQL、實(shí)時(shí)流數(shù)據(jù)處理、智能分析技術(shù)(類(lèi)似模式識(shí)別以及自然語(yǔ)言理解)等。

云計(jì)算和大數(shù)據(jù)之間的關(guān)系可以用下面的一張圖來(lái)說(shuō)明,兩者之間結(jié)合后會(huì)產(chǎn)生如下效應(yīng):可以提供更多基于海量業(yè)務(wù)數(shù)據(jù)的創(chuàng)新型服務(wù);通過(guò)云計(jì)算技術(shù)的不斷發(fā)展降低大數(shù)據(jù)業(yè)務(wù)的創(chuàng)新成本。

36大數(shù)據(jù)

如果將云計(jì)算與大數(shù)據(jù)進(jìn)行一些比較,最明顯的區(qū)分在兩個(gè)方面:

第一,在概念上兩者有所不同,云計(jì)算改變了IT,而大數(shù)據(jù)則改變了業(yè)務(wù)。然而大數(shù)據(jù)必須有云作為基礎(chǔ)架構(gòu),才能得以順暢運(yùn)營(yíng)。

第二,大數(shù)據(jù)和云計(jì)算的目標(biāo)受眾不同,云計(jì)算是CIO等關(guān)心的技術(shù)層,是一個(gè)進(jìn)階的IT解決方案。而大數(shù)據(jù)是CEO關(guān)注的、是業(yè)務(wù)層的產(chǎn)品,而大數(shù)據(jù)的決策者是業(yè)務(wù)層。

? 分布式處理技術(shù)

分布式處理系統(tǒng)可以將不同地點(diǎn)的或具有不同功能的或擁有不同數(shù)據(jù)的多臺(tái)計(jì)算機(jī)用通信網(wǎng)絡(luò)連接起來(lái),在控制系統(tǒng)的統(tǒng)一管理控制下,協(xié)調(diào)地完成信息處理任務(wù)—這就是分布式處理系統(tǒng)的定義。

以Hadoop(Yahoo)為例進(jìn)行說(shuō)明,Hadoop是一個(gè)實(shí)現(xiàn)了MapReduce模式的能夠?qū)Υ罅繑?shù)據(jù)進(jìn)行分布式處理的軟件框架,是以一種可靠、高效、可伸縮的方式進(jìn)行處理的。

而MapReduce是Google提出的一種云計(jì)算的核心計(jì)算模式,是一種分布式運(yùn)算技術(shù),也是簡(jiǎn)化的分布式編程模式,MapReduce模式的 主要思想是將自動(dòng)分割要執(zhí)行的問(wèn)題(例如程序)拆解成map(映射)和reduce(化簡(jiǎn))的方式, 在數(shù)據(jù)被分割后通過(guò)Map 函數(shù)的程序?qū)?shù)據(jù)映射成不同的區(qū)塊,分配給計(jì)算機(jī)機(jī)群處理達(dá)到分布式運(yùn)算的效果,在通過(guò)Reduce 函數(shù)的程序?qū)⒔Y(jié)果匯整,從而輸出開(kāi)發(fā)者需要的結(jié)果。

再來(lái)看看Hadoop的特性,第一,它是可靠的,因?yàn)樗僭O(shè)計(jì)算元素和存儲(chǔ)會(huì)失敗,因此它維護(hù)多個(gè)工作數(shù)據(jù)副本,確保能夠針對(duì)失敗的節(jié)點(diǎn)重新分布處 理。其次,Hadoop 是高效的,因?yàn)樗圆⑿械姆绞焦ぷ?,通過(guò)并行處理加快處理速度。Hadoop 還是可伸縮的,能夠處理 PB 級(jí)數(shù)據(jù)。此外,Hadoop 依賴(lài)于社區(qū)服務(wù)器,因此它的成本比較低,任何人都可以使用。

你也可以這么理解Hadoop的構(gòu)成,Hadoop=HDFS(文件系統(tǒng),數(shù)據(jù)存儲(chǔ)技術(shù)相關(guān))+HBase(數(shù)據(jù)庫(kù))+MapReduce(數(shù)據(jù)處理)+……Others

Hadoop用到的一些技術(shù)有:

  • HDFS: Hadoop分布式文件系統(tǒng)(Distributed File System) - HDFS (HadoopDistributed File System)
  • MapReduce:并行計(jì)算框架
  • HBase: 類(lèi)似Google BigTable的分布式NoSQL列數(shù)據(jù)庫(kù)。
  • Hive:數(shù)據(jù)倉(cāng)庫(kù)工具,由Facebook貢獻(xiàn)。
  • Zookeeper:分布式鎖設(shè)施,提供類(lèi)似Google Chubby的功能,由Facebook貢獻(xiàn)。
  • Avro:新的數(shù)據(jù)序列化格式與傳輸工具,將逐步取代Hadoop原有的IPC機(jī)制。
  • Pig:大數(shù)據(jù)分析平臺(tái),為用戶(hù)提供多種接口。
  • Ambari:Hadoop管理工具,可以快捷的監(jiān)控、部署、管理集群。
  • Sqoop:用于在Hadoop與傳統(tǒng)的數(shù)據(jù)庫(kù)間進(jìn)行數(shù)據(jù)的傳遞。

說(shuō)了這么多,舉個(gè)實(shí)際的例子,雖然這個(gè)例子有些陳舊,但是淘寶的海量數(shù)據(jù)技術(shù)架構(gòu)還是有助于我們理解對(duì)于大數(shù)據(jù)的運(yùn)作處理機(jī)制:

淘寶大數(shù)據(jù)

如上圖所示,淘寶的海量數(shù)據(jù)產(chǎn)品技術(shù)架構(gòu)分為五個(gè)層次,從上至下來(lái)看它們分別是:數(shù)據(jù)源,計(jì)算層,存儲(chǔ)層,查詢(xún)層和產(chǎn)品層。

數(shù)據(jù)來(lái)源層。存放著淘寶各店的交易數(shù)據(jù)。在數(shù)據(jù)源層產(chǎn)生的數(shù)據(jù),通過(guò)DataX,DbSync和Timetunel準(zhǔn)實(shí)時(shí)的傳輸?shù)较旅娴?點(diǎn)所述的“云梯”。
計(jì)算層。在這個(gè)計(jì)算層內(nèi),淘寶采用的是Hadoop集群,這個(gè)集群,我們暫且稱(chēng)之為云梯,是計(jì)算層的主要組成部分。在云梯上,系統(tǒng)每天會(huì)對(duì)數(shù)據(jù)產(chǎn)品進(jìn)行不同的MapReduce計(jì)算。

存儲(chǔ)層。在這一層,淘寶采用了兩個(gè)東西,一個(gè)使MyFox,一個(gè)是Prom。MyFox是基于MySQL的分布式關(guān)系型數(shù)據(jù)庫(kù)的集群,Prom是基于Hadoop Hbase技術(shù)的一個(gè)NoSQL的存儲(chǔ)集群。

查詢(xún)層。在這一層中,Glider是以HTTP協(xié)議對(duì)外提供restful方式的接口。數(shù)據(jù)產(chǎn)品通過(guò)一個(gè)唯一的URL來(lái)獲取到它想要的數(shù)據(jù)。同時(shí),數(shù)據(jù)查詢(xún)即是通過(guò)MyFox來(lái)查詢(xún)的。

最后一層是產(chǎn)品層,這個(gè)就不用解釋了。

? 存儲(chǔ)技術(shù)

大數(shù)據(jù)可以抽象的分為大數(shù)據(jù)存儲(chǔ)和大數(shù)據(jù)分析,這兩者的關(guān)系是:大數(shù)據(jù)存儲(chǔ)的目的是支撐大數(shù)據(jù)分析。到目前為止,還是兩種截然不同的計(jì)算機(jī)技術(shù)領(lǐng)域:大數(shù)據(jù)存儲(chǔ)致力于研發(fā)可以擴(kuò)展至PB甚至EB級(jí)別的數(shù)據(jù)存儲(chǔ)平臺(tái);大數(shù)據(jù)分析關(guān)注在最短時(shí)間內(nèi)處理大量不同類(lèi)型的數(shù)據(jù)集。

提到存儲(chǔ),有一個(gè)著名的摩爾定律相信大家都聽(tīng)過(guò):18個(gè)月集成電路的復(fù)雜性就增加一倍。所以,存儲(chǔ)器的成本大約每18-24個(gè)月就下降一半。成本的不斷下降也造就了大數(shù)據(jù)的可存儲(chǔ)性。

比如,Google大約管理著超過(guò)50萬(wàn)臺(tái)服務(wù)器和100萬(wàn)塊硬盤(pán),而且Google還在不斷的擴(kuò)大計(jì)算能力和存儲(chǔ)能力,其中很多的擴(kuò)展都是基于在廉價(jià)服務(wù)器和普通存儲(chǔ)硬盤(pán)的基礎(chǔ)上進(jìn)行的,這大大降低了其服務(wù)成本,因此可以將更多的資金投入到技術(shù)的研發(fā)當(dāng)中。

以Amazon舉例,Amazon S3 是一種面向 Internet 的存儲(chǔ)服務(wù)。該服務(wù)旨在讓開(kāi)發(fā)人員能更輕松的進(jìn)行網(wǎng)絡(luò)規(guī)模計(jì)算。Amazon S3 提供一個(gè)簡(jiǎn)明的 Web 服務(wù)界面,用戶(hù)可通過(guò)它隨時(shí)在 Web 上的任何位置存儲(chǔ)和檢索的任意大小的數(shù)據(jù)。 此服務(wù)讓所有開(kāi)發(fā)人員都能訪問(wèn)同一個(gè)具備高擴(kuò)展性、可靠性、安全性和快速價(jià)廉的基礎(chǔ)設(shè)施,Amazon 用它來(lái)運(yùn)行其全球的網(wǎng)站網(wǎng)絡(luò)。再看看S3的設(shè)計(jì)指標(biāo):在特定年度內(nèi)為數(shù)據(jù)元提供 99.999999999% 的耐久性和 99.99% 的可用性,并能夠承受兩個(gè)設(shè)施中的數(shù)據(jù)同時(shí)丟失。

S3很成功也確實(shí)卓有成效,S3云的存儲(chǔ)對(duì)象已達(dá)到萬(wàn)億級(jí)別,而且性能表現(xiàn)相當(dāng)良好。S3云已經(jīng)擁萬(wàn)億跨地域存儲(chǔ)對(duì)象,同時(shí)AWS的對(duì)象執(zhí)行請(qǐng)求也 達(dá)到百萬(wàn)的峰值數(shù)量。目前全球范圍內(nèi)已經(jīng)有數(shù)以十萬(wàn)計(jì)的企業(yè)在通過(guò)AWS運(yùn)行自己的全部或者部分日常業(yè)務(wù)。這些企業(yè)用戶(hù)遍布190多個(gè)國(guó)家,幾乎世界上的 每個(gè)角落都有Amazon用戶(hù)的身影。

? 感知技術(shù)

大數(shù)據(jù)的采集和感知技術(shù)的發(fā)展是緊密聯(lián)系的。以傳感器技術(shù),指紋識(shí)別技術(shù),RFID技術(shù),坐標(biāo)定位技術(shù)等為基礎(chǔ)的感知能力提升同樣是物聯(lián)網(wǎng)發(fā)展的基 石。全世界的工業(yè)設(shè)備、汽車(chē)、電表上有著無(wú)數(shù)的數(shù)碼傳感器,隨時(shí)測(cè)量和傳遞著有關(guān)位置、運(yùn)動(dòng)、震動(dòng)、溫度、濕度乃至空氣中化學(xué)物質(zhì)的變化,都會(huì)產(chǎn)生海量的 數(shù)據(jù)信息。

而隨著智能手機(jī)的普及,感知技術(shù)可謂迎來(lái)了發(fā)展的高峰期,除了地理位置信息被廣泛的應(yīng)用外,一些新的感知手段也開(kāi)始登上舞臺(tái),比如,最新 的”iPhone 5S”在home鍵內(nèi)嵌指紋傳感器,新型手機(jī)可通過(guò)呼氣直接檢測(cè)燃燒脂肪量,用于手機(jī)的嗅覺(jué)傳感器面世可以監(jiān)測(cè)從空氣污染到危險(xiǎn)的化學(xué)藥品,微軟正在研發(fā) 可感知用戶(hù)當(dāng)前心情智能手機(jī)技術(shù),谷歌眼鏡InSight新技術(shù)可通過(guò)衣著進(jìn)行人物識(shí)別。

除此之外,還有很多與感知相關(guān)的技術(shù)革新讓我們耳目一新:比如,牙齒傳感器實(shí)時(shí)監(jiān)控口腔活動(dòng)及飲食狀況,嬰兒穿戴設(shè)備可用大數(shù)據(jù)去養(yǎng)育寶 寶,Intel正研發(fā)3D筆記本攝像頭可追蹤眼球讀懂情緒,日本公司開(kāi)發(fā)新型可監(jiān)控用戶(hù)心率的紡織材料,業(yè)界正在嘗試將生物測(cè)定技術(shù)引入支付領(lǐng)域等。

其實(shí),這些感知被逐漸捕獲的過(guò)程就是就世界被數(shù)據(jù)化的過(guò)程,一旦世界被完全數(shù)據(jù)化了,那么世界的本質(zhì)也就是信息了。

就像一句名言所說(shuō),“人類(lèi)以前延續(xù)的是文明,現(xiàn)在傳承的是信息。”

大數(shù)據(jù)的實(shí)踐

? 互聯(lián)網(wǎng)的大數(shù)據(jù)

互聯(lián)網(wǎng)上的數(shù)據(jù)每年增長(zhǎng)50%,每?jī)赡瓯銓⒎环?,而目前世界?0%以上的數(shù)據(jù)是最近幾年才產(chǎn)生的。據(jù)IDC預(yù)測(cè),到2020年全球?qū)⒖偣矒碛?35ZB的數(shù)據(jù)量。互聯(lián)網(wǎng)是大數(shù)據(jù)發(fā)展的前哨陣地,隨著WEB2.0時(shí)代的發(fā)展,人們似乎都習(xí)慣了將自己的生活通過(guò)網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)化,方便分享以及記錄并回 憶。

互聯(lián)網(wǎng)上的大數(shù)據(jù)很難清晰的界定分類(lèi)界限,我們先看看BAT的大數(shù)據(jù):

百度擁有兩種類(lèi)型的大數(shù)據(jù):用戶(hù)搜索表征的需求數(shù)據(jù);爬蟲(chóng)和阿拉丁獲取的公共web數(shù)據(jù)。搜索巨頭百度圍繞數(shù)據(jù)而生。它對(duì)網(wǎng)頁(yè)數(shù)據(jù)的爬取、網(wǎng)頁(yè)內(nèi)容 的組織和解析,通過(guò)語(yǔ)義分析對(duì)搜索需求的精準(zhǔn)理解進(jìn)而從海量數(shù)據(jù)中找準(zhǔn)結(jié)果,以及精準(zhǔn)的搜索引擎關(guān)鍵字廣告,實(shí)質(zhì)上就是一個(gè)數(shù)據(jù)的獲取、組織、分析和挖掘 的過(guò)程。搜索引擎在大數(shù)據(jù)時(shí)代面臨的挑戰(zhàn)有:更多的暗網(wǎng)數(shù)據(jù);更多的WEB化但是沒(méi)有結(jié)構(gòu)化的數(shù)據(jù);更多的WEB化、結(jié)構(gòu)化但是封閉的數(shù)據(jù)。

阿里巴巴擁有交易數(shù)據(jù)和信用數(shù)據(jù)。這兩種數(shù)據(jù)更容易變現(xiàn),挖掘出商業(yè)價(jià)值。除此之外阿里巴巴還通過(guò)投資等方式掌握了部分社交數(shù)據(jù)、移動(dòng)數(shù)據(jù)。如微博和高德。

騰訊擁有用戶(hù)關(guān)系數(shù)據(jù)和基于此產(chǎn)生的社交數(shù)據(jù)。這些數(shù)據(jù)可以分析人們的生活和行為,從里面挖掘出政治、社會(huì)、文化、商業(yè)、健康等領(lǐng)域的信息,甚至預(yù)測(cè)未來(lái)。

在信息技術(shù)更為發(fā)達(dá)的美國(guó),除了行業(yè)知名的類(lèi)似Google,F(xiàn)acebook外,已經(jīng)涌現(xiàn)了很多大數(shù)據(jù)類(lèi)型的公司,它們專(zhuān)門(mén)經(jīng)營(yíng)數(shù)據(jù)產(chǎn)品,比如:

  • Metamarkets:這家公司對(duì)Twitter、支付、簽到和一些與互聯(lián)網(wǎng)相關(guān)的問(wèn)題進(jìn)行了分析,為客戶(hù)提供了很好的數(shù)據(jù)分析支持。
  • Tableau:他們的精力主要集中于將海量數(shù)據(jù)以可視化的方式展現(xiàn)出來(lái)。Tableau為數(shù)字媒體提供了一個(gè)新的展示數(shù)據(jù)的方式。他們提供了一個(gè)免費(fèi)工具,任何人在沒(méi)有編程知識(shí)背景的情況下都能制造出數(shù)據(jù)專(zhuān)用圖表。這個(gè)軟件還能對(duì)數(shù)據(jù)進(jìn)行分析,并提供有價(jià)值的建議。
  • ParAccel:他們向美國(guó)執(zhí)法機(jī)構(gòu)提供了數(shù)據(jù)分析,比如對(duì)15000個(gè)有犯罪前科的人進(jìn)行跟蹤,從而向執(zhí)法機(jī)構(gòu)提供了參考性較高的犯罪預(yù)測(cè)。他們是犯罪的預(yù)言者。
  • QlikTech:QlikTech旗下的Qlikview是一個(gè)商業(yè)智能領(lǐng)域的自主服務(wù)工具,能夠應(yīng)用于科學(xué)研究和藝術(shù)等領(lǐng)域。為了幫助開(kāi)發(fā)者對(duì)這些數(shù)據(jù)進(jìn)行分析,QlikTech提供了對(duì)原始數(shù)據(jù)進(jìn)行可視化處理等功能的工具。
  • GoodData:GoodData希望幫助客戶(hù)從數(shù)據(jù)中挖掘財(cái)富。這家創(chuàng)業(yè)公司主要面向商業(yè)用戶(hù)和IT企業(yè)高管,提供數(shù)據(jù)存儲(chǔ)、性能報(bào)告、數(shù)據(jù)分析等工具。
  • TellApart:TellApart和電商公司進(jìn)行合作,他們會(huì)根據(jù)用戶(hù)的瀏覽行為等數(shù)據(jù)進(jìn)行分析,通過(guò)鎖定潛在買(mǎi)家方式提高電商企業(yè)的收入。
  • DataSift:DataSift主要收集并分析社交網(wǎng)絡(luò)媒體上的數(shù)據(jù),并幫助品牌公司掌握突發(fā)新聞的輿論點(diǎn),并制定有針對(duì)性的營(yíng)銷(xiāo)方案。這家公司還和Twitter有合作協(xié)議,使得自己變成了行業(yè)中為數(shù)不多可以分析早期tweet的創(chuàng)業(yè)公司。
  • Datahero:公司的目標(biāo)是將復(fù)雜的數(shù)據(jù)變得更加簡(jiǎn)單明了,方便普通人去理解和想象。

舉了很多例子,這里簡(jiǎn)要?dú)w納一下,在互聯(lián)網(wǎng)大數(shù)據(jù)的典型代表性包括:

1-用戶(hù)行為數(shù)據(jù)(精準(zhǔn)廣告投放、內(nèi)容推薦、行為習(xí)慣和喜好分析、產(chǎn)品優(yōu)化等)

2-用戶(hù)消費(fèi)數(shù)據(jù)(精準(zhǔn)營(yíng)銷(xiāo)、信用記錄分析、活動(dòng)促銷(xiāo)、理財(cái)?shù)龋?/p>

3-用戶(hù)地理位置數(shù)據(jù)(O2O推廣,商家推薦,交友推薦等)

4-互聯(lián)網(wǎng)金融數(shù)據(jù)(P2P,小額貸款,支付,信用,供應(yīng)鏈金融等)

5-用戶(hù)社交等UGC數(shù)據(jù)(趨勢(shì)分析、流行元素分析、受歡迎程度分析、輿論監(jiān)控分析、社會(huì)問(wèn)題分析等)

? 政府的大數(shù)據(jù)

近期,奧巴馬政府宣布投資2億美元拉動(dòng)大數(shù)據(jù)相關(guān)產(chǎn)業(yè)發(fā)展,將“大數(shù)據(jù)戰(zhàn)略”上升為國(guó)家意志。奧巴馬政府將數(shù)據(jù)定義為“未來(lái)的新石油”,并表示一個(gè) 國(guó)家擁有數(shù)據(jù)的規(guī)模、活性及解釋運(yùn)用的能力將成為綜合國(guó)力的重要組成部分,未來(lái),對(duì)數(shù)據(jù)的占有和控制甚至將成為陸權(quán)、海權(quán)、空權(quán)之外的另一種國(guó)家核心資 產(chǎn)。

在國(guó)內(nèi),政府各個(gè)部門(mén)都握有構(gòu)成社會(huì)基礎(chǔ)的原始數(shù)據(jù),比如,氣象數(shù)據(jù),金融數(shù)據(jù),信用數(shù)據(jù),電力數(shù)據(jù),煤氣數(shù)據(jù),自來(lái)水?dāng)?shù)據(jù),道路交通數(shù)據(jù),客運(yùn)數(shù) 據(jù),安全刑事案件數(shù)據(jù),住房數(shù)據(jù),海關(guān)數(shù)據(jù),出入境數(shù)據(jù),旅游數(shù)據(jù),醫(yī)療數(shù)據(jù),教育數(shù)據(jù),環(huán)保數(shù)據(jù)等等。這些數(shù)據(jù)在每個(gè)政府部門(mén)里面看起來(lái)是單一的,靜態(tài) 的。但是,如果政府可以將這些數(shù)據(jù)關(guān)聯(lián)起來(lái),并對(duì)這些數(shù)據(jù)進(jìn)行有效的關(guān)聯(lián)分析和統(tǒng)一管理,這些數(shù)據(jù)必定將獲得新生,其價(jià)值是無(wú)法估量的。

具體來(lái)說(shuō),現(xiàn)在城市都在走向智能和智慧,比如,智能電網(wǎng)、智慧交通、智慧醫(yī)療、智慧環(huán)保、智慧城市,這些都依托于大數(shù)據(jù),可以說(shuō)大數(shù)據(jù)是智慧的核心 能源。從國(guó)內(nèi)整體投資規(guī)模來(lái)看,到2012年底全國(guó)開(kāi)建智慧城市的城市數(shù)超過(guò)180個(gè),通信網(wǎng)絡(luò)和數(shù)據(jù)平臺(tái)等基礎(chǔ)設(shè)施建設(shè)投資規(guī)模接近5000億元。“十 二五”期間智慧城市建設(shè)拉動(dòng)的設(shè)備投資規(guī)模將達(dá)1萬(wàn)億元人民幣。大數(shù)據(jù)為智慧城市的各個(gè)領(lǐng)域提供決策支持。在城市規(guī)劃方面,通過(guò)對(duì)城市地理、氣象等自然信 息和經(jīng)濟(jì)、社會(huì)、文化、人口等人文社會(huì)信息的挖掘,可以為城市規(guī)劃提供決策,強(qiáng)化城市管理服務(wù)的科學(xué)性和前瞻性。在交通管理方面,通過(guò)對(duì)道路交通信息的實(shí) 時(shí)挖掘,能有效緩解交通擁堵,并快速響應(yīng)突發(fā)狀況,為城市交通的良性運(yùn)轉(zhuǎn)提供科學(xué)的決策依據(jù)。在輿情監(jiān)控方面,通過(guò)網(wǎng)絡(luò)關(guān)鍵詞搜索及語(yǔ)義智能分析,能提高 輿情分析的及時(shí)性、全面性,全面掌握社情民意,提高公共服務(wù)能力,應(yīng)對(duì)網(wǎng)絡(luò)突發(fā)的公共事件,打擊違法犯罪。在安防與防災(zāi)領(lǐng)域,通過(guò)大數(shù)據(jù)的挖掘,可以及時(shí) 發(fā)現(xiàn)人為或自然災(zāi)害、恐怖事件,提高應(yīng)急處理能力和安全防范能力。

另外,作為國(guó)家的管理者,政府應(yīng)該有勇氣將手中的數(shù)據(jù)逐步開(kāi)放,供給更多有能力的機(jī)構(gòu)組織或個(gè)人來(lái)分析并加以利用,以加速造福人類(lèi)。比如,美國(guó)政府 就籌建了一個(gè)data.gov網(wǎng)站,這是奧巴馬任期內(nèi)的一個(gè)重要舉措:要求政府公開(kāi)透明,而核心就是實(shí)現(xiàn)政府機(jī)構(gòu)的數(shù)據(jù)公開(kāi)。截止目前,已經(jīng)開(kāi)放了有 91054 個(gè)datasets;349citizen-developed apps;137 mobile apps;175 agencies and subagencies;87 galleries;295 Government APIs。

? 企業(yè)的大數(shù)據(jù)

企業(yè)的CXO們最關(guān)注的還是報(bào)表曲線的背后能有怎樣的信息,他該做怎樣的決策,其實(shí)這一切都需要通過(guò)數(shù)據(jù)來(lái)傳遞和支撐。在理想的世界中,大數(shù)據(jù)是巨 大的杠桿,可以改變公司的影響力,帶來(lái)競(jìng)爭(zhēng)差異、節(jié)省金錢(qián)、增加利潤(rùn)、愉悅買(mǎi)家、獎(jiǎng)賞忠誠(chéng)用戶(hù)、將潛在客戶(hù)轉(zhuǎn)化為客戶(hù)、增加吸引力、打敗競(jìng)爭(zhēng)對(duì)手、開(kāi)拓用 戶(hù)群并創(chuàng)造市場(chǎng)。

那么,哪些傳統(tǒng)企業(yè)最需要大數(shù)據(jù)服務(wù)呢?拋磚引玉,先舉幾個(gè)例子:

1) 對(duì)大量消費(fèi)者提供產(chǎn)品或服務(wù)的企業(yè)(精準(zhǔn)營(yíng)銷(xiāo));

2) 做小而美模式的中長(zhǎng)尾企業(yè)(服務(wù)轉(zhuǎn)型);

3) 面臨互聯(lián)網(wǎng)壓力之下必須轉(zhuǎn)型的傳統(tǒng)企業(yè)(生死存亡)。

對(duì)于企業(yè)的大數(shù)據(jù),還有一種預(yù)測(cè):隨著數(shù)據(jù)逐漸成為企業(yè)的一種資產(chǎn),數(shù)據(jù)產(chǎn)業(yè)會(huì)向傳統(tǒng)企業(yè)的供應(yīng)鏈模式發(fā)展,最終形成“數(shù)據(jù)供應(yīng)鏈”。這里尤其有兩 個(gè)明顯的現(xiàn)象:1) 外部數(shù)據(jù)的重要性日益超過(guò)內(nèi)部數(shù)據(jù)。在互聯(lián)互通的互聯(lián)網(wǎng)時(shí)代,單一企業(yè)的內(nèi)部數(shù)據(jù)與整個(gè)互聯(lián)網(wǎng)數(shù)據(jù)比較起來(lái)只是滄海一粟;2) 能提供包括數(shù)據(jù)供應(yīng)、數(shù)據(jù)整合與加工、數(shù)據(jù)應(yīng)用等多環(huán)節(jié)服務(wù)的公司會(huì)有明顯的綜合競(jìng)爭(zhēng)優(yōu)勢(shì)。

對(duì)于提供大數(shù)據(jù)服務(wù)的企業(yè)來(lái)說(shuō),他們等待的是合作機(jī)會(huì),就像微軟史密斯說(shuō)的:“給我提供一些數(shù)據(jù),我就能做一些改變。如果給我提供所有數(shù)據(jù),我就能拯救世界?!?/p>

然而,一直做企業(yè)服務(wù)的巨頭將優(yōu)勢(shì)不在,不得不眼看新興互聯(lián)網(wǎng)企業(yè)加入戰(zhàn)局,開(kāi)啟殘酷競(jìng)爭(zhēng)模式。為何會(huì)出現(xiàn)這種局面?從 IT 產(chǎn)業(yè)的發(fā)展來(lái)看,第一代 IT 巨頭大多是 ToB 的,比如 IBM、Microsoft、Oracle、SAP、HP這類(lèi)傳統(tǒng) IT 企業(yè);第二代 IT 巨頭大多是ToC 的,比如 Yahoo、Google、Amazon、Facebook 這類(lèi)互聯(lián)網(wǎng)企業(yè)。大數(shù)據(jù)到來(lái)前,這兩類(lèi)公司彼此之間基本是井水不犯河水;但在當(dāng)前這個(gè)大數(shù)據(jù)時(shí)代,這兩類(lèi)公司已經(jīng)開(kāi)始直接競(jìng)爭(zhēng)。比如 Amazon 已經(jīng)開(kāi)始提供云模式的數(shù)據(jù)倉(cāng)庫(kù)服務(wù),直接搶占 IBM、Oracle 的市場(chǎng)。這個(gè)現(xiàn)象出現(xiàn)的本質(zhì)原因是:在互聯(lián)網(wǎng)巨頭的帶動(dòng)下,傳統(tǒng) IT 巨頭的客戶(hù)普遍開(kāi)始從事電子商務(wù)業(yè)務(wù),正是由于客戶(hù)進(jìn)入了互聯(lián)網(wǎng),所以傳統(tǒng) IT 巨頭們不情愿地被拖入了互聯(lián)網(wǎng)領(lǐng)域。如果他們不進(jìn)入互聯(lián)網(wǎng),他們業(yè)務(wù)必將萎縮。在進(jìn)入互聯(lián)網(wǎng)后,他們又必須將云技術(shù),大數(shù)據(jù)等互聯(lián)網(wǎng)最具有優(yōu)勢(shì)的技術(shù)通過(guò) 封裝打造成自己的產(chǎn)品再提供給企業(yè)。

以IBM舉例,上一個(gè)十年,他們拋棄了PC,成功轉(zhuǎn)向了軟件和服務(wù),而這次將遠(yuǎn)離服務(wù)與咨詢(xún),更多地專(zhuān)注于因大數(shù)據(jù)分析軟件而帶來(lái)的全新業(yè)務(wù)增長(zhǎng)點(diǎn)。IBM執(zhí)行總裁羅睿蘭認(rèn)為,“數(shù)據(jù)將成為一切行業(yè)當(dāng)中決定勝負(fù)的根本因素,最終數(shù)據(jù)將成為人類(lèi)至關(guān)重要的自然資源?!?/p>

IBM 積極的提出了“大數(shù)據(jù)平臺(tái)”架構(gòu)。該平臺(tái)的四大核心能力包括Hadoop系統(tǒng)、流計(jì)算(StreamComputing)、數(shù)據(jù)倉(cāng)庫(kù)(Data Warehouse)和信息整合與治理(Information Integration and Governance)

IBM大數(shù)據(jù)

另外一家亟待通過(guò)云和大數(shù)據(jù)戰(zhàn)略而復(fù)蘇的巨頭公司HP也推出了自己的產(chǎn)品:HAVEn,一個(gè)可以自由擴(kuò)展伸縮的大數(shù)據(jù)解決方案。這個(gè)解決方案由HP Autonomy、HP Vertica、HP ArcSight 和惠普運(yùn)營(yíng)管理(HP OperationsManagement)四大技術(shù)組成。還支持Hadoop這樣通用的技術(shù)。HAVEn不是一個(gè)軟件平臺(tái),而是一個(gè)生態(tài)環(huán)境。四大組成 部分滿(mǎn)足不同的應(yīng)用場(chǎng)景需要,Autonomy解決音視頻識(shí)別的重要解決方案;Vertica解決數(shù)據(jù)處理的速度和效率的方案;ArcSight解決機(jī)器 的記錄信息處理,幫助企業(yè)獲得更高安全級(jí)別的管理;運(yùn)營(yíng)管理解決的不僅僅是外部數(shù)據(jù)的處理,而是包括了IT基礎(chǔ)設(shè)施產(chǎn)生的數(shù)據(jù)。

10PL6G

? 個(gè)人的大數(shù)據(jù)

個(gè)人的大數(shù)據(jù)這個(gè)概念很少有人提及,簡(jiǎn)單來(lái)說(shuō),就是與個(gè)人相關(guān)聯(lián)的各種有價(jià)值數(shù)據(jù)信息被有效采集后,可由本人授權(quán)提供第三方進(jìn)行處理和使用,并獲得第三方提供的數(shù)據(jù)服務(wù)。

舉個(gè)例子來(lái)說(shuō)明會(huì)更清晰一些:

未來(lái),每個(gè)用戶(hù)可以在互聯(lián)網(wǎng)上注冊(cè)個(gè)人的數(shù)據(jù)中心,以存儲(chǔ)個(gè)人的大數(shù)據(jù)信息。用戶(hù)可確定哪些個(gè)人數(shù)據(jù)可被采集,并通過(guò)可穿戴設(shè)備或植入芯片等感知技 術(shù)來(lái)采集捕獲個(gè)人的大數(shù)據(jù),比如,牙齒監(jiān)控?cái)?shù)據(jù),心率數(shù)據(jù),體溫?cái)?shù)據(jù),視力數(shù)據(jù),記憶能力,地理位置信息,社會(huì)關(guān)系數(shù)據(jù),運(yùn)動(dòng)數(shù)據(jù),飲食數(shù)據(jù),購(gòu)物數(shù)據(jù)等 等。用戶(hù)可以將其中的牙齒監(jiān)測(cè)數(shù)據(jù)授權(quán)給XX牙科診所使用,由他們監(jiān)控和使用這些數(shù)據(jù),進(jìn)而為用戶(hù)制定有效的牙齒防治和維護(hù)計(jì)劃;也可以將個(gè)人的運(yùn)動(dòng)數(shù)據(jù) 授權(quán)提供給某運(yùn)動(dòng)健身機(jī)構(gòu),由他們監(jiān)測(cè)自己的身體運(yùn)動(dòng)機(jī)能,并有針對(duì)的制定和調(diào)整個(gè)人的運(yùn)動(dòng)計(jì)劃;還可以將個(gè)人的消費(fèi)數(shù)據(jù)授權(quán)給金融理財(cái)機(jī)構(gòu),由他們幫你 制定合理的理財(cái)計(jì)劃并對(duì)收益進(jìn)行預(yù)測(cè)。當(dāng)然,其中有一部分個(gè)人數(shù)據(jù)是無(wú)需個(gè)人授權(quán)即可提供給國(guó)家相關(guān)部門(mén)進(jìn)行實(shí)時(shí)監(jiān)控的,比如罪案預(yù)防監(jiān)控中心可以實(shí)時(shí)的 監(jiān)控本地區(qū)每個(gè)人的情緒和心理狀態(tài),以預(yù)防自殺和犯罪的發(fā)生。

以個(gè)人為中心的大數(shù)據(jù)有這么一些特性:

1- 數(shù)據(jù)僅留存在個(gè)人中心,其它第三方機(jī)構(gòu)只被授權(quán)使用(數(shù)據(jù)有一定的使用期限),且必須接受用后即焚的監(jiān)管。

2- 采集個(gè)人數(shù)據(jù)應(yīng)該明確分類(lèi),除了國(guó)家立法明確要求接受監(jiān)控的數(shù)據(jù)外,其它類(lèi)型數(shù)據(jù)都由用戶(hù)自己決定是否被采集。

3- 數(shù)據(jù)的使用將只能由用戶(hù)進(jìn)行授權(quán),數(shù)據(jù)中心可幫助監(jiān)控個(gè)人數(shù)據(jù)的整個(gè)生命周期。

展望過(guò)于美好,也許實(shí)現(xiàn)個(gè)人數(shù)據(jù)中心將遙遙無(wú)期,也許這還不是解決個(gè)人數(shù)據(jù)隱私的最好方法,也許業(yè)界對(duì)大數(shù)據(jù)的無(wú)限渴求會(huì)阻止數(shù)據(jù)個(gè)人中心的實(shí)現(xiàn), 但是隨著數(shù)據(jù)越來(lái)越多,在缺乏監(jiān)管之后,必然會(huì)有一場(chǎng)激烈的博弈:到底是數(shù)據(jù)重要還是隱私重要;是以商業(yè)為中心還是以個(gè)人為中心。

 

原文來(lái)自:36大數(shù)據(jù)

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒(méi)評(píng)論,等你發(fā)揮!