更新時(shí)間:2017-08-31 來源:黑馬程序員云計(jì)算大數(shù)據(jù)培訓(xùn)學(xué)院 瀏覽量:
5. 算法是萬無一失的預(yù)言家
不久前,谷歌流感趨勢(shì)項(xiàng)目被大肆炒作,聲稱比美國疾病控制中心和其他健康信息服務(wù)機(jī)構(gòu)更快、更準(zhǔn)確地預(yù)測(cè)流感疫情的發(fā)生地。正如《紐約客》的Michele Nijhuis 在2017年6月3日的文章中所寫的那樣, 人們認(rèn)為與流感有關(guān)詞語的搜索會(huì)準(zhǔn)確地預(yù)測(cè)疫情即將爆發(fā)的地區(qū)。事實(shí)上,簡單地繪制本地溫度是一個(gè)更準(zhǔn)確的預(yù)測(cè)方法。
谷歌的流感預(yù)測(cè)算法陷入了一個(gè)常見的大數(shù)據(jù)陷阱——它產(chǎn)生了無意義的相關(guān)性,比如將高中籃球比賽和流感爆發(fā)聯(lián)系起來,因?yàn)閮烧叨及l(fā)生在冬季。當(dāng)數(shù)據(jù)挖掘在一組海量數(shù)據(jù)上運(yùn)行時(shí),它更可能發(fā)現(xiàn)具有統(tǒng)計(jì)意義而非實(shí)際意義的信息之間的關(guān)系。一個(gè)例子是將緬因州的離婚率與美國人均人造黃油的消費(fèi)量掛鉤:盡管沒有任何現(xiàn)實(shí)意義,但這兩個(gè)數(shù)字之間確實(shí)存在“統(tǒng)計(jì)上顯著”的關(guān)系。
6. 你不能在虛擬化基礎(chǔ)架構(gòu)上運(yùn)行大數(shù)據(jù)應(yīng)用
大約10年前,當(dāng)”大數(shù)據(jù)”首次出現(xiàn)在人們眼前時(shí),它就是Apache Hadoop的代名詞。就像VMware的Justin Murray在2017年5月12日的文章中所寫的,大數(shù)據(jù)這一術(shù)語現(xiàn)在包括一系列技術(shù),從NoSQL(MongoDB,Apache Cassandra)到Apache Spark。
此前,批評(píng)者們質(zhì)疑Hadoop在虛擬機(jī)上的性能,但Murray指出,Hadoop在虛擬機(jī)上的性能與物理機(jī)相當(dāng),而且它能更有效地利用集群資源。Murray還炮轟了一種誤解,即認(rèn)為虛擬機(jī)的基本特性需要存儲(chǔ)區(qū)域網(wǎng)絡(luò)(SAN)。實(shí)際上,供應(yīng)商們經(jīng)常推薦直接連接存儲(chǔ),這提供了更好的性能和更低的成本。
7. 機(jī)器學(xué)習(xí)是人工智能的同義詞
一個(gè)識(shí)別大量數(shù)據(jù)中模式的算法和一個(gè)能夠根據(jù)數(shù)據(jù)模式得出邏輯結(jié)論的方法之間的差距更像是一個(gè)鴻溝。ITProPortal 的Vineet Jain在2017年5月26日的文章中寫道,機(jī)器學(xué)習(xí)使用統(tǒng)計(jì)解釋來生成預(yù)測(cè)模型。這是算法背后的技術(shù),它可以根據(jù)一個(gè)人過去的購買記錄來預(yù)測(cè)他可能購買什么,或者根據(jù)他們的聽歌歷史來預(yù)測(cè)他們喜歡的音樂。
雖然這些算法很聰明,但它們遠(yuǎn)遠(yuǎn)不能達(dá)到人工智能的目的,即復(fù)制人類的決策過程?;诮y(tǒng)計(jì)的預(yù)測(cè)缺乏人類的推理、判斷和想象力。從這個(gè)意義上說,機(jī)器學(xué)習(xí)可能被認(rèn)為是真正AI的必要先導(dǎo)。即使是迄今為止最復(fù)雜的AI 系統(tǒng),比如 IBM沃森,也無法提供人類數(shù)據(jù)科學(xué)家所提供的大數(shù)據(jù)的洞察力。
8. 大多數(shù)大數(shù)據(jù)項(xiàng)目至少實(shí)現(xiàn)了一半的目標(biāo)
IT經(jīng)理們知道沒有數(shù)據(jù)分析項(xiàng)目是100%成功的。當(dāng)這些項(xiàng)目涉及大數(shù)據(jù)時(shí),成功率就會(huì)直線下降,NewVantage Partners最近的調(diào)查結(jié)果顯示了這一點(diǎn)。在過去的五年中,95%的企業(yè)領(lǐng)導(dǎo)人表示,他們的公司參與了一個(gè)大數(shù)據(jù)項(xiàng)目,但只有48.4%的項(xiàng)目取得了”可衡量的結(jié)果”。
NewVantage Partners的大數(shù)據(jù)執(zhí)行調(diào)查顯示, 只有不到一半的大數(shù)據(jù)項(xiàng)目實(shí)現(xiàn)了目標(biāo),而 “文化”變化是最難實(shí)現(xiàn)的。資料來源: Data Informed。
事實(shí)上,根據(jù)2016年10月發(fā)布的Gartner的研究結(jié)果,大數(shù)據(jù)項(xiàng)目很少能跨過試驗(yàn)階段。Gartner的調(diào)查發(fā)現(xiàn),只有15%的大數(shù)據(jù)實(shí)現(xiàn)被部署到生產(chǎn)中,與去年調(diào)查報(bào)告的14%的成功率相對(duì)持平。
9. 大數(shù)據(jù)的增長將減少對(duì)數(shù)據(jù)工程師的需求
如果你公司大數(shù)據(jù)計(jì)劃的目標(biāo)是盡量減少對(duì)數(shù)據(jù)科學(xué)家的需求,你可能會(huì)得到令人不快的驚喜。2017 Robert Half 技術(shù)薪資指南指出, 數(shù)據(jù)工程師的年薪平均躍升到13萬美元和19.6萬美元之間, 而數(shù)據(jù)科學(xué)家的薪資目前平均在11.6萬美元和16.3萬美元之間, 而商業(yè)情報(bào)分析員的薪資目前平均在11.8萬美元到13.875萬美元之間。
10. 員工和一線經(jīng)理將張開雙臂擁抱大數(shù)據(jù)
NewVantage Partners的調(diào)查發(fā)現(xiàn),85.5%的公司都致力于創(chuàng)造一個(gè)“數(shù)據(jù)驅(qū)動(dòng)的文化”。然而,新的數(shù)據(jù)計(jì)劃的整體成功率僅為37.1%。這些公司最常提到的三個(gè)障礙是缺乏組織一致性(42.6%),缺乏中層管理人員的采納和理解(41%),以及業(yè)務(wù)阻力或缺乏理解(41%)。
未來可能屬于大數(shù)據(jù),但獲得這一技術(shù)的好處需要大量的針對(duì)多樣人性的老式辛勤工作。