大數據分析

用手机看条目

出自 MBA智库百科(https://wiki.mbalib.com/)

大數據分析(Large Data Analysis)

目錄

什麼是大數據分析

  大數據分析是指對規模巨大的數據進行分析。

大數據分析的方法

  1. Analytic Visualizations(可視化分析)

  不管是對數據分析專家還是普通用戶,數據可視化是數據分析工具最基本的要求。可視化可以直觀的展示數據,讓數據自己說話,讓觀眾聽到結果。

  2. Data Mining Algorithms(數據挖掘演算法)

  可視化是給人看的,數據挖掘就是給機器看的。集群、分割、孤立點分析還有其他的演算法讓我們深入數據內部,挖掘價值。這些演算法不僅要處理大數據的量,也要處理大數據的速度。

  3. Predictive Analytic Capabilities(預測性分析能力)

  數據挖掘可以讓分析員更好的理解數據,而預測性分析可以讓分析員根據可視化分析和數據挖掘的結果做出一些預測性的判斷。

  4. Semantic Engines(語義引擎)

  我們知道由於非結構化數據的多樣性帶來了數據分析的新的挑戰,我們需要一系列的工具去解析,提取,分析數據。語義引擎需要被設計成能夠從“文檔”中智能提取信息。[2]

  5. Data Quality and Master Data Management(數據質量和數據管理

  數據質量和數據管理是一些管理方面的最佳實踐。通過標準化流程和工具對數據進行處理可以保證一個預先定義好的高質量的分析結果。

大數據分析的步驟

  統計與分析主要利用分散式資料庫,或者分散式計算集群來對存儲於其內的海量數據進行普通的分析和分類彙總等,以滿足大多數常見的分析需求,在這方面,一些實時性需求會用到EMC的GreenPlum、Oracle的Exadata,以及基MySQL的列式存儲Infobright等,而一些批處理,或者基於半結構化數據的需求可以使用Hadoop。統計與分析這部分的主要特點和挑戰是分析涉及的數據量大,其對系統資源,特別是I/O會有極大的占用。

  • 導入/預處理

  將這些來自前端的數據導入到一個集中的大型分散式資料庫,或者分散式存儲集群,並且可以在導入基礎上做一些簡單的清洗和預處理工作。也有一些用戶會在導入時使用來自Twitter的Storm來對數據進行流式計算,來滿足部分業務的實時計算需求。導入與預處理過程的特點和挑戰主要是導入的數據量大,每秒鐘的導入量經常會達到百兆,甚至千兆級別。

  • 挖掘

  比較典型演算法有用於聚類的K-Means、用於統計學習的SVM和用於分類的Naive Bayes,主要使用的工具有HadoopMahout。

相關條目

本條目對我有幫助19
MBA智库APP

扫一扫,下载MBA智库APP

分享到:
  如果您認為本條目還有待完善,需要補充新內容或修改錯誤內容,請編輯條目投訴舉報

本条目由以下用户参与贡献

寒曦,Mis铭,刘维燎.

評論(共0條)

提示:評論內容為網友針對條目"大數據分析"展開的討論,與本站觀點立場無關。

發表評論請文明上網,理性發言並遵守有關規定。

打开APP

以上内容根据网友推荐自动排序生成

闽公网安备 35020302032707号