?

• 大數(shù)據(jù)計算
• 大數(shù)據(jù)存儲
• 大數(shù)據(jù)挖掘
• ?

• 分布式技術體系概述 1.分布式計算、并行計算、云計算、大數(shù)據(jù)概述 2.分布式產(chǎn)品hadoop、zookeeper、hbase概述 分布式并行計算原理和設計 1、最初想到的master-slave結構 2、“包工頭-職介所-手工倉庫-工人”簡化模式 3、基于消息中樞的計算模式 4、基于網(wǎng)狀直接交互的計算模式 5、并行結合串行模式 6、批量多階段處理模式 7、計算集群模式和兼容遺留計算系統(tǒng) 8、工人計算的服務化模式 9、storm流處理計算架構解析 10、簡化的實時流處理計算模式 11、跟hadoop map/reduce的區(qū)別 12、初級應用：動手跑一個基本例子（動手） 13、中級應用：計算節(jié)點互相交互的完整例子（動手） 14、高級應用：使用并行計算大幅提升算法效率例子（動手） 15、相關架構探討（需求、運維、故障、優(yōu)化等） 分布式協(xié)調原理和設計 1、協(xié)調架構原理簡介 2、權限機制 3、相對于zookeeper的區(qū)別 4、與paxos算法的區(qū)別 5、實踐應用：領導者選舉和應用（動手） 6、統(tǒng)一配置管理（動手） 7、集群管理（動手） 8、分布式鎖（動手） 9、相關架構探討（需求、運維、故障、優(yōu)化等） 分布式消息隊列的實現(xiàn) 1、jms的兩種經(jīng)典模式 2、如何實現(xiàn)發(fā)送接收的隊列模式 3、如何實現(xiàn)主題訂閱模式

  主題2：大數(shù)據(jù)存儲（8-9小時） 主要講解大數(shù)據(jù)存儲的技術架構原理和實踐：聚焦業(yè)界，并重點剖析分布式緩存、分布式文件存儲、k/v存儲，一般互聯(lián)網(wǎng)企業(yè)的分布式存儲系統(tǒng)都是個大平臺，系統(tǒng)復雜、代碼龐大，而且只適合公司的業(yè)務，工程師很難下載安裝到自己的電腦里學習和吃透。本課程從作者多年實戰(zhàn)經(jīng)驗出發(fā)，對分布式存儲技術進行了大量歸納和總結，并動手搭建分布式存儲環(huán)境，用最基本的程序實現(xiàn)分布式存儲功能，你會感慨原來分布式存儲可以如此簡單的實現(xiàn)，如此輕松的上手...

  分布式緩存架構和實現(xiàn) 1、小型網(wǎng)站或企業(yè)應用的緩存實現(xiàn)架構 2、大型分布式緩存系統(tǒng)實現(xiàn)過程 3、 一致性哈希算法的原理、改進和實現(xiàn) 4、解決任意擴容的問題 5、 解決擴容后數(shù)據(jù)均勻的問題 6、分布式session的架構設計和實現(xiàn) 7、按日期取模無遷移擴容算法 8、相關架構探討（需求、運維、故障、優(yōu)化等） 分布式文件系統(tǒng)架構和實現(xiàn) 1、簡化的分布式文件系統(tǒng)架構 2、如何設計和利用集群分布式文件解決計算數(shù)據(jù)存儲問題 3、訪問集群文件根目錄 4、訪問和操作遠程文件（動手） 5、集群內(nèi)文件復制和并行復制（動手） 6、讀寫遠程文件（動手） 7、解析遠程文件（動手） 8、并行讀寫遠程文件（動手） 9、批量并行讀寫遠程文件和事務補償處理（動手） 10、相關架構探討（需求、運維、故障、優(yōu)化等） 分布式k/v數(shù)據(jù)庫存儲技術的變革 數(shù)據(jù)庫作為企業(yè)信息系統(tǒng)的最基礎軟件，面臨著分布式存儲、nosql、k/v、并行數(shù)據(jù)庫等創(chuàng)新技術的沖擊，如何實現(xiàn)百萬吞吐量的數(shù)據(jù)庫幫助加速大數(shù)據(jù)的計算分析和實時查詢。 1、從關系數(shù)據(jù)庫架構到k/v數(shù)據(jù)庫架構 2、緩存和持久存儲在越來越接近 3、kv nosql數(shù)據(jù)庫和文檔nosql數(shù)據(jù)庫 4、redis架構分析 5、Aerospike+SSD持久化架構分析 6、淘寶Tair架構分析 7、LevelDB架構分析 8、Tokyo Cabinet架構分析 9、KyotoCabinet架構分析 10、CouchDB&Membase&Couchbase架構分析 11、百萬吞吐量的新型并行數(shù)據(jù)庫CoolHash架構 12、動手體驗（易用性、功能、性能） 13、相關架構探討（需求、運維、故障、優(yōu)化等）

  主題3：大數(shù)據(jù)挖掘（8-9小時） 數(shù)據(jù)挖掘和機器學習是屬于大數(shù)據(jù)的核心技術之一，以科學嚴謹?shù)臄?shù)據(jù)依據(jù)幫助企業(yè)做分析決策，同時其高深的理論門檻也阻擋了廣大工程師的學習上手，在大數(shù)據(jù)時代，如何進行基于海量數(shù)據(jù)在成百上千的機器進行分布式數(shù)據(jù)挖掘更是需要解決的難題，本課程從實戰(zhàn)角度出發(fā)，基于企業(yè)實際需求，深入淺出的講解數(shù)據(jù)挖掘最常用的算法和企業(yè)場景，讓工程師通俗易懂的掌握，并且進行編程落地實踐培訓，讓抽象的算法公式完全落地為工程化的程序為企業(yè)所用。詳細內(nèi)容參考課程提綱：

  大數(shù)據(jù)分析挖掘技術介紹 1、map/reduce 2、mahout數(shù)據(jù)挖掘 3、sql on hadoop 4、spark生態(tài)體系 5、R語言 6、MPI并行計算 7、GPU并行計算（深度學習） 8、java并行計算框架 常用機器學習算法原理 1、決策樹 2、隨機森林 3、協(xié)同過濾推薦算法(余弦相似、修正余弦) 4、Jaccard算法 5、樸素貝葉斯算法 6、k-means聚類算法 7、pagerank算法 8、邏輯回歸 9、圖計算 大數(shù)據(jù)挖掘業(yè)務場景和生產(chǎn)平臺 1、互聯(lián)網(wǎng)金融業(yè)務—如何構建阿里金融系統(tǒng) 2、銀行客戶需求業(yè)務 3、大數(shù)據(jù)分析生產(chǎn)平臺 4、推薦/廣告系統(tǒng)的原理、架構、模型、驗證等。 5、基于GBDT的組合模型架構 編程實踐（動手） 1、迭代類機器學習編程入門-求圓周率 2、pagerank的并行化實現(xiàn)（*） 3、邏輯回歸算法的java實現(xiàn) 4、決策樹c45,id3的java實現(xiàn) 5、隨機森林和全樹并行化實現(xiàn) 6、訓練數(shù)據(jù)和結果模擬器 7、模型結果規(guī)則化處理 8、協(xié)同過濾java實現(xiàn) 9、基于圖計算的推薦java實現(xiàn)?

  ?