?

• 大數(shù)據(jù)計算
• 大數(shù)據(jù)存儲
• 大數(shù)據(jù)挖掘
• ?

• 分布式技術(shù)體系概述 1.分布式計算、并行計算、云計算、大數(shù)據(jù)概述 2.分布式產(chǎn)品hadoop、zookeeper、hbase概述 分布式并行計算原理和設(shè)計 1、最初想到的master-slave結(jié)構(gòu) 2、“包工頭-職介所-手工倉庫-工人”簡化模式 3、基于消息中樞的計算模式 4、基于網(wǎng)狀直接交互的計算模式 5、并行結(jié)合串行模式 6、批量多階段處理模式 7、計算集群模式和兼容遺留計算系統(tǒng) 8、工人計算的服務(wù)化模式 9、storm流處理計算架構(gòu)解析 10、簡化的實時流處理計算模式 11、跟hadoop map/reduce的區(qū)別 12、初級應(yīng)用：動手跑一個基本例子（動手） 13、中級應(yīng)用：計算節(jié)點互相交互的完整例子（動手） 14、高級應(yīng)用：使用并行計算大幅提升算法效率例子（動手） 15、相關(guān)架構(gòu)探討（需求、運維、故障、優(yōu)化等） 分布式協(xié)調(diào)原理和設(shè)計 1、協(xié)調(diào)架構(gòu)原理簡介 2、權(quán)限機制 3、相對于zookeeper的區(qū)別 4、與paxos算法的區(qū)別 5、實踐應(yīng)用：領(lǐng)導(dǎo)者選舉和應(yīng)用（動手） 6、統(tǒng)一配置管理（動手） 7、集群管理（動手） 8、分布式鎖（動手） 9、相關(guān)架構(gòu)探討（需求、運維、故障、優(yōu)化等） 分布式消息隊列的實現(xiàn) 1、jms的兩種經(jīng)典模式 2、如何實現(xiàn)發(fā)送接收的隊列模式 3、如何實現(xiàn)主題訂閱模式

  主題2：大數(shù)據(jù)存儲（8-9小時） 主要講解大數(shù)據(jù)存儲的技術(shù)架構(gòu)原理和實踐：聚焦業(yè)界，并重點剖析分布式緩存、分布式文件存儲、k/v存儲，一般互聯(lián)網(wǎng)企業(yè)的分布式存儲系統(tǒng)都是個大平臺，系統(tǒng)復(fù)雜、代碼龐大，而且只適合公司的業(yè)務(wù)，工程師很難下載安裝到自己的電腦里學(xué)習(xí)和吃透。本課程從作者多年實戰(zhàn)經(jīng)驗出發(fā)，對分布式存儲技術(shù)進(jìn)行了大量歸納和總結(jié)，并動手搭建分布式存儲環(huán)境，用最基本的程序?qū)崿F(xiàn)分布式存儲功能，你會感慨原來分布式存儲可以如此簡單的實現(xiàn)，如此輕松的上手...

  分布式緩存架構(gòu)和實現(xiàn) 1、小型網(wǎng)站或企業(yè)應(yīng)用的緩存實現(xiàn)架構(gòu) 2、大型分布式緩存系統(tǒng)實現(xiàn)過程 3、 一致性哈希算法的原理、改進(jìn)和實現(xiàn) 4、解決任意擴容的問題 5、 解決擴容后數(shù)據(jù)均勻的問題 6、分布式session的架構(gòu)設(shè)計和實現(xiàn) 7、按日期取模無遷移擴容算法 8、相關(guān)架構(gòu)探討（需求、運維、故障、優(yōu)化等） 分布式文件系統(tǒng)架構(gòu)和實現(xiàn) 1、簡化的分布式文件系統(tǒng)架構(gòu) 2、如何設(shè)計和利用集群分布式文件解決計算數(shù)據(jù)存儲問題 3、訪問集群文件根目錄 4、訪問和操作遠(yuǎn)程文件（動手） 5、集群內(nèi)文件復(fù)制和并行復(fù)制（動手） 6、讀寫遠(yuǎn)程文件（動手） 7、解析遠(yuǎn)程文件（動手） 8、并行讀寫遠(yuǎn)程文件（動手） 9、批量并行讀寫遠(yuǎn)程文件和事務(wù)補償處理（動手） 10、相關(guān)架構(gòu)探討（需求、運維、故障、優(yōu)化等） 分布式k/v數(shù)據(jù)庫存儲技術(shù)的變革 數(shù)據(jù)庫作為企業(yè)信息系統(tǒng)的最基礎(chǔ)軟件，面臨著分布式存儲、nosql、k/v、并行數(shù)據(jù)庫等創(chuàng)新技術(shù)的沖擊，如何實現(xiàn)百萬吞吐量的數(shù)據(jù)庫幫助加速大數(shù)據(jù)的計算分析和實時查詢。 1、從關(guān)系數(shù)據(jù)庫架構(gòu)到k/v數(shù)據(jù)庫架構(gòu) 2、緩存和持久存儲在越來越接近 3、kv nosql數(shù)據(jù)庫和文檔nosql數(shù)據(jù)庫 4、redis架構(gòu)分析 5、Aerospike+SSD持久化架構(gòu)分析 6、淘寶Tair架構(gòu)分析 7、LevelDB架構(gòu)分析 8、Tokyo Cabinet架構(gòu)分析 9、KyotoCabinet架構(gòu)分析 10、CouchDB&Membase&Couchbase架構(gòu)分析 11、百萬吞吐量的新型并行數(shù)據(jù)庫CoolHash架構(gòu) 12、動手體驗（易用性、功能、性能） 13、相關(guān)架構(gòu)探討（需求、運維、故障、優(yōu)化等）

  主題3：大數(shù)據(jù)挖掘（8-9小時） 數(shù)據(jù)挖掘和機器學(xué)習(xí)是屬于大數(shù)據(jù)的核心技術(shù)之一，以科學(xué)嚴(yán)謹(jǐn)?shù)臄?shù)據(jù)依據(jù)幫助企業(yè)做分析決策，同時其高深的理論門檻也阻擋了廣大工程師的學(xué)習(xí)上手，在大數(shù)據(jù)時代，如何進(jìn)行基于海量數(shù)據(jù)在成百上千的機器進(jìn)行分布式數(shù)據(jù)挖掘更是需要解決的難題，本課程從實戰(zhàn)角度出發(fā)，基于企業(yè)實際需求，深入淺出的講解數(shù)據(jù)挖掘最常用的算法和企業(yè)場景，讓工程師通俗易懂的掌握，并且進(jìn)行編程落地實踐培訓(xùn)，讓抽象的算法公式完全落地為工程化的程序為企業(yè)所用。詳細(xì)內(nèi)容參考課程提綱：

  大數(shù)據(jù)分析挖掘技術(shù)介紹 1、map/reduce 2、mahout數(shù)據(jù)挖掘 3、sql on hadoop 4、spark生態(tài)體系 5、R語言 6、MPI并行計算 7、GPU并行計算（深度學(xué)習(xí)） 8、java并行計算框架 常用機器學(xué)習(xí)算法原理 1、決策樹 2、隨機森林 3、協(xié)同過濾推薦算法(余弦相似、修正余弦) 4、Jaccard算法 5、樸素貝葉斯算法 6、k-means聚類算法 7、pagerank算法 8、邏輯回歸 9、圖計算 大數(shù)據(jù)挖掘業(yè)務(wù)場景和生產(chǎn)平臺 1、互聯(lián)網(wǎng)金融業(yè)務(wù)—如何構(gòu)建阿里金融系統(tǒng) 2、銀行客戶需求業(yè)務(wù) 3、大數(shù)據(jù)分析生產(chǎn)平臺 4、推薦/廣告系統(tǒng)的原理、架構(gòu)、模型、驗證等。 5、基于GBDT的組合模型架構(gòu) 編程實踐（動手） 1、迭代類機器學(xué)習(xí)編程入門-求圓周率 2、pagerank的并行化實現(xiàn)（*） 3、邏輯回歸算法的java實現(xiàn) 4、決策樹c45,id3的java實現(xiàn) 5、隨機森林和全樹并行化實現(xiàn) 6、訓(xùn)練數(shù)據(jù)和結(jié)果模擬器 7、模型結(jié)果規(guī)則化處理 8、協(xié)同過濾java實現(xiàn) 9、基于圖計算的推薦java實現(xiàn)?

  ?