課程描(miao)述INTRODUCTION
大數據實(shi)戰(zhan)培訓(xun)班
日程安排SCHEDULE
課程大綱Syllabus
大數據實戰培訓班
【課程簡介】
大數(shu)(shu)(shu)(shu)據(ju)建(jian)模(mo)(mo)與分(fen)(fen)(fen)析(xi)(xi)(xi)挖(wa)(wa)掘(jue)技術(shu)(shu)已經逐(zhu)步地應(ying)用(yong)(yong)到新興(xing)互聯(lian)網企業(ye)(如電(dian)子商(shang)務網站(zhan)、搜索引擎、社(she)交網站(zhan)、互聯(lian)網廣(guang)(guang)告服(fu)務提供(gong)商(shang)等)、銀行(xing)金融(rong)證券企業(ye)、電(dian)信運營等行(xing)業(ye),給這(zhe)些行(xing)業(ye)帶(dai)來了一定(ding)的(de)(de)(de)數(shu)(shu)(shu)(shu)據(ju)價(jia)值增值作用(yong)(yong)。本(ben)(ben)次(ci)課(ke)(ke)程(cheng)面(mian)向有一定(ding)的(de)(de)(de)數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)挖(wa)(wa)掘(jue)算法(fa)基礎的(de)(de)(de)工程(cheng)師(shi),帶(dai)大家實(shi)踐大數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)挖(wa)(wa)掘(jue)平(ping)(ping)臺的(de)(de)(de)項目(mu)(mu)訓(xun)練(lian),系(xi)統(tong)地講(jiang)解數(shu)(shu)(shu)(shu)據(ju)準備、數(shu)(shu)(shu)(shu)據(ju)建(jian)模(mo)(mo)、挖(wa)(wa)掘(jue)模(mo)(mo)型建(jian)立、大數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)與挖(wa)(wa)掘(jue)算法(fa)應(ying)用(yong)(yong)在(zai)(zai)業(ye)務模(mo)(mo)型中,結合(he)(he)主流(liu)的(de)(de)(de)Hadoop與Spark大數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)平(ping)(ping)臺架構,實(shi)現(xian)項目(mu)(mu)訓(xun)練(lian)。結合(he)(he)業(ye)界使(shi)用(yong)(yong)最廣(guang)(guang)泛的(de)(de)(de)主流(liu)大數(shu)(shu)(shu)(shu)據(ju)平(ping)(ping)臺技術(shu)(shu),重點剖析(xi)(xi)(xi)基于大數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)算法(fa)與BI技術(shu)(shu)應(ying)用(yong)(yong),包括分(fen)(fen)(fen)類算法(fa)、聚類算法(fa)、預(yu)測(ce)分(fen)(fen)(fen)析(xi)(xi)(xi)算法(fa)、推薦分(fen)(fen)(fen)析(xi)(xi)(xi)模(mo)(mo)型等在(zai)(zai)業(ye)務中的(de)(de)(de)實(shi)踐應(ying)用(yong)(yong),并根(gen)據(ju)講(jiang)師(shi)給定(ding)的(de)(de)(de)數(shu)(shu)(shu)(shu)據(ju)集,實(shi)現(xian)兩個基本(ben)(ben)的(de)(de)(de)日志數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)挖(wa)(wa)掘(jue)系(xi)統(tong),以(yi)及電(dian)商(shang)(或(huo)內容(rong))推薦系(xi)統(tong)引擎。本(ben)(ben)課(ke)(ke)程(cheng)基本(ben)(ben)的(de)(de)(de)實(shi)踐環(huan)境(jing)是Linux集群,JDK1.8, Hadoop 2.7.*,Spark 2.1.*。學員需(xu)要準備的(de)(de)(de)電(dian)腦最好是i5及以(yi)上CPU,4GB及以(yi)上內存,硬(ying)(ying)盤(pan)(pan)空(kong)間預(yu)留50GB(可用(yong)(yong)移動硬(ying)(ying)盤(pan)(pan)),基本(ben)(ben)的(de)(de)(de)大數(shu)(shu)(shu)(shu)據(ju)分(fen)(fen)(fen)析(xi)(xi)(xi)平(ping)(ping)臺所依賴的(de)(de)(de)軟件包和依賴庫等,講(jiang)師(shi)已經提前部(bu)署(shu)在(zai)(zai)虛擬機鏡(jing)像(VMware鏡(jing)像),學員根(gen)據(ju)講(jiang)師(shi)的(de)(de)(de)操作任務進(jin)行(xing)實(shi)踐。本(ben)(ben)課(ke)(ke)程(cheng)采用(yong)(yong)技術(shu)(shu)原理與項目(mu)(mu)實(shi)戰相結合(he)(he)的(de)(de)(de)方式(shi)進(jin)行(xing)教學,在(zai)(zai)講(jiang)授(shou)原理的(de)(de)(de)過程(cheng)中,穿插(cha)實(shi)際的(de)(de)(de)系(xi)統(tong)操作,本(ben)(ben)課(ke)(ke)程(cheng)講(jiang)師(shi)也精心(xin)準備的(de)(de)(de)實(shi)際的(de)(de)(de)應(ying)用(yong)(yong)案例供(gong)學員動手訓(xun)練(lian)。
【培訓目標】
1.讓學員掌握常見的機器學習算法,深入講解業界成熟的大數據分析挖掘與BI平臺的實踐應用,并以客戶分析系統、日志分析和電商推薦系統為案例,串聯常用的數據挖掘技術進行應用教學。
2.本課程讓學員充分掌握大數據平臺技術架構、大數據分析的基本理論、機器學習的常用算法、國內外主流的大數據分析與BI商業智能分析解決方案、以及大數據分析在搜索引擎、廣告服務推薦、電商數據分析、金融客戶分析方面的應用案例。
3.本課程(cheng)強調主流(liu)的(de)(de)(de)大(da)(da)數(shu)(shu)據(ju)(ju)分(fen)(fen)析(xi)挖掘算法技術的(de)(de)(de)應(ying)用(yong)和(he)(he)(he)分(fen)(fen)析(xi)平(ping)臺的(de)(de)(de)實(shi)施(shi),讓學員掌(zhang)握(wo)主流(liu)的(de)(de)(de)基于(yu)大(da)(da)數(shu)(shu)據(ju)(ju)Hadoop和(he)(he)(he)Spark、R的(de)(de)(de)大(da)(da)數(shu)(shu)據(ju)(ju)分(fen)(fen)析(xi)平(ping)臺架構和(he)(he)(he)實(shi)際(ji)(ji)應(ying)用(yong),并用(yong)結合(he)實(shi)際(ji)(ji)的(de)(de)(de)生產(chan)系統(tong)案例進(jin)行教學,掌(zhang)握(wo)基于(yu)Hadoop大(da)(da)數(shu)(shu)據(ju)(ju)平(ping)臺的(de)(de)(de)數(shu)(shu)據(ju)(ju)挖掘和(he)(he)(he)數(shu)(shu)據(ju)(ju)倉庫分(fen)(fen)布(bu)式(shi)系統(tong)平(ping)臺應(ying)用(yong),以及商業和(he)(he)(he)開源的(de)(de)(de)數(shu)(shu)據(ju)(ju)分(fen)(fen)析(xi)產(chan)品加(jia)上Hadoop平(ping)臺形成大(da)(da)數(shu)(shu)據(ju)(ju)分(fen)(fen)析(xi)平(ping)臺的(de)(de)(de)應(ying)用(yong)剖析(xi)。
【培訓人群】
1.大數據分析應用開發工程師
2.大數據分析項目的規劃咨詢管理人員
3.大數據分析項目的IT項目高管人員
4.大數據分析與挖掘處理算法應用工程師
5.大數據分析集群運維工程師
6.大數據分析項(xiang)目(mu)的售(shou)前和售(shou)后技術支持服務人員
【詳細大綱與培訓內容】
兩個完整的項目任務和實踐案例(重點)
1.日志分析建模與日志挖掘項目實踐
a)Hadoop,Spark,并結合ELK技術構建日志分析系統和日志數據倉庫
b)互聯網微博日志分析系統項目
2.推薦系統項目實踐
a)電影數據分析與個性化推薦關聯分析項目
b)電商購物籃分析項目
Hadoop,Spark,可結合Oryx分布式集群在個性化推薦和精準營銷項目。
項目的階段性步驟貫穿到三天的培訓過程中,第三天完成整個項目的原型
培訓內容安排如下:
時間
內容提要
授課詳細內容
實踐訓練
第一天
業界主流的數據倉庫工具和大數據分析挖掘工具
■業界主流的基于Hadoop和Spark的大數據分析挖掘項目解決方案
■業界數據倉庫與數據分析挖掘平臺軟件工具
■Hadoop數據倉庫工具Hive
■Spark實時數據倉庫工具SparkSQL
■Hadoop數據分析挖掘工具Mahout
■Spark機器學習與數據分析挖掘工具MLlib
■大數據分析挖掘項目的實施步驟
配置數據倉庫工具Hadoop Hive和SparkSQL
部署數據分析挖掘工具Hadoop Mahout和Spark MLlib
大數據分析挖掘項目的數據集成操作訓練
■日志數據解析和導入導出到數據倉庫的操作訓練
■從原始搜索數據集中抽取、集成數據,整理后形成規范的數據倉庫
■數據分析挖掘模塊從大型的集中式數據倉庫中訪問數據,一個數據倉庫面向一個主題,構建兩個數據倉庫
■同一個數據倉庫中的事實表數據,可以給多個不同類型的分析挖掘任務調用
■去除噪聲
項目數據集加載ETL到Hadoop Hive數據倉庫并建立多維模型
基于Hadoop的大型數據倉庫管理平臺—HIVE數據倉庫集群的多維分析建模應用實踐
■基于Hadoop的大型分布式數據倉庫在行業中的數據倉庫應用案例
■Hive數據倉庫集群的平臺體系結構、核心技術剖析
■Hive Server的工作原理、機制與應用
■Hive數據倉庫集群的安裝部署與配置優化
■Hive應用開發技巧
■Hive SQL剖析與應用實踐
■Hive數據倉庫表與表分區、表操作、數據導入導出、客戶端操作技巧
■Hive數據倉庫報表設計
■將原始的日志數據集,經過整理后,加載至Hadoop + Hive數據倉庫集群中,用于共享訪問
利用HIVE構建大型數據倉庫項目的操作訓練實踐
Spark大數據分析挖掘平臺實踐操作訓練
■Spark大數據分析挖掘平臺的部署配置
■Spark數據分析庫MLlib的開發部署
■Spark數(shu)據分(fen)析(xi)挖掘示(shi)例操(cao)作,從Hive表中(zhong)讀取(qu)數(shu)據并在(zai)分(fen)布式內(nei)存(cun)中(zhong)運行(xing)
第二天
聚類分析建模與挖掘算法的實現原理和技術應用
■聚類分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:Canopy聚類(canopy clustering)
■K均值算法(K-means clustering)
■模糊K均值(Fuzzy K-means clustering)
■EM聚類,即期望*化聚類(Expectation Maximization)
■以上算法在Spark MLib中的實現原理和實際場景中的應用案例。
■Spark聚類分析算法程序示例
基于Spark MLlib的聚類分析算法,實現日志數據集中的用戶聚類
分類分析建模與挖掘算法的實現原理和技術應用
■分類分析建模與算法原理及其在Spark MLlib中的實現與應用, 包括:Spark決策樹算法實現
■邏輯回歸算法(logistics regression)
■貝葉斯算法(Bayesian與Cbeyes)
■支持向量機(Support vector machine)
■以上算法在Spark MLlib中的實現原理和實際場景中的應用案例。
■Spark客戶資料分析與給用戶貼標簽的程序示例
■Spark實現給商品貼標簽的程序示例
■Spark實現用戶行為的自動標簽和深度技術
基于Spark MLlib的分類分析算法模型與應用操作
關聯分析建模與挖掘算法的實現原理和技術應用
■預測、推薦分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應用
■Spark關聯規則挖掘(Apriori)算法及其應用
■以上算法在Spark MLib中的實現原理和實際場景中的應用案例。
■Spark關聯分析程序示例
基于Spark MLlib的關聯分析操(cao)作(zuo)
第三天
推薦分析挖掘模型與算法技術應用
■推薦算法原理及其在Spark MLlib中的實現與應用,包括:Spark協同過濾算法程序示例
■Item-based協同過濾與推薦
■User-based協同過濾與推薦
■交叉銷售推薦模型及其實現
推薦分析實現步驟與操作(重點)
回歸分析模型與預測算法
■利用線性回歸(多元回歸)實現訪問量預測
■利用非線性回歸預測成交量和訪問量的關系
■基于R+Spark實現回歸分析模型及其應用操作
■Spark回歸程序實現異常點檢測的程序示例
回歸分析預測操作例子
圖關系建模與分析挖掘及其鏈接分析和社交分析操作
■利用Spark GraphX實現網頁鏈接分析,計算網頁重要性排名
■實現信息傳播的社交關系傳遞分析,互聯網用戶的行為關系分析任務的操作訓練
圖數據的分析挖掘操作,實現微博數據集的社交網絡建模與關系分析
神經網絡與深度學習算法模型及其應用實踐
■神經網絡算法Neural Network的實現方法和挖掘模型應用
■基于人工神經網絡的深度學習的訓練過程,傳統神經網絡的訓練方法
■Deep Learning的訓練方法
■深度學習的常用模型和方法CNN(Convolutional Neural Network)卷積神經網絡
■RNN(Recurrent Neural Network)循環神經網絡模型
■Restricted Boltzmann Machine(RBM)限制波爾茲曼機
■基于Spark的深度學習算法模型庫的應用程序示例
基于Spark或TensorFlow神經網絡深度學習庫實現文本與圖片數據挖掘
項目實踐
■日志分析系統與日志挖掘項目實踐Hadoop,Spark,ELK技術構建日志數據倉庫
■互聯網微博日志分析系統項目
■推薦系統項目實踐。電影數據分析與個性化推薦關聯分析項目
項目數據集和詳細的實驗指導手冊由講師提供
培訓總結
■項目方案的課堂討論,討論實際業務中的分析需求,剖析各個環節的難點、痛點、瓶頸,啟發出解決之道;完成講師布置的項目案例,鞏固學過的大數據分析挖掘處理平臺技術知識以及應用技能
討論交流
【講師介紹】
周老師,男,中國科學院通信與信息系統專業博士。北京郵電大學移動互聯網與信息化實驗室特聘研究員、對外經貿大學信息學院特聘兼職教師、中國移動集團高級培訓講師,長期從事大數據、4G、移動互聯網安全、管理及大數據*營銷等研究方向。國內*信息系統架構師,金牌講師,技術顧問,移動開發專家。擁有豐富的通信信息系統設計、開發經驗及培訓行業經驗,先后為全國超過15家省移動公司,超過30家地市移動公司有過項目開發合作及授課,擔任多個大型通信項目的總師。
鐘老師(shi),男,博(bo)士(shi)畢業于中(zhong)國(guo)科學(xue)(xue)院,獲工(gong)學(xue)(xue)博(bo)士(shi)學(xue)(xue)位(計算機(ji)系統(tong)(tong)結構(gou)方(fang)向(xiang)),曾在國(guo)內(nei)某(mou)高校和某(mou)大(da)(da)型(xing)通信(xin)企業工(gong)作過,目前在中(zhong)國(guo)科學(xue)(xue)院某(mou)研究(jiu)所工(gong)作,高級(ji)工(gong)程師(shi),副研究(jiu)員,課題組(zu)長(chang),團(tuan)隊(dui)(dui)成員二十余人。大(da)(da)數(shu)(shu)(shu)據(ju)(ju)、云(yun)(yun)計算系列(lie)課程建設(she)與(yu)教學(xue)(xue)專家(jia),新技術課程開發組(zu)長(chang)。近八(ba)年來帶領團(tuan)隊(dui)(dui)主(zhu)要從事大(da)(da)數(shu)(shu)(shu)據(ju)(ju)管理與(yu)高性能分(fen)析處理(Hadoop、Spark、Storm)、大(da)(da)數(shu)(shu)(shu)據(ju)(ju)倉庫(HIVE)和實(shi)時(shi)數(shu)(shu)(shu)據(ju)(ju)倉庫(SparkSQL、Shark),大(da)(da)數(shu)(shu)(shu)據(ju)(ju)建模挖掘與(yu)機(ji)器學(xue)(xue)習(Mahout、MLib、Oryx、Pentaho BI、SAS、SPSS、R等)、MPP并(bing)行數(shu)(shu)(shu)據(ju)(ju)倉庫(Greenplum etc)、NoSQL與(yu)NewSQL分(fen)布式數(shu)(shu)(shu)據(ju)(ju)庫(Hbase、MongoDB、Cassandra etc)、(移動)電子商(shang)務平臺(tai)、大(da)(da)數(shu)(shu)(shu)據(ju)(ju)搜(sou)索平臺(tai)(ElasticSearch、Solr、Lucene等)、云(yun)(yun)計算與(yu)虛擬化(OpenStack,VMware,XenServer,CloudStack,KVM,Docker,SaaS服務)、云(yun)(yun)存(cun)儲系統(tong)(tong)、Swift對象存(cun)儲系統(tong)(tong)、網(wang)絡GIS地圖服務器、互聯網(wang)+在線教育云(yun)(yun)平臺(tai)方(fang)面的項(xiang)目研發與(yu)管理工(gong)作。
大數據實戰培訓班
轉載://citymember.cn/gkk_detail/35600.html
已開課時間Have start time
大數據課程內訓
- 《精細運營——京東/天貓平 武建偉
- 《流量神器,銷量升級:如何 武(wu)建(jian)偉(wei)
- 《大數據精益化營銷思維與運 喻國慶
- 《銀行--網絡消費行為與網 武建(jian)偉
- 數據創造價值——大數據分析 張曉(xiao)如
- 建材門店--微信獲客與運營 武建偉
- 能源電力企業數字化轉型探索 李開東
- 大數據項目解決方案及應用 胡國慶
- 大數據提升:用戶體驗提升與 武建(jian)偉
- 企業區塊鏈技術的應用場景與 李璐
- 《大數據分析與客戶開發》 喻國慶
- 數據驅動價值 ——基于Ex 張曉(xiao)如