課程描述INTRODUCTION
Python大數據核心技術實戰 培訓
日程安(an)排SCHEDULE
課程大(da)綱(gang)Syllabus
Python大數據核心技術實戰 培訓
一、課程學習目標
1.每個算法模塊按照“原理講解→分析數據→自己動手實現→特征與調參”的順序。
2.“Python數據清洗和特征提取”,提升學習深度、降低學習坡度。
3.增加網絡爬蟲的原理和編寫,從獲取數據開始,重視將實踐問題轉換成實際模型的能力,分享工作中的實際案例或Kaggle案例:廣告銷量分析、環境數據異常檢測和分析、數字圖像手寫體識別、Titanic乘客存活率預測、用戶-電影推薦、真實新聞組數據主題分析、中文分詞、股票數據特征分析等。
4.強化矩陣運算、概率論、數理統計的知識運用,掌握機器學習根本。
5.闡述機器學習原理,提供配套源碼和數據。
6.以直觀解釋,增強感性理解。
7.對比不同的特征選擇帶來的預測效果差異。
8.重視項目實踐,重視落地。思考不同算法之間的區別和聯系,提高在實際工作中選擇算法的能力。
9.涉(she)及和(he)講解(jie)的部分Python庫有(you):Numpy、Scipy、matplotlib、Pandas、scikit-learn、XGBoost、libSVM、LDA、Gensim、NLTK、HMMLearn。
二、課程目標:本課程特點是從數學層面推導最經典的機器學習算法,以及每種算法的示例和代碼實現(Python)、如何做算法的參數調試、以實際應用案例分析各種算法的選擇等。
三、培訓對象
大(da)(da)數(shu)據(ju)分析(xi)(xi)(xi)應(ying)用開(kai)發工(gong)程師、大(da)(da)數(shu)據(ju)分析(xi)(xi)(xi)項(xiang)目(mu)(mu)的(de)規劃咨詢管(guan)理(li)人員、大(da)(da)數(shu)據(ju)分析(xi)(xi)(xi)項(xiang)目(mu)(mu)的(de)IT項(xiang)目(mu)(mu)高管(guan)人員、大(da)(da)數(shu)據(ju)分析(xi)(xi)(xi)與(yu)挖掘處理(li)算法應(ying)用工(gong)程師、大(da)(da)數(shu)據(ju)分析(xi)(xi)(xi)集群運維工(gong)程師、大(da)(da)數(shu)據(ju)分析(xi)(xi)(xi)項(xiang)目(mu)(mu)的(de)售(shou)前(qian)和售(shou)后技術支持服務人員
四、課程內容:
模塊一:機器學習的數學基礎1 - 數學分析
1.機器學習的一般方法和橫向比較
2.數學是有用的:以SVD為例
3.機器學習的角度看數學
4.復習數學分析
5.直觀解釋常數e
6.導數/梯度
7.隨機梯度下降
8.Taylor展式的落地應用
9.gini系數
10.凸函數
11.Jensen不等式
12.組(zu)合數(shu)與(yu)信息(xi)熵的(de)關系
模塊二:機器學習的數學基礎2 - 概率論與貝葉斯先驗
1.概率論基礎
2.古典概型
3.貝葉斯公式
4.先驗分布/后驗分布/共軛分布
5.常見概率分布
6.泊松分布和指數分布的物理意義
7.協方差(矩陣)和相關系數
8.獨立和不相關
9.大數定律和中心極限定理的實踐意義
10.深刻理解*似然估計MLE和*后驗估計MAP
11.過擬合(he)的數學原理與解決方(fang)案
模塊三:機器學習的數學基礎3 - 矩陣和線性代數
1.線性代數在數學科學中的地位
2.馬爾科夫模型
3.矩陣乘法的直觀表達
4.狀態轉移矩陣
5.矩陣和向量組
6.特征向量的思考和實踐計算
7.QR分解
8.對稱陣、正交陣、正定陣
9.數據白化及其應用
10.向量對向量求導
11.標量對向量求導
12.標量對(dui)矩陣求導工作機制(zhi)
模塊四:Python基礎1 - Python及其數學庫
1.解釋器Python2.7與IDE:Anaconda/Pycharm
2.Python基礎:列表/元組/字典/類/文件
3.Taylor展式的代碼實現
4.numpy/scipy/matplotlib/panda的介紹和典型使用
5.多元高斯分布
6.泊松分布、冪律分布
7.典型圖像處理
8.蝴蝶效應
9.分形與可視化
模塊五:Python基礎2 - 機器學習庫
1.scikit-learn的介紹和典型使用
2.損失函數的繪制
3.多種數學曲線
4.多項式擬合
5.快速傅里葉變換FFT
6.奇異值分解SVD
7.Soble/Prewitt/Laplacian算子與卷積網絡
8.卷積與(指數)移動平均線
9.股票數據分析
模塊六:Python基礎3 - 數據清洗和特征選擇
1.實際生產問題中算法和特征的關系
2.股票數據的特征提取和應用
3.一致性檢驗
4.缺失數據的處理
5.環境數據異常檢測和分析
6.模糊數據查詢和數據校正方法、算法、應用
7.樸素貝葉斯用于鳶尾花數據
8.GaussianNB/MultinomialNB/BernoulliNB
9.樸素貝葉斯用于18000+篇/Sogou新聞文(wen)本的分類
模塊七:回歸
1.線性回歸
2.Logistic/Softmax回歸
3.廣義線性回歸
4.L1/L2正則化
5.Ridge與LASSO
6.Elastic Net
7.梯度下降算法:BGD與SGD
8.特征選擇(ze)與過(guo)擬合
模塊八:Logistic回歸
1.Sigmoid函數的直觀解釋
2.Softmax回歸的概念源頭
3.Logistic/Softmax回歸
4.*熵模型
5.K-L散度
6.損失函數
7.Softmax回歸的(de)實(shi)現(xian)與調(diao)參
模塊九:回歸實踐
1.機器學習sklearn庫介紹
2.線性回歸代碼實現和調參
3.Softmax回歸代碼實現和調參
4.Ridge回歸/LASSO/Elastic Net
5.Logistic/Softmax回歸
6.廣告投入與銷售額回歸分析
7.鳶尾花數據集的分類
8.交叉驗證
9.數據可視化
模塊十:決策樹和隨機森林
1.熵、聯合熵、條件熵、KL散度、互信息
2.*似然估計與*熵模型
3.ID3、C4.5、CART詳解
4.決策樹的正則化
5.預剪枝和后剪枝
6.Bagging
7.隨機森林
8.不平衡數據集的處理
9.利用隨機森林做特征選擇
10.使用隨機森林計算樣本相似度
11.數據(ju)異常(chang)值(zhi)檢測
模塊十一:隨機森林實踐
1.隨機森林與特征選擇
2.決策樹應用于回歸
3.多標記的決策樹回歸
4.決策樹和隨機森林的可視化
5.葡萄酒數據集的決策樹/隨機森林分類
6.波士頓房價(jia)預(yu)測(ce)
模塊十二:提升
1.提升為什么有效
2.梯度提升決策樹GBDT
3.XGBoost算法詳解
4.Adaboost算法
5.加法模(mo)型(xing)與指數損失
模塊十三:提升實踐
1.Adaboost用于蘑菇數據分類
2.Adaboost與隨機森林的比較
3.XGBoost庫介紹
4.Taylor展式與學習算法
5.KAGGLE簡介
6.泰坦尼克乘客(ke)存活率估計
模塊十四:SVM
1.線性可分支持向量機
2.軟間隔的改進
3.損失函數的理解
4.核函數的原理和選擇
5.SMO算法
6.支持向(xiang)量(liang)回歸SVR
模塊十五:SVM實踐
1.libSVM代碼庫介紹
2.原始數據和特征提取
3.葡萄酒數據分類
4.數字圖像的手寫體識別
5.SVR用于時間序列曲線預測
6.SVM、Logistic回歸、隨機森林三者(zhe)的橫向(xiang)比(bi)較
模塊十六:聚類(一)
1.各種相似度度量及其相互關系
2.Jaccard相似度和準確率、召回率
3.Pearson相關系數與余弦相似度
4.K-means與K-Medoids及變種
5.AP算(suan)(suan)法(Sci07)/LPA算(suan)(suan)法及其(qi)應用
模塊十七:聚類(二)
1.密度聚類DBSCAN/DensityPeak(Sci14)
2.DensityPeak(Sci14)
3.譜聚類SC
4.聚類評價AMI/ARI/Silhouette
5.LPA算法及(ji)其應用
模塊十八:聚類實踐
1.K-Means++算法原理和實現
2.向量量化VQ及圖像近似
3.并查集的實踐應用
4.密度聚類的代碼實現
5.譜聚類用于圖片(pian)分(fen)割
模塊十九:EM算法
1.*似然估計
2.Jensen不等式
3.樸素理解EM算法
4.*推導EM算法
5.EM算法的深入理解
6.混合高斯分布
7.主題模(mo)型pLSA
模塊二十:EM算法實踐
1.多元高斯分布的EM實現
2.分類結果的數據可視化
3.EM與聚類的比較
4.Dirichlet過程EM
5.三維及等高線等圖件的繪制
6.主題模型pLSA與(yu)EM算法(fa)
模塊二十一:主題模型LDA
1.貝葉斯學派的模型認識
2.Beta分布與二項分布
3.共軛先驗分布
4.Dirichlet分布
5.Laplace平滑
6.Gibbs采樣(yang)詳(xiang)解(jie)
模塊二十二:LDA實踐
1.網絡爬蟲的原理和代碼實現
2.停止詞和高頻詞
3.動手自己實現LDA
4.LDA開源包的使用和過程分析
5.Metropolis-Hastings算法
6.MCMC
7.LDA與word2vec的比較
8.TextRank算法與實(shi)踐
模塊二十三:隱馬爾科夫模型HMM
1.概率計算問題
2.前向/后向算法
3.HMM的參數學習
4.Baum-Welch算法詳解
5.Viterbi算法詳解
6.隱馬爾科夫(fu)模型(xing)的應(ying)用(yong)優(you)劣比較
模塊二十四:HMM實踐
1.動手自己實現HMM用于中文分詞
2.多個語言分詞開源包的使用和過程分析
3.文件數據格式UFT-8、Unicode
4.停止詞和標點符號對分詞的影響
5.前向后向算法計算概率溢出的解決方案
6.發現新詞和分詞效果分析
7.高斯混合模型HMM
8.GMM-HMM用于股(gu)票數(shu)據特(te)征提取
模塊二十五:課堂提問與互動討論
五、師資介紹
張老師:阿里(li)大(da)數(shu)據高級專家,國(guo)內資深的(de)(de)(de)Spark、Hadoop技術(shu)(shu)專家、虛(xu)擬化專家,對HDFS、MapReduce、Hbase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生(sheng)態系統中的(de)(de)(de)技術(shu)(shu)進(jin)行了(le)多年(nian)的(de)(de)(de)深入的(de)(de)(de)研究,更主(zhu)要(yao)的(de)(de)(de)是(shi)這些技術(shu)(shu)在(zai)大(da)量(liang)的(de)(de)(de)實(shi)際(ji)項(xiang)目(mu)(mu)中得(de)到廣泛的(de)(de)(de)應用(yong),因此在(zai)Hadoop開發和運維(wei)方面(mian)積累了(le)豐富(fu)的(de)(de)(de)項(xiang)目(mu)(mu)實(shi)施(shi)經(jing)驗。近年(nian)主(zhu)要(yao)典型(xing)的(de)(de)(de)項(xiang)目(mu)(mu)有:某(mou)電信集團網(wang)絡優化、中國(guo)移動某(mou)省(sheng)(sheng)移動公司(si)請賬單系統和某(mou)省(sheng)(sheng)移動詳單實(shi)時(shi)查詢系統、中國(guo)銀(yin)聯(lian)大(da)數(shu)據數(shu)據票(piao)據詳單平臺(tai)、某(mou)大(da)型(xing)銀(yin)行大(da)數(shu)據記錄系統、某(mou)大(da)型(xing)通信運營商全國(guo)用(yong)戶上網(wang)記錄、某(mou)省(sheng)(sheng)交通部門(men)違(wei)章系統、某(mou)區域醫療大(da)數(shu)據應用(yong)項(xiang)目(mu)(mu)、互聯(lian)網(wang)公共數(shu)據大(da)云(yun)(DAAS)和構建(jian)游戲云(yun)(Web Game Daas)平臺(tai)項(xiang)目(mu)(mu)等。
六、頒發證書
參加相關培訓并通過考試的學員,可以獲得:
工業和(he)信息化部頒發的(de)-《Python大(da)數據工程師證(zheng)書(shu)》。該證(zheng)書(shu)可(ke)作為專(zhuan)(zhuan)業技(ji)(ji)術(shu)人員職(zhi)業能力考核的(de)證(zheng)明(ming),以(yi)及專(zhuan)(zhuan)業技(ji)(ji)術(shu)人員崗位聘(pin)用、任職(zhi)、定級和(he)晉升職(zhi)務的(de)重要依據。注(zhu):請學員帶一(yi)寸彩(cai)照2張(背面(mian)注(zhu)明(ming)姓名)、身份證(zheng)復印件一(yi)張。
Python大數據核心技術實戰 培訓
轉載://citymember.cn/gkk_detail/65295.html
已開(kai)課時間Have start time
IT相關內訓
- CISSP認證培訓課程 張(zhang)勝生
- 滲透測試與攻防實戰高級課程 張(zhang)勝生
- 信息安全風險評估與加固技能 張(zhang)勝生(sheng)
- Fine BI 數據分析與 張曉如(ru)
- Python高效辦公自動化 張曉如
- 互聯網新技術在銀行的應用 武威
- 網安管理崗培訓 張勝生
- 大模型技術與應用培訓 葉梓
- 軟件安全意識加強與技能提高 張(zhang)勝生
- IT崗位數智化能力提升路徑 甄文(wen)智(zhi)
- 云計算的應用領域和實踐 武威
- 電力信息化:價值和建設分析 劉宇佳(jia)