大數據挖掘工具: SPSS Statistics入門與提高
主講老師: 傅一航 查看講師詳情>>
工作背景：
大數據專家。
在華為工作十年，
五項國家專利，
在華為工作期間獲得華為數項獎項，
曾在英國、日本、荷蘭等海外市場做項目，
對大數據技術有深入的研究。
計算機軟件與理論碩士研究生（研究方向：數據挖掘、搜索引擎）...
主講課程：
董事長總經理高管的課程：
《數字化戰略與數字化變革》
《大數據思維與應用創新》
《大數據思維與商業模式創新，賦能企業增長》
《大數據思維與大數據決策，提升決策能力》
大數據市場營銷的課程：
...
大數據挖掘工具: SPSS Statistics入門與提高課程大綱詳細內容
課程分類： 華為學習大數據華為管理
課程目標：
通過本課程的學習，達到如下目的：
1、了解大數據挖掘的標準過程和挖掘步驟。
2、掌握基本的統計分析，常用的影響因素分析。
3、理解數據挖掘的常見模型，原理及適用場景。
4、熟練掌握SPSS基本操作，能利用SPSS解決實際的商業問題。
課程對象：市場部、業務支撐部、數據分析部、運營分析部等對業務數據分析有較高要求的相關人員。
課程時間：2~4天時間
課程大綱:
第一部分：數據挖掘標準流程
1、數據挖掘概述
2、數據挖掘的標準流程（CRISP-DM）
商業理解
數據準備
數據理解
模型建立
模型評估
模型應用
案例：客戶流失預測及客戶挽留
3、數據集的基本知識
a)存儲類型
b)統計類型
c)角度
4、SPSS工具簡介
第二部分：數據預處理過程
1、數據預處理的基本步驟
數據讀取、數據理解、數據處理、變量處理、探索分析
2、數據預處理的主要任務
數據集成：多個數據集的合并
數據清理：異常值的處理
數據處理：數據篩選、數據精簡、數據平衡
變量處理：變量變換、變量派生、變量精簡
數據歸約：實現降維，避免維災難
3、數據集成
外部數據讀入：Txt/Excel/SPSS/Database
數據追加（添加數據）
變量合并（添加變量）
4、數據理解（異常數據處理）
取值范圍限定
重復值處理
無效值/錯誤值處理
缺失值處理
離群值/極端值處理
數據質量評估
5、數據準備：數據處理
數據篩選：數據抽樣/選擇（減少樣本數量）
數據精簡：數據分段/離散化（減少變量的取值個數）
數據平衡：正反樣本比例均衡
6、數據準備：變量處理
變量變換：原變量取值更新，比如標準化
變量派生：根據舊變量生成新的變量
變量精簡：降維，減少變量個數
7、數據降維
常用降維方法
如何確定變量個數
特征選擇：選擇重要變量，剔除不重要的變量
從變量本身考慮
從輸入變量與目標變量的相關性考慮
對輸入變量進行合并
因子分析（主成分分析）
因子分析的原理
因子個數如何選擇
如何解讀因子含義
案例：提取影響電信客戶流失的主成分分析
8、數據探索性分析
常用統計指標分析
單變量：數值變量/分類變量
雙變量：交叉分析/相關性分析
多變量：特征選擇、因子分析
演練：描述性分析（頻數、描述、探索、分類匯總）
第三部分：數據可視化篇
1、數據可視化的原則
2、常用可視化工具
3、常用可視化圖形
柱狀圖、條形圖、餅圖、折線圖、箱圖、散點圖等
4、圖形的表達及適用場景
演練：各種圖形繪制
第四部分：影響因素分析篇
問題：如何判斷一個因素對另一個因素有影響？比如營銷費用是否會影響銷售額？產品價格是否會影響銷量？產品的陳列位置是否會影響銷量？
風險控制的關鍵因素有哪些？如何判斷？
1、影響因素分析的常見方法
2、相關分析（衡量變量間的的相關性）
問題：這兩個屬性是否會相互影響？影響程度大嗎？營銷費用會影響銷售額嗎？?
什么是相關關系
相關系數：衡量相關程度的指標
相關系數的三個計算公式
相關分析的假設檢驗
相關分析的基本步驟
相關分析應用場景
演練：體重與腰圍的關系
演練：營銷費用會影響銷售額嗎
演練：哪些因素與汽車銷量有相關性
演練：通信費用與開通月數的相關分析
案例：酒樓生意好壞與報紙銷量的相關分析
偏相關分析
距離相關分析
3、方差分析
問題：哪些才是影響銷量的關鍵因素？
方差分析解決什么問題
方差分析種類：單因素/雙因素可重復/雙因素無重復
方差分析的應用場景
方差分析的原理與步驟
如何解決方差分析結果
演練：終端擺放位置與終端銷量有關嗎？
演練：開通月數驛客戶流失的影響分析
演練：客戶學歷對消費水平的影響分析
演練：廣告和價格是影響終端銷量的關鍵因素嗎
演練：營業員的性別、技能級別產品銷量有影響嗎？
案例：2015年大學生工資與父母職業的關系
案例：醫生洗手與嬰兒存活率的關系
演練：尋找影響產品銷量的關鍵因素
多因素方差分析原理
多因素方差結果的解讀
演練：廣告形式、地區對銷量的影響因素分析（多因素）
協方差分析原理
演練：飼料對生豬體重的影響分析（協方差分析）
4、列聯分析（兩類別變量的相關性分析）
交叉表與列聯表
卡方檢驗的原理
卡方檢驗的幾個計算公式
列聯表分析的適用場景
案例：套餐類型對客戶流失的影響分析
案例：學歷對業務套餐偏好的影響分析
案例：行業/規模對風控的影響分析
第五部分：數據建模過程篇
1、預測建模六步法
選擇模型：基于業務選擇恰當的數據模型
屬性篩選：選擇對目標變量有顯著影響的屬性來建模
訓練模型：采用合適的算法對模型進行訓練，尋找到最合適的模型參數
評估模型：進行評估模型的質量，判斷模型是否可用
優化模型：如果評估結果不理想，則需要對模型進行優化
應用模型：如果評估結果滿足要求，則可應用模型于業務場景
2、數據挖掘常用的模型
數值預測模型：回歸預測、時序預測等
分類預測模型：邏輯回歸、決策樹、神經網絡、支持向量機等
市場細分：聚類、RFM、PCA等
產品推薦：關聯分析、協同過濾等
產品優化：回歸、隨機效用等
產品定價：定價策略/最優定價等
3、屬性篩選/特征選擇/變量降維
基于變量本身特征
基于相關性判斷
因子合并（PCA等）
IV值篩選（評分卡使用）
基于信息增益判斷（決策樹使用）
4、模型評估
模型質量評估指標：R^2、正確率/查全率/查準率/特異性等
預測值評估指標：MAD、MSE/RMSE、MAPE、概率等
模型評估方法：留出法、K拆交叉驗證、自助法等
其它評估：過擬合評估
5、模型優化
優化模型：選擇新模型/修改模型
優化數據：新增顯著自變量
優化公式：采用新的計算公式
6、模型實現算法（暫略）
7、好模型是優化出來的
案例：通信客戶流失分析及預警模型
第六部分：數值預測模型篇
問題：如何預測產品的銷量/銷售金額？如果產品跟隨季節性變動，該如何預測？新產品上市，如果評估銷量上限及銷售增速？
1、銷量預測與市場預測——讓你看得更遠
2、回歸預測/回歸分析
問題：如何預測未來的銷售量（定量分析）？
回歸分析的基本原理和應用場景
回歸分析的種類（一元/多元、線性/曲線）
得到回歸方程的幾種常用方法
回歸分析的五個步驟與結果解讀
回歸預測結果評估（如何評估預測質量，如何選擇最佳回歸模型）
演練：散點圖找推廣費用與銷售額的關系（一元線性回歸）
演練：推廣費用、辦公費用與銷售額的關系（多元線性回歸）
演練：讓你的營銷費用預算更準確
演練：如何選擇最佳的回歸預測模型（曲線回歸）
帶分類變量的回歸預測
演練：汽車季度銷量預測
演練：工齡、性別與終端銷量的關系
演練：如何評估銷售目標與資源配置（營業廳）
3、時序預測
問題：隨著時間變化，未來的銷量變化趨勢如何？
時序分析的應用場景（基于時間的變化規律）
移動平均MA的預測原理
指數平滑ES的預測原理
自回歸移動平均ARIMA模型
如何評估預測值的準確性？
案例：銷售額的時序預測及評估
演練：汽車銷量預測及評估
演練：電視機銷量預測分析
演練：上海證券交易所綜合指數收益率序列分析
演練：服裝銷售數據季節性趨勢預測分析
4、季節性預測模型
季節性回歸模型的參數
常用季節性預測模型（相加、相乘）
案例：美國航空旅客里程的季節性趨勢分析
案例：產品銷售季節性趨勢預測分析
5、新產品預測模型與S曲線
如何評估銷量增長的拐點
珀爾曲線與龔鉑茲曲線
案例：如何預測產品的銷售增長拐點，以及銷量上限
演戲：預測IPad產品的銷量
6、自定義模型（如何利用規劃求解進行自定義模型）
案例：如何對餐廳客流量進行建模及模型優化
第七部分：回歸模型優化篇
1、回歸模型的基本原理
三個基本概念：總變差、回歸變差、剩余變差
方程的顯著性檢驗：是否可以做回歸分析？
擬合優度檢驗：回歸模型的質量評估？
因素的顯著性檢驗：自變量是否可用？
理解標準誤差的含義：預測的準確性？
2、模型優化思路：尋找最佳回歸擬合線
如何處理異常數據（殘差與異常值排除）
如何剔除非顯著因素（因素顯著性檢驗）
如何進行非線性關系檢驗
如何進行相互作用檢驗
如何進行多重共線性檢驗
如何檢驗誤差項
如何判斷模型過擬合
案例：模型優化案例
第八部分：分類預測模型篇
問題：如何評估客戶購買產品的可能性？如何預測客戶的購買行為？如何提取某類客戶的典型特征？如何向客戶精準推薦產品或業務？
1、分類模型概述
2、常見分類預測模型
3、評估分類模型的常用指標
正確率、查全率/查準率、特異性等
4、邏輯回歸模型（LR）
邏輯回歸模型原理及適用場景
邏輯回歸種類：二項/多項邏輯回歸
如何解讀邏輯回歸方程
案例：如何評估用戶是否會購買某產品（二項邏輯回歸）
消費者品牌選擇模型分析
案例：多品牌選擇模型分析（多項邏輯回歸）
5、分類決策樹（DT）
問題：如何預測客戶行為？如何識別潛在客戶？
風控：如何識別欠貸者的特征，以及預測欠貸概率？
客戶保有：如何識別流失客戶特征，以及預測客戶流失概率？
決策樹分類簡介
如何評估分類性能？
案例：美國零售商（Target）如何預測少女懷孕
演練：識別銀行欠貨風險，提取欠貸者的特征
構建決策樹的三個關鍵問題
如何選擇最佳屬性來構建節點
如何分裂變量
修剪決策樹
選擇最優屬性
熵、基尼索引、分類錯誤
屬性劃分增益
如何分裂變量
多元劃分與二元劃分
連續變量離散化（最優劃分點）
修剪決策樹
剪枝原則
預剪枝與后剪枝
構建決策樹的四個算法
C5.0、CHAID、CART、QUEST
各種算法的比較
如何選擇最優分類模型？
案例：商場酸奶購買用戶特征提取
案例：電信運營商客戶流失預警與客戶挽留
案例：識別拖欠銀行貨款者的特征，避免不良貨款
案例：識別電信詐騙者嘴臉，讓通信更安全
6、人工神經網絡（ANN）
神經網絡概述
神經網絡基本原理
神經網絡的結構
神經網絡的建立步驟
神經網絡的關鍵問題
BP反向傳播網絡（MLP）
徑向基網絡（RBF）
案例：評估銀行用戶拖欠貨款的概率
7、判別分析（DA）
判別分析原理
距離判別法
典型判別法
貝葉斯判別法
案例：MBA學生錄取判別分析
案例：上市公司類別評估
8、K近鄰分類（KNN）
基本原理
關鍵問題
9、貝葉斯分類（NBN）
貝葉斯分類原理
計算類別屬性的條件概率
估計連續屬性的條件概率
貝葉斯網絡種類：TAN/馬爾科夫毯
預測分類概率（計算概率）
案例：評估銀行用戶拖欠貨款的概率
10、支持向量機（SVM）
SVM基本原理
線性可分問題：最大邊界超平面
線性不可分問題：特征空間的轉換
維空難與核函數
第九部分：市場細分模型篇
問題：我們的客戶有幾類？各類特征是什么？如何實現客戶細分，開發符合細分市場的新產品？如何提取客戶特征，從而對產品進行市場定位？
1、市場細分的常用方法
有指導細分
無指導細分
2、聚類分析
如何更好的了解客戶群體和市場細分？
如何識別客戶群體特征？
如何確定客戶要分成多少適當的類別？
聚類方法原理介紹
聚類方法作用及其適用場景
聚類分析的種類
K均值聚類（快速聚類）
案例：移動三大品牌細分市場合適嗎？
演練：寶潔公司如何選擇新產品試銷區域？
演練：如何評選優秀員工？
演練：中國各省份發達程度分析，讓數據自動聚類
層次聚類（系統聚類）：發現多個類別
R型聚類與Q型聚類的區別
案例：中移動如何實現客戶細分及營銷策略
演練：中國省市經濟發展情況分析（Q型聚類）
演練：裁判評分的標準衡量，避免“黑哨”（R型聚類）
兩步聚類
3、主成分分析PCA分析
主成分分析原理
主成分分析基本步驟
主成分分析結果解讀
演練：PCA探索汽車購買者的細分市場
4、RFM模型客戶細分框架
第十部分：客戶價值評估
1、客戶價值評估與RFM模型
問題：如何評估客戶的價值？如何針對不同客戶采取不同的營銷策略？
RFM模型，更深入了解你的客戶價值
RFM的客戶細分框架理解
RFM模型與市場策略
RFM模型與活躍度
演練：“雙11”淘寶商家如何選擇客戶進行促銷
演練：結合響應模型，宜家IKE實現最大化營銷利潤
演練：重購用戶特征分析
第十一部分：假設檢驗篇
1、參數檢驗分析（樣本均值檢驗）
問題：如何驗證營銷效果的有效性？
假設檢驗概述
單樣本T檢驗
兩獨立樣本T檢驗
兩配對樣本T檢驗
假設檢驗適用場景
電信行業
案例：電信運營商ARPU值評估分析（單樣本）
案例：營銷活動前后分析（兩配對樣本）
金融行業
案例：信用卡消費金額評估分析（單樣本）
醫療行業
案例：吸煙與膽固醇升高的分析（兩獨立樣本）
案例：減肥效果評估（兩配對樣本）
2、非參數檢驗分析（樣本分布檢驗）
問題：這些屬性數據的分布情況如何？如何從數據分布中看出問題？
非參數檢驗概述
單樣本檢驗
兩獨立樣本檢驗
兩相關樣本檢驗
兩配對樣本檢驗
非參數檢驗適用場景
案例：產品合格率檢驗（單樣本-二項分布）
案例：訓練新方法有效性檢驗（兩配對樣本-符號/秩檢驗）
案例：促銷方式效果檢驗(多相關樣本-Fr
IEdman檢驗)
案例：客戶滿意度差異檢驗(多相關樣本-Cochran Q檢驗)
第十二部分：實戰-數據挖掘項目
實戰1：客戶流失預警與客戶挽留之真實數據分析實踐
實戰2：銀行信用風險分析
結束：課程總結與問題答疑。
