属性特征的分类、常见的统计描述

中心趋势度量

1. 均值（mean）
2. 加权算术均值（Weighted mean）
3. 中位数（median）：正中间的值，偶数取中间两个数的平均
4. 众数（mode）
5. 中列数（midrange）：数据集中的最大值和最小值的均值

数据分散度量

1. 极差（range）一组观测值的最大值和最小值的差距
2. 分位数（quantile）：取自数据分布的每隔一定间隔上的点
   • 四分位数（Quantile）：把数据划分为四个相等的部分，使得每部分表示数据分布的四分之一。这3个数据点称为四分位数。
   • 四分位数极差（IQR）：Q_1和Q_3之间的距离
3. 方差和标准差（var & std）： 每个数据分别与平均数之差的平方和的平均数。标准差：方差的平方根

数据分布形状


数据的图形显示

• 散点图：探究两个数值型变量之间是否存在某种关系
• 箱型图：体现数据分布的图形
  • min，Q_1,median,Q_3,max
  • 离群点：第三个四分位数之上或者第一个四分位数之下至少1.5XIQR的值
• 折线图：反映数据背后趋势
• 热力图：展现两个离散变量之间的组合关系

数据预处理

数据清洗

删除无关数据、重复数据
缺失值处理：

• 替换法（fillna函数）
• 异常值处理

数据变换

规范化

• Min-Max规范化$$v^{\prime }=\frac{v-mi{n}_A}{ma{x}_A-mi{n}_A}$$
• Z-Score规范化$$规范化数据=\frac{原数据-均值}{标准差}$$
• 小数定标标准化：通过移动属性的小数位，将数据映射到[-1,1]区间内
• 正则化（Normalize）/归一化、范数化
• 稳健标准化（考虑异常分布的规范化方法）将中位数和百分位数（默认使用四分位间距）分别代替均值和标准差用于数据的规范化

离散化

• 二值离散化
• 等宽离散化（区间宽度相同）
  • 等宽分箱法
• 等频离散化（样本数量相同）
  • 在等宽的基础上实现

数据编码

• 数字编码

• One-Hot编码：
  二进制编码记过结果

  

• 哑变量编码

有监督学习和无监督学习

• 有监督学习指的是，通过已有的训练样本（即特征以及因变量）去训练得到一个模型，再利用这个模型将输入（特征）映射为相应的输出。有监督学习的结果可以分为两类：分类与回归。
• 无监督学习，只给计算机训练数据，不给结果（标签），因此计算机无法准确的知道那些数据具有那些标签，只能凭借强大的计算能力分析数据的特征，从而得到一定的成果，通常是得到一些集合，集合内的数据在某些特征上相同或着相似。无监督学习的典型例子是聚类

回归模型

一元线性回归

Pearson相关系数：
$$\rho =\frac{\sum (X_i-\bar{X})(Y_i-\bar{Y})}{\sqrt{\sum (X_i-\bar{X}{)}^2\sum (Y_i-\bar{Y}{)}^2}}$$

$\mid \rho \mid >=0.8$	$0.5<=\mid \rho \mid <0.8$	$0.3<=\mid \rho \mid <0.5$	$\mid \rho \mid <0.3$
高度相关	中度相关	弱相关	几乎不相关

一类算法的基本思路：
找到a、b，使得损失函数：${\sum }_{i=1}^n(y^{(i)}-a-b{x}^{(i)}{)}^2$尽可能小

多元线性回归

目标：找到${\theta }_0,{\theta }_1,{\theta }_2,...,{\theta }_k$,使${\sum }_{i=1}^m(y^{(i)}-{\bar{y}}^{(i)}{)}^2$尽可能小
$${\bar{y}}^{(i)}={\theta }_0+{\theta }_1{X}_1^{(i)}+{\theta }_2{X}_2^{(i)}+...+{\theta }_k{X}_k^{(i)}$$

线性回归

优点

• 对数据的可解释
• 建模迅速，对于小数据量、简单的关系很有效
• 线性回归模型十分容易理解，有利于决策分析

缺点

• 对异常点十分敏感
• 难以很好的表达高度复杂的数据
• 只能解决回归问题
• 对数据有假设：线性

多项式回归

关联规则

作用：

一个包含k个项的项集可能产生2^k-1个频繁项集

Apriori算法（★★★★★）

先验原理
先验性：如果一个项集是频繁的，那么它的所有 非空子集也是频繁的
反单调性：如果一个项集是频繁的，则它的所有超集也一定是 非频繁的
频繁k项集一定是由频繁k-1项集组合生成的
算法实现
第一阶段：寻找频繁项集
1.把每个项作为1-项集，作为候选集C1，计算支持度；过滤候选集，得到频繁1-项集L1
2.连接：通过L_k-1x L_k-1算法自身连接产生候选集C2
3.剪枝：按照先验原理对C2进行剪枝，计算支持度并过滤，得到所有频繁2-项集L2
4.重复步骤2，直至无法生成新的候选集结束
第二阶段：由频繁项集产生关联规则
1.对于L中的每一个频繁项集 l，生成 l 所有的非空真子集
2.对于 l 中的每一个非空真子集X，如果
support_count(l)/support_count(X)>=minconf
则输出强关联规则 X->(l-X),其中min_conf是最小置信度阈值
关联规则的性质

关联模式评估

置信度
提升度
$$Lift(A,B)=\frac{(P(A\cup B)/P(A))}{P(B)}=\frac{P(A\cup B)}{P(A)P(B)}$$
A发生的条件下，B发生的概率 比上B发生的概率
若提升值等于1 ，则说明A和B互相独立
>1，则A和B正相关
<1，则A和B负相关
杠杆度
$$leverage(A,B)=P(A\cup B)-P(A)P(B)$$
=0 ，则说明A和B互相独立
>0，则A和B正相关
<0，则A和B负相关
皮尔森相关系数
$$\rho (A,B)=\frac{P(A\cup B)P(\bar{A}\cup \bar{B})-P(!A\cup \bar{B})P(A\cup \bar{B})}{\sqrt{P(A)P(\bar{A})P(B)P(\bar{B})}}$$
$\rho (A,B)$取值区间为$[-1,1]$
确信度
$$Conviction(A,B)=\frac{P(A)P(!B)}{\sqrt{P(A\cup \bar{B})}}$$
值越大，相关性越强

分类

K近邻模型（K-NN模型）

原理
选择某点，选择距离其最近的K个点中，占比最高的一类作为该点归类
所有方法数值化
防止数值化的量纲影响：标准化
K过小，过拟合
K过大，当不同类别数量不均衡时，结果偏向占优数量
最优k的寻找方法

1. 可视化观察K的取值与准确率的变化 绘制折线图
2. 交叉验证Cross Validation
   1. K-folds交叉验证
      把训练数据集划分成k份
      每次训练k个模型
   2. 留一验证（ LOOCV， Leave-One-Out Cross Validation）
      训练数据集有m个样本，就把训练数据集分成m份

考虑距离的权重

特点
优点：算法简单，容易理解
可用于分类和回归任务
不对数据做任何假设，这意味着它可以用于解决各种各样的问题
缺点：对于高维特征的数据集，效果往往不好
对于大多数特征的大多数取值都为0的数据集（稀疏数据集）K-NN效果尤其不好
需要存放训练记录，数据量大时，需占用较大内存，计算成本高，数据集大时可能导致预测需要很长时间

逻辑回归

原理
$Sigmoid$函数
$$h(t)=\frac{1}{1+e^{-t}}h(t)\in (0,1)$$
当$t>0$时，$p>0.5$
当$t<0$时，$p<0.5$
逻辑回归模型：
$$h(x)=\frac{1}{1+e^{-({\theta }_0+{\theta }_1{x}_1+...+{\theta }_n{x}_n)}}h(t)\in (0,1)$$$$\hat{y}=\{\begin{array}{ll}1,& \text{h(x)≥0.5}\\ 0,& \text{h(x)<0.5}\end{array}$$
特点
二分类

朴素贝叶斯 （★★★★★）

贝叶斯定理
特征条件独立性假设
条件概率
事件A发生的前提下，事件B发生的概率$P(B|A)$
$$\text{联合概率：}P(B|A)=\frac{P(A\cap B)}{P(B)}\Rightarrow P(A\cap B)=P(A|B)\times P(A)$$
贝叶斯定理：
后验概率：$$P(A|B)=P(A)\times \frac{P(B|A)}{P(B)}$$
先验概率：$P（A）$
可能性函数（调整因子）：$\frac{P(B|A)}{P(B)}$
$$后验概率=先验概率\times 调整因子$$
全概率公式（常量）：
$$P(A)=\sum _{i=1}^{n}P(A{B}_i)=\sum _{i=1}^{n}P(B_i)P(A|B_i)$$
贝叶斯分类的数学模型：
$设X是一个类标号未知的数据样本，在已知X的情况下，计算样本X属于某个类别C_i的概率$
$$P(C_i|X)=\frac{P(C_{i}X)}{P(X)}=\frac{P(C_i)P(X|C_i)}{{\sum }_{i=1}^{k}P(C_i)P(X|C_i)}$$
最大概率值$P(C_i|X)$对应的类别作为样本的最终分类
$P(C_i)$通常为已知，主要任务为计算并比较$P(X|C_i)$的值
$$X=(x_1,x_2,x_3,...,X_p),P(X|C_i)=P(x_1,x_2,x_3,...,X_p|C_i)$$
朴素贝叶斯中，假设自变量之间互相独立，则
$$P(X|C_i)=P(x_1,x_2,...,X_p|C_i)=P(x_1|C_i)P(x_2|C_i)...P(x_p|C_i)$$
最终简化成：$$P(C_i|X)=argma{x}_{c_i}P(C_i)\prod _{j}P(x_j|C_j)$$

几种贝叶斯模型

• 多项式贝叶斯分类器MultionmialNB
  • 离散
• 伯努利贝叶斯分类器BernoulliNB
  • 离散
  • 二值化自变量
• 高斯贝叶斯分类器GaussianNB
  • 连续

平滑系数 $\alpha$:
$$P(x_j=x_{jk}|C_i)=\frac{N_{ik}+\alpha }{N_i+n\alpha }$$
用于防止概率取值0的可能，一般取值为1，n为因变量的类别个数

决策树

如何选择根节点和中间节点的属性：
通过该属性进行测试后，得到的分类结果最“纯净”。

衡量纯净度

信息熵：
$$Infor(p_1,p_2,...,p_k)=-\sum _{k=1}^k{p}_{k}lo{g}_2{p}_k$$
$$lo{g}_{2}n\approx lgn\times 3.322$$
对于某个事件而言，它有k个可能值， $p_k$表示第k个可能值的发生概率。
信息熵反映的是某个事件所有可能值的熵和。
备注：$lo{g}_{2}n\approx lgn\times 3.322$
条件熵
$$Infor(D|A)=-\sum _{i=1}^{n}P(A_i)\sum _{k=1}^{k}P(D_k|A_i)lo{g}_{2}P(D_k|A_i)$$
值越小表示纯度越高
信息增益Gain
$$g(D|A)=Infor(D)-Infor(D|A)$$
选择信息增益较大的属性作为节点
信息增益率
$$g_r(D|A)=\frac{g(D|A)}{H_A}$$
$H_A$：数据集D关于这个特征的信息熵
基尼系数

信息熵VS基尼系数

• 熵信息的计算比基尼系统稍慢
• 大多数时候二者没有特别的效果优劣

算法	支持模型	树结构	特征选择
ID3	分类	多叉树	信息增益
C4.5	分类	多叉树	信息增益率
CART	分类，回归	二叉树	基尼系数，均方差

主要的决策树算法

算法	特征类型	不纯度度量	分割的子节点数量	目标特征类型
ID3	离散型	信息熵（信息增益）	$K>=2$	离散型
C4.5	离散型、连续型	信息熵（信息增益率）	$K>=2$	离散型
C5.0	离散型、连续型	信息熵（信息增益率）	$K>=2$	离散型
CART	离散型、连续型	Gini指数	$K=2$	离散型、连续型

ID3算法★★★★★

1. 输入数据，主要包括训练集的特征和类标号
2. 如果所有实例都属于一个类别，则决策树是一个单节点树，否则执行 3
3. 计算训练数据中每个特征的信息增益
4. 从根节点开始选择最大信息增益的特征进行分裂。依次类推，从上向下构建决策树，每次选择有最大信息增益的特征进行分裂，选过的特征后面就不能继续进行选择使用了。
5. 不断的构建决策树，至没有特征可以选择或者分裂后的所有元组属于同一类别时候停止构建
6. 决策树构建完成，进行预测。

特点：

1. 倾向于选择数值较多的特征
2. 对于每个属性均为离散值属性，如果是连续值属性，需先离散化

C4.5算法

1. 能够完成连续属性的离散化处理
2. 用信息增益率选择属性，克服了使用信息增益选择属性时偏向选取值大的属性的不足
3. 在树构造过程中进行剪枝

CART算法

1. 采用简化的二叉树模型，采用基尼系数来简化计算
2. 二叉树最大的好处是还可以做回归模型
3. 缺点：样本发生很小的改变，就会导致二叉树结构的剧烈改变。

决策时的剪枝

• 预剪枝
  • 熵或者基尼值小于阈值
  • 决策树深度达到指定条件
  • 内部节点再划分所需的最小样本数
  • 叶子节点的最少样本数
• 后剪枝
  • 误差降低剪枝法
  • 悲观剪枝法

决策树算法优缺点

优：

• 模型容易理解
• 算法完全不受数据缩放的影响。每个特征被单独处理，而且数据的划分不依赖于缩放，因此决策树不需要特征预处理（例如归一化、标准化）。当特征的尺度不同、或者离散特征和连续特征同时存在时，决策树的效果很好

缺：

• 即使做了预剪枝，也经常会过拟合。如果预剪枝的效果不理想，还可以使用随机森林，该算法综合了多棵决策树，可以很好地避免单棵决策树过拟合的可能

随机森林

原理：生成多个分类器，各自独立的学习和做出预测。输出的类别是这些预测的类别的众数而定。
随机森林是包含多个决策树的分类器，属于集成学习。
优：

• 抗过拟合能力：通过平均决策树，降低过拟合的风险性
• 具有良好的预测准确率
• 能够处理高维特征的输入样本，而且不需要降维
• 与决策树相同，不需要对特征进行数据缩放，可以同时处理离散和连续特征
• 通常不需要反复调参就能够得出较好的结果
  缺：
• 与决策树相比，需要更多的训练时间
• 解释性不强

分类算法的模型评估

准确率（Accuracy）
精确率（Precision）
召回率（Recall）
F1 Score
P-R曲线（Precision-Recall Curve）
ROC
AUC
混淆矩阵（confusion matrix）是一个评估分类问题常用的工具，对于 k 元分类，其实它就是一个k x k的表格，用来记录分类器的预测结果。对于常见的二分类，它的混淆矩阵是 2x2 的。

• TP 真阳性：True Positives， 表示 真实值为正例 且被 分类器判定为正例（预测值） 的样本数
• FP 假阳性：False Positives， 表示 真实值为负例 且被 分类器判定为正例（预测值） 的样本数
• FN 假阴性：False Negatives， 表示 真实值为正例 但被 分类器判定为负例（预测值） 的样本数
• TN 真阴性：True Negatives， 表示真实值为负例 且被 分类器判定为负例（预测值） 的样本数

准确率（Accuracy）
分类正确的样本占总样本个数的比例
$$Accuracy=\frac{TP+TN}{TP+FP+TN+FN}=\frac{正确预测的样本数}{所有样本数}$$
精确率（Precision）
又称查准率，是针对预测结果而言的评价指标。指在分类正确的正样本个数占分类器判定为正样本个数的比例。
$$Precision=\frac{TP}{TP+FP}=\frac{分类正确的正样本个数}{被分类器判定为正样本个数}$$
召回率（Recall）
指分类正确的正样本个数占真正的正样本个数的比例。召回率也是对部分样本的统计量，侧重对真实的正类样本的统计：
$$Recall=\frac{TP}{TP+FN}=\frac{分类正确的正样本个数}{真正的正样本个数}$$
F1 Score
F1 Score是精准率和召回率的调和平均值，同时兼顾了分类模型的准确率和召回率，是统计学中用来衡量二分类模型的一种指标。它的值域是$[0,1]$，值越大意味着模型越好。
$$F1=2\times \frac{Precision\times Recall}{Precision+Recall}$$
P-R曲线（Precision-Recall Curve）
。。。
ROC曲线
横坐标为假阳性率（False Positive Rate, FPR）
$$FPR=\frac{FP}{FP+TN}$$
纵坐标为真阳性率（True Positive, TPR）
$$FPR=\frac{TP}{TP+FN}$$
设置不同的阈值，会得到不同的TPR和FPR，随着阈值减小，越来越多的实例被划分为正类
AUC
AUC为ROC曲线下的面积，值域为[0，1],能够直观的评价出分类器的好坏，AUC的值越大，分类器效果越好。

• AUC=1：完美的分类器，采用该模型，不管设定什么阈值都能得出完美预测
• 0.5<AUC<1：优于随即猜测，分类器设定好好的阈值，有预测价值
• AUC=0.5：跟随即猜测一样，模型没有预测价值
• AUC<0.5：比随机猜测还差，但是如果反着预测，则优于随机猜测

聚类算法

K-means算法（基于划分聚类）

K均值聚类算法利用距离远近的思想将n个样本点划分到k个分组中，每个分组都有一个质心，分组中的每个点离它所属的分组的质心距离最短

聚类过程
聚类前必须对数据进行标准化的预处理

1. 从数据中随机挑选k个样本点作为初始的簇中心
2. 计算剩余样本与簇中心的距离，并把各类样本标记为离k个簇中心最近的类别
3. 重新计算各簇中样本点的均值，并以均值作为新的k个簇中心
4. 不断重复第二步和第三步，直到簇中心的变化趋于稳定（新的簇中心与原簇中心相等或小于指定阈值）形成最终k个簇

k均值聚类的目标函数：簇内样本的离差平方和之和
$$J(c_1,c_2,...,c_k)=\sum _{j=1}^k\sum _i^{n_j}(x_i-c_j{)}^2$$
$其中，c_j表示第j个簇的簇中心，x_i属于第j个簇的样本i,n_j表示第j个簇的样本总量。对于该目标函数而言c_j是未知的参数，要想求得目标函数的最小值，得先知道参数c_j的值$

最佳k值的确定

当k越大，簇内离差平方和之和会越小
合理的k值是：随着簇的增加，簇内离差平方和之和趋于稳定。
拐点法
在不同k值下计算簇内离差平方和之和，通过可视化的方法找到“拐点”所对应的k值。 当折线图中的斜率由大突变小时，并且之后的斜率变化缓慢，则认为突然变化的点就是寻找的目标点。
轮廓系数法
$$S(i)=\frac{b(i)-a(i)}{max(a(i),b(i))}$$
$a(i)$体现了簇内的密集性，代表样本i与同簇内其他样本点距离的平均值；
$b(i)$反映簇间的分散性，样本i与其他非同簇样本点距离的平均值，然后从平均值中挑选出最小值
$S(i)$的取值范围：[-1,1]
当$S(i)$接近于-1时，说明样本i的分配不合理，需将其分配到其他簇中；
当$S(i)$近似为0时，说明样本i落在簇的边界处
当$S(i)$近似为1时，说明样本i的分配是合理的
间隔统计量法
。。。

k-均值聚类的优缺点

优：

• 擅长处理球状分布的数据
• 对于处理大数据集，是相对可伸缩的和高效的，它的复杂度是O(nkt),n是对象个数，k是簇的数目，t是迭代次数
• 相比其他聚类算法更简单

缺：

• 初始质心的选择与算法的运行效率密切相关
• 要求用户事先给定簇数k
• 对噪声和离群点敏感，少量的这类数据对结果产生很大影响
• 算法是基于距离的方式判断样本之间的相似度，不适合发现非球形的簇

层次聚类算法（★★★★★）

层次聚类的实质是计算各簇内样本点之间的相似度（通常以欧式距离作为相似度指标），并通过相似度的结果构建一颗聚类树
聚类树的创建方法：自下而上的凝聚；自上而下的分裂
簇间距离的度量方法：
最小距离法:
以所有簇间样本点距离的最小值作为簇间距离
$$dis{t}_{min}(C_i,C_j)=min(|p-q|)(p\in C_i,q\in C_j)$$
最大距离法
以所有簇间样本点距离的最大值作为簇间距离
$$dis{t}_{max}(C_i,C_j)=max(|p-q|)(p\in C_i,q\in C_j)$$
平均距离法
中心法

AGNES（AGglomerative NESting）算法

算法流程

1. 将数据集中的每个样本点当作一个类别
2. 计算所有样本点之间的两两距离，从中挑选出最小距离的两个点构成一个簇
3. 继续计算剩余样本点之间的两两距离和点与簇之间的距离，然后将最小距离的点或簇合并到一起
4. 重复步骤2、3，直到满足聚类的个数或其他设定的条件，便结束算法运行

层次聚类可以提供数据的可能划分的整个层次结构
层次聚类无法识别异常点

密度聚类算法（★★★★★）

• 点的$\epsilon$领域：在某点p处，给定半径e后，所得到的覆盖区域
• 核心对象：对于给定的最少样本量MinPts而言，若某点p的$\epsilon$领域内至少包含MinPts个样本点，则点p就为核心对象
• 边界点：密度大于1且小于min_samples的点
• 噪声点：不属于任何簇的样本点
• 直接密度可达
• 密度可达
• 密度相连

DBSCAN算法

优：

• 可以对任意形状的稠密数据集进行聚类
• 可以在聚类的同时发现异常点，对数据集中的异常点不敏感
• 聚类结果没有偏倚

缺

• 若样本集的密度不均匀、聚类间距相差很大时，聚类质量较差
• 若样本集较大时，聚类收敛时间较长
• 调参相对复杂，主要是对距离阈值$\epsilon$，领域样本数阈值MinPts联合调参，不同的参数组合对最后的聚类效果有较大影响

代码：

线性回归:

导入库包读入数据

import pandas as pd
data=pd.read_csv(r'E:/DataMining_Data/线性回归.csv',sep=',')
data.head()
#定义自变量
x=data[['价格']]
#定义因变量
y=data[['消费量']]

构建模型：

from sklearn.linear_model import LinearRegression
#建模
lrModel=LinearRegression()
lrModel.fit(x,y)

查看模型

#查看参数b
lrModel.coef_
#查看截距a
lrModel.intercept_

模型评估：

##求解R^2
lrModel.score(x,y)

分类：

导入库包

import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets

读入数据

##1）读入数据
iris=datasets.load_iris()
X=iris.data
y=iris.target

（3）数据预处理：
空值处理，标准化，离散化，编码等

## 2）数据规范化处理
# 导入第三方包
from sklearn.preprocessing import minmax_scale
# 对所有自变量数据作标准化处理
predictors = ccpp.columns[:-1]
X = minmax_scale(ccpp[predictors])
X

（4）数据集拆分：

# 3）将数据集拆分为训练集和测试集
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsRegressor
import numpy as np
X_train, X_test, y_train, y_test = train_test_split(X, ccpp.PE, test_size = 0.25, random_state = 1234)

（5）寻址最优参数（交叉验证法，网格搜索法）：该步有可能有

### 3）寻找最好的k
from sklearn.neighbors import KNeighborsClassifier
best_score=0.0
best_k=-1
accuracy=[]
K=[]
for k in range(2,11):
    knn_clf=KNeighborsClassifier(n_neighbors=k)
    knn_clf.fit(X_train,y_train)
    score=knn_clf.score(X_test,y_test)
    accuracy.append(score)
    K.append(k)
    if score>best_score:
        best_k=k
        best_score=score
print("best_k",best_k)
print("best_score",best_score)
arg_max = np.array(accuracy).argmax()
    

（6）构建模型、预测：

from sklearn import metrics
# 重新构建模型，并将最佳的近邻个数设置为5
knn_class = neighbors.KNeighborsClassifier(n_neighbors = 5, weights = 'distance')
# 模型拟合
knn_class.fit(X_train, y_train)
# 模型在测试数据集上的预测
y_pred = knn_class.predict(X_test)

（8）模型评估：

# 模型整体的预测准确率
knn_class.score(X_test,y_test)
knn_class.score(X_test,y_test), 
classification_report(y_test,y_predict);   
confusion_matrix(y_test,y_predict)