机器学习基础与案例实战

机器学作为人工智能的重要分支，已在不同行业得到了广泛应用。本书以锤炼读者机器学相关技术的实战能力为导向，将案例与项目贯穿全文，全面系统地介绍了代表机器学算法及其应用。本书共12?章，分为?4?篇，即入门篇、监督学篇、无监督学篇、篇。入门篇概述机器学，监督学篇主要介绍k近邻、决策树、线模型、支持向量机和贝叶斯模型，无监督学篇主要介绍聚类、主成分分析和奇异值分解，篇主要介绍集成学、特征工程和深度学。 本书可作为高校工科专业机器学相关课程的教材，也可供相关领域的培训机构使用，还可作为人工智能爱好者和相关方向技术人员的参书。

张： 湖南工商大学计算机与信息工程学院‘双师型‘教师，博士，副教授，硕士生导师；主持青年项目、湖南省教改项目等科研/教研项目多项，在ccf的期刊上发表ci若干篇；主编python程序设计基础与案例实战（慕课版）linux作系统案例教程（cento tream 9/rhel 9）（微课版）ubuntu linux作系统案例教程等多本教材，理论功底扎实，实践经验颇丰。

【章名】
### 篇 入门篇 ###
章 机器学概述

### 第 2篇 监督学篇 ###
第 2章 k近邻
第3章 决策树
第4章 线模型
第5章 支持向量机
第6章 贝叶斯模型

### 第3篇 无监督学篇 ###
第7章 聚类
第8章 主成分分析
第9章 奇异值分解

### 第4篇 篇 ###
0章 集成学
1章 特征工程
2章 深度学

【详细】

### 篇 入门篇 ###
章 机器学概述
1.1 机器学基础2
1.1.1 机器学的定义2
1.1.2 机器学基本概念3
1.1.3 机器学分类3
1.1.4 机器学开发步骤：以股价预测为例5
1.2 机器学发展简史7
1.3 机器学相近概念简介8
1.3.1 机器学、深度学和人工智能8
1.3.2 机器学与数据挖掘8
1.3.3 机器学与模式识别8
1.3.4 机器学与数学建模9
1.4 机器学典型应用领域9
1.4.1 医疗保健领域9
1.4.2 金融领域9
1.4.3 电子与新零售领域10
1.4.4 自然语言处理与语音识别领域10
1.4.5 物联网领域10
1.5 综合案例：机器学开发环境配置和使用10
1.5.1 案例概述10
1.5.2 windows版anaconda安装和卸载12
1.5.3 代表的开发模式实践13
1.5.4 linux版anaconda安装和使用20
题124
实训124

### 第 2篇 监督学篇 ###
第 2章 k近邻
2.1 k近邻概述26
2.1.1 及图解26
2.1.2 距离度量28
2.1.3 形式化描述30
2.1.4 优势和不足30
2.2 监督学模型评价指标31
2.2.1 分类模型评价指标31
2.2.2 回归模型评价指标36
2.3 综合案例：使用k近邻分类器预测鸢尾花类型38
2.3.1 案例概述38
2.3.2 案例实现：python版41
2.3.3 案例实现：sklearn版42
2.4 综合案例：使用k近邻回归器预测房价43
2.4.1 案例概述43
2.4.2 案例实现：python版46
2.4.3 案例实现：sklearn版47
题248
实训248

第3章 决策树
3.1 决策树概述49
3.1.1 决策树图解49
3.1.2 决策树构建51
3.1.3 纯度测量51
3.1.4 优势和不足53
3.1.5 常见决策树算法53
3.2 综合案例：使用决策树分类器预测葡萄酒类别54
3.2.1 案例概述54
3.2.2 案例实现：python版——基于基尼系数58
3.2.3 案例实现：python版——基于信息增益61
3.2.4 案例实现：sklearn版62
3.3 决策树剪枝63
3.3.1 预剪枝和后剪枝63
3.3.2 剪枝技术的实现63
3.4 综合案例：基于决策树剪枝的鸢尾花分类64
3.4.1 案例概述64
3.4.2 案例实现：sklearn版64
3.5 综合案例：使用决策树回归器预测汽车燃油效率65
3.5.1 案例概述65
3.5.2 案例实现：python版68
3.5.3 案例实现：sklearn版70
题370
实训371

第4章 线模型
4.1 线回归72
4.1.1 线模型概述72
4.1.2 线回归及图解73
4.1.3 线回归的变种74
4.1.4 线回归的优势和不足75
4.2 模型优化算法76
4.2.1 小二乘法76
4.2.2 梯度下降法及其变种78
4.2.3 模型优化实战79
4.3 综合案例：基于线回归的电气元件电阻测量81
4.3.1 案例概述81
4.3.2 案例实现：python版82
4.3.3 案例实现：sklearn版83
4.4 逻辑回归83
4.4.1 logistic函数83
4.4.2 逻辑回归图解84
4.5 综合案例：基于逻辑回归的收入级别预测85
4.5.1 案例概述85
4.5.2 案例实现：python版90
4.5.3 案例实现：sklearn版92
4.6 softmax回归93
4.6.1 softmax函数与softmax回归93
4.6.2 二分类和多分类93
4.7 综合案例：基于softmax回归的手写字符分类94
4.7.1 案例概述94
4.7.2 案例实现：sklearn版95
题497
实训497

第5章 支持向量机
5.1 问题引入98
5.1.1 从逻辑回归说起98
5.1.2 svm图解100
5.2 svm简介102
5.2.1 形式化描述102
5.2.2 求解优化问题103
5.2.3 核函数105
5.2.4 代表参数107
5.2.5 分类和回归109
5.2.6 svm的优点和109
5.3 综合案例：基于smo算法的svm分类器110
5.3.1 案例概述110
5.3.2 线版本svm分类器：python版110
5.3.3 核函数版本svm分类器：python版117
5.4 综合案例：基于svc的乳腺肿瘤分类119
5.4.1 案例概述119
5.4.2 案例实现：sklearn版122
5.5 综合案例：基于svr的体能训练效果预测123
5.5.1 案例概述123
5.5.2 案例实现：sklearn版125
题5125
实训5126

第6章 贝叶斯模型
6.1 贝叶斯模型概述127
6.1.1 贝叶斯模型及相关概念127
6.1.2 朴素贝叶斯分类模型131
6.1.3 滑技术133
6.1.4 贝叶斯统计学与频率派统计学133
6.1.5 贝叶斯网络135
6.1.6 贝叶斯模型的优点和缺点135
6.2 文本数据特征提取136
6.2.1 文本特征提取方法136
6.2.2 文本特征提取基本流程137
6.2.3 文本特征提取实例137
6.3 综合案例：基于贝叶斯模型的垃圾邮件识别138
6.3.1 案例概述138
6.3.2 案例分析138
6.3.3 文本特征提取139
6.3.4 案例实现：python版141
6.3.5 案例实现：sklearn版144
6.4 贝叶斯岭回归145
6.5 综合案例：基于贝叶斯岭回归的房价预测146
6.5.1 案例概述146
6.5.2 案例实现：python版146
6.5.3 案例实现：sklearn版149
题6149
实训6149

### 第3篇 无监督学篇 ###
第7章 聚类
7.1 聚类基础152
7.1.1 概述152
7.1.2 聚类算法基本步骤153
7.1.3 聚类能评估指标153
7.2 常见的聚类算法154
7.2.1 原型聚类算法154
7.2.2 层次聚类算法155
7.2.3 密度聚类算法157
7.2.4 谱聚类算法158
7.2.5 模型聚类算法159
7.3 综合案例：原型聚类算法实践159
7.3.1 案例概述159
7.3.2 案例实现：python版kmeans160
7.3.3 案例实现：python版kmedoids161
7.3.4 案例实现：sklearn版163
7.4 综合案例：层次聚类算法实践164
7.4.1 案例概述164
7.4.2 案例实现：少量数据167
7.4.3 案例实现：完整数据集168
7.5 综合案例：谱聚类算法实践169
7.5.1 案例概述169
7.5.2 案例实现：python版169
7.5.3 案例实现：sklearn版171
7.6 综合案例：代表聚类算法能比较172
7.6.1 案例概述172
7.6.2 案例实现：sklearn版172
题7175
实训7175

第8章 主成分分析
8.1 概述176
8.1.1 降维方法176
8.1.2 主成分分析177
8.2 pca的基本177
8.2.1 方差和协方差177
8.2.2 主成分178
8.2.3 pca基本步骤179
8.2.4 pca典型应用180
8.2.5 pca的优势和不足180
8.3 综合案例：基于pca的图像压缩实践181
8.3.1 案例概述181
8.3.2 案例实现：python版182
8.3.3 案例实现：sklearn版183
8.4 综合案例：基于pca的鸢尾花数据集可视化分析186
8.4.1 案例概述186
8.4.2 案例实现：python版186
8.4.3 案例实现：sklearn版188
题8189
实训8190

第9章 奇异值分解
9.1 奇异值分解概述191
9.1.1 矩阵与特征值191
9.1.2 奇异值分解193
9.1.3 奇异值和奇异向量194
9.1.4 奇异值分解变体195
9.1.5 svd的典型应用领域196
9.2 基于svd的协同过滤197
9.2.1 协同过滤197
9.2.2 基于svd的协同过滤198
9.3 综合案例：基于svd的电影系统199
9.3.1 案例概述199
9.3.2 案例分析199
9.3.3 案例实现201
9.4 综合案例：基于svd的图像压缩204
9.4.1 案例概述204
9.4.2 案例实现：累积能量占比分析204
9.4.3 案例实现：图像压缩205
题9207
实训9207

### 第4篇 篇 ###
0章 集成学
10.1 集成学概述210
10.1.1 基本210
10.1.2 常见类型211
10.1.3 优势和不足212
10.2 bagging和森林算法212
10.2.1 bagging212
10.2.2 森林算法213
10.3 综合案例：基于森林的心脏病预测214
10.3.1 案例概述214
10.3.2 案例实现：python版217
10.3.3 案例实现：sklearn版220
10.4 boosting及其代表算法221
10.4.1 boosting221
10.4.2 adaboost222
10.4.3 xgboost223
10.4.4 lightgbm223
10.5 综合案例：adaboost、xgboost和lightgbm实践224
10.5.1 案例概述224
10.5.2 案例实现：adaboost版224
10.5.3 案例实现：xgboost版224
10.5.4 案例实现：lightgbm版225
10.6 stacking概述226
10.7 综合案例：基于stacking的葡萄酒分类227
10.7.1 案例概述227
10.7.2 案例实现227
题10228
实训10228

1章 特征工程
11.1 特征工程概述229
11.1.1 特征和数据229
11.1.2 特征工程230
11.2 数据预处理231
11.2.1 数据清洗231
11.2.2 数据集成232
11.2.3 特征缩放232
11.3 综合案例：数据预处理实践233
11.3.1 案例概述233
11.3.2 案例实现233
11.4 特征构建237
11.4.1 数值特征238
11.4.2 类别特征238
11.4.3 组合特征240
11.4.4 非线变换240
11.5 综合案例：特征构建实践241
11.5.1 案例概述241
11.5.2 案例实现241
11.6 特征选择245
11.6.1 过滤式246
11.6.2 包裹式247
11.6.3 嵌入式248
11.7 综合案例：特征选择实践248
11.7.1 案例概述248
11.7.2 案例实现248
题11252
实训11253

2章 深度学
12.1 深度学概述254
12.1.1 感知机和多层感知机255
12.1.2 激活函数和损失函数256
12.1.3 反向传播算法和优化方法258
12.1.4 深度学框架259
12.2 综合案例：基于mlp的汽车燃油效率预测259
12.2.1 案例概述259
12.2.2 开发环境配置260
12.2.3 案例实现262
12.3 卷积神经网络265
12.3.1 卷积层265
12.3.2 池化层266
12.4 综合案例：基于n的服装分类267
12.4.1 案例概述267
12.4.2 案例实现267
12.5 循环神经网络269
12.5.1 序列和文本270
12.5.2 rnn270
12.5.3 lstm271
12.6 综合案例：基于rnn的情感分类272
12.6.1 案例概述272
12.6.2 案例实现272
12.7 综合案例：基于lstm的垃圾邮件识别275
12.7.1 案例概述275
12.7.2 案例实现275
题12276
实训12276