决策用强化与系统性机器学习

《决策用强化与系统性机器学习》以Protel的新版本AltiumDesigner13AltiumDesigner14为平台，介绍了电路设计的方法和技巧，主要包括AltiumDesigner13AltiumDesigner14概述、原理图设计基础、原理图的绘制、原理图的后续处理、层次结构原理图的设计、原理图编辑中的高级操作、PCB设计基础知识、PCB的布局设计、印制电路板的布线、电路板的后期制作、创建元件库及元件封装、电路仿真系统、信号完整性分析、自激多谐振荡器电路设计实例和游戏机电路设计实例。本书的介绍由浅入深，从易到难，各章节既相对独立又前后关联。在介绍的过程中，编者根据自己多年的经验及教学心得，及时给出总结和相关提示，以帮助读者快捷地掌握相关知识。全书内容讲解详实，图文并茂，思路清晰。随书赠送的多媒体教学光盘包含全书实例操作过程的视频讲解文件和实例源文件，读者可以通过光盘方便、直观地学习本书内容。本书可以作为初学者的入门教材，也可以作为电路设计及相关行业工程技术人员及各院校相关专业师生的学习参考。

Parag Kulkarni博士是普纳埃拉特研究所（EKLaT Research,Pune）的CEO和首席科学家。他在知识管理、电子商务、智能系统和机器学习咨询、研究和产品建设等领域有超过20年的经验。印度理工学院和加尔各答印度管理研究院的校友，Kulkarni博士是IIM的兼职教授、捷克马萨里克大学访问研究员和普纳工程学院兼职教授。他领导的公司、研究实验室和团体，其中包括很多IT公司，有艾蒂尔公司、西门子信息系统有限公司、普纳的卡皮森公司和新加坡的ReasonEdge公司。他通过战略创新和研究引领了很多公司成功创业。瑞士的UGSM皇家商业学校授予Kulkarni荣誉博士学位。他是三个专利的共同发明人，并合著了超过100篇研究论文并有著作若干本。

译者序

原书前言

原书致谢

关于作者

第1章强化与系统性机器学习1

1.1简介1

1.2监督学习、无监督学习、半监督学习和强化学习1

1.3传统机器学习方法和机器学习发展历史3

1.4什么是机器学习？6

1.5机器学习问题6

1.5.1学习的目标6

1.6学习模式7

1.7机器学习技术和范例9

1.8什么是强化学习？11

1.9强化函数和环境函数12

1.10强化学习的需求13

1.11强化学习和机器智能14

1.12什么是系统学习？14

1.13什么是系统性机器学习？15

1.14系统性机器学习的重点15

1.15强化性机器学习和系统性机器学习16

1.16车辆检测问题的案例研究16

1.17小结16

参考文献17

第2章全系统原理、系统性和多视角的机器学习18

2.1简介18

2.1.1什么是系统性学习？19

2.1.2历史20

2.2什么是系统性机器学习？21

2.2.1基于事件的学习21

2.3广义系统性机器学习框架23

2.3.1系统定义24

2.4多视角决策和多视角学习26

2.4.1基于完整信息的表示32

2.4.2基于部分信息的表示32

2.4.3单视角决策方案图32

2.4.4双重视角决策方案图32

2.4.5多视角决策方案图32

2.4.6定性信念网络和影响图33

2.5动态和交互式决策33

2.5.1交互决策图33

2.5.2决策图和影响图中时间的角色34

2.5.3系统性视角的建立34

2.5.4信息整合35

2.5.5建立典型决策方案图35

2.5.6受限信息35

2.5.7多决策者系统在系统性学习中的角色35

2.6系统性学习框架39

2.6.1数学模型39

2.6.2系统性学习的方法39

2.6.3自适应系统性学习40

2.6.4系统性学习框架41

2.7系统分析41

2.8案例学习：在酒店行业中需要系统性学习43

2.9小结44

参考文献44

第3章强化学习45

3.1简介45

3.2学习决策者48

3.3回报和奖励的计算50

3.3.1方案和连续任务50

3.4强化学习和自适应控制51

3.5动态系统54

3.5.1离散事件动态系统54

3.6强化学习和控制55

3.7马尔科夫性质和决策过程55

3.8价值函数56

3.8.1行动和价值56

3.9学习最优策略（有模型和无模型法）57

3.10动态规划57

3.10.1动态系统性质57

3.11自适应动态规则58

3.11.1时间差分学习59

3.11.2Q学习60

3.11.3统一的视图60

3.12范例——拳击训练器的强化学习61

3.13小结61

参考文献61

第4章系统性机器学习和模型62

4.1简介62

4.2系统学习的框架63

4.2.1影响空间64

4.2.2交互作用为中心的模型69

4.2.3以结果为中心的模型69

4.3捕捉系统视图70

4.4系统交互的数学表达73

4.5影响函数74

4.6决策影响分析74

4.6.1时空界限75

4.7小结80

第5章推理和信息集成82

5.1简介82

5.2推理机制和需要83

5.2.1情景推理85

5.2.2推理确定影响85

5.3情景和推理的集成88

5.4统计推理和归纳91

5.4.1直接推理91

5.4.2间接推理91

5.4.3信息推理91

5.4.4归纳92

5.5纯似然方法92

5.6贝叶斯范例推理93

5.6.1贝叶斯定理93

5.7基于时域推理93

5.8推理建立系统观点94

5.8.1信息集成94

5.9小结96

参考文献97

第6章自适应学习98

6.1简介98

6.2自适应学习和自适应系统98

6.3什么是自适应机器学习101

6.4基于方案的适应性和学习方法101

6.4.1动态适应性和情景感知的学习102

6.5系统学习和自适应学习104

6.5.1多学习器的使用105

6.5.2系统自适应机器学习108

6.5.3自适应应用的设计110

6.5.4自适应学习的需要和适应的原因111

6.5.5适应类型112

6.5.6自适应框架114

6.6竞争学习和自适应学习115

6.6.1适应性函数116

6.6.2决策网络118

6.6.3自适应学习方案119

6.7范例120

6.7.1案例研究：基于自适应学习的文本120

6.7.2自适应学习的文档挖掘121

6.8小结122

参考文献122

第7章多视角和全局系统性的学习123

7.1简介123

7.2多视角方案构建124

7.3多视角决策和多视角学习126

7.3.1视角结合126

7.3.2影响图和部分方案决策表示图127

7.3.3表示决策方案图（RDSD）130

7.3.4范例：部分方案决策表示图（PDSRD）表示的不同视角获取的城市信息131

7.4全局系统性学习和多视角途径134

7.4.1分散信息整合135

7.4.2多视角和全局系统知识表示135

7.4.3什么是多视角方案？135

7.4.4特定方案136

7.5基于多视角途径的案例研究136

7.5.1交通控制器用多视角途径137

7.5.2情感检测用多视角途径模型138

7.6多视角方法的局限性143

7.7小结143

参考文献144

第8章增量学习和知识表示145

8.1简介145

8.2为什么增量学习？146

8.3学习已经学会的147

8.3.1绝对增量学习148

8.3.2选择增量学习149

8.4监督增量学习157

8.5增量无监督学习和增量聚类158

8.5.1增量聚类：任务160

8.5.2增量聚类：方法161

8.5.3阈值161

8.6半监督增量学习162

8.7增量与系统性学习163

8.8增量接近值和学习方法164

8.8.1增量学习方法1165

8.8.2增量学习方法2166

8.8.3计算C值增量166

8.9学习与决策模型169

8.10增量分类技术169

8.11案例分析：增量文档分类170

8.12小结171

第9章知识增长：机器学习的视角173

9.1简介173

9.2短暂的历史和相关工作174

9.3知识增长和知识启发178

9.3.1策略使用进行知识启发178

9.3.2基于目标的知识启发179

9.3.3基于过程的知识启发179

9.4生命周期180

9.4.1知识水平181

9.4.2直接知识181

9.4.3间接知识182

9.4.4程序知识182

9.4.5问题182

9.4.6决策182

9.4.7知识生命周期183

9.5增量知识表达184

9.6案例学习和遗忘学习186

9.7知识的扩充：技术和方法187

9.7.1知识增量技术187

9.7.2知识增量方法188

9.7.3提取知识的机制189

9.8启发式学习190

9.9系统性机器学习和知识获取190

9.9.1全方位知识获取191

9.9.2系统知识管理和先进的机器学习192

9.10在复杂环境下的知识增量193

9.11案例研究193

9.11.1银行案例研究193

9.11.2软件开发公司194

9.11.3杂货集市/零售集市195

9.12小结195

参考文献196

第10章构建学习系统197

10.1简介197

10.2系统性学习系统197

10.2.1学习单元199

10.2.2知识库200

10.2.3性能单元200

10.2.4反馈单元200

10.2.5允许测量的系统200

10.3算法选择201

10.3.1k近邻（kNN）201

10.3.2支持向量机（SVM）202

10.3.3质心法202

10.4知识表示203

10.4.1实用方案和案例研究203

10.5学习系统的设计204

10.6让系统表现得更智能204

10.7案例学习205

10.8整体知识框架和强化学习的应用205

10.8.1智能算法的选择207

10.9智能决策——部署和知识采集以及重用208

10.10基于案例的学习：人体情感检测系统209

10.11复杂决策问题的整体视角211

10.12知识表示和资源查找213

10.13组件215

10.13.1范例215

10.14学习系统和智能系统的未来216

10.15小结217

附录218

附录A统计学习方法218

A.1概率218

A.1.1互斥事件218

A.1.2独立事件218

A.2贝叶斯分类219

A.2.1朴素贝叶斯分类220

A.2.2贝叶斯分类器的优点和缺点221

A.3回归221

A.3.1线性222

A.3.2非线性222

A.3.3回归的其他方法222

A.4粗糙集223

A.4.1不可分辨关系223

A.4.2集近似224

A.4.3边界区域224

A.4.4粗糙集和清晰集224

A.4.5约简224

A.4.6可有可无和不可缺少的属性224

A.5支持向量机224

参考文献225

附录B马尔科夫过程225

B.1马尔科夫过程225

B.1.1案例226

B.1.2解决步骤226

B.1.3长期227

B.1.4马尔科夫过程示例228

B.2半马尔科夫过程231

B.2.1建议231

B.2.2验证232

B.2.3推论232