《深度学习之美》第3章

《深度学习之美》 张玉宏著

第3章 “机器学习”三重门,“中庸之道”趋若人

1、监督学习(Supervised Learning)

所谓监督学习,就是先用训练数据集合(training data sets)学习得到一个模型(model),然后再使用这个模型对新样本(testing data sets)进行预测(Prediction)。

1.1回归分析(Regression Analysis)
线性回归(Linear Regression) and 逻辑回归(Logistic Regression)
1.2分类学习(Classification Learning)
k-近邻(k-Nearest Neighbor,kNN)、支持向量机(Support Vector Machine,SVM)、朴素贝叶斯 分类(Naive Bayes)、决策树(Decision Tree)、BP反向传播算法等。

2、非监督学习(Unsupervised Learning)

非监督学习,本质上就是“聚类(Cluster)”的近义词。

比较有名的非监督学习算法:K均值聚类(K-Means Clustering)、关联规则分析(Association Rule,如Apriori算法等)、主成分分析(Principal Components Analysis,PCA)、随机森林(Random Forests)、受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)等。

3、半监督学习(Semi-supervised Learning)

半监督学习就是以“已知之认知(标签化的分类信息)”,扩大“未知之领域(通过聚类思想将未知事物归类为已知事物)”。
聚类假设(Cluster Assumption):相似的样本,拥有相似的输出。

常见的半监督学习算法有生成式方法,半监督支持向量机(Semi-supervised Support Vector Machine)、图半监督学习、半监督聚类等。

4、强化学习(Reinforcement Learning)

强化学习强调的是,在一系列的情景之下,选择最佳决策,它讲究通过多步恰当的决策,来逼近一个最优的目标,因此,它是一种序列多步决策的问题。

;