• 首页>
  • 机器学习五大流派

机器学习五大流派

苏幕遮 2018-12-17 12:06 人工智能,五大流派
最初,机器学习分为联结主义和符号主义两大学派,随着机器学习的发展,逐渐划分为五大流派:符号主义、联结主义、进化主义、贝叶斯派还有行为类比主义。


派别

起源

擅长算法

符号主义

(Symbolists)

逻辑学、哲学

逆演绎算法
(Inverse deduction)

联结主义

(Connectionists)

神经科学

反向传播算法

(Backpropagation)

进化主义

(Evolutionaries)

进化生物学

基因编程
(Genetic programming)

贝叶斯派

(Bayesians)

统计学

概率推理
(Probabilistic inference)

行为类比主义

(Analogizer)

心理学

核机器
(Kernel machines)


1

符号主义(Symbolists)


符号主义是一种基于逻辑推理的智能模拟方法,又称为逻辑主义,其算法起源于逻辑学和哲学,通过对符号的演绎和逆演绎来进行结果预测。举个例子:根据 2+2=? 来预测 2+?=4中的未知项。

该学派认为:人类认知和思维的基本单元是符号,而认知过程就是在符号表示上的一种运算。它认为人是一个物理符号系统,计算机也是一个物理符号系统,因此我们就能够用计算机来模拟人的智能行为,即用计算机的符号操作来模拟人的认知过程。


起源:逻辑学、哲学

核心思想:认知即计算,通过对符号的演绎和逆演绎进行结果预测

问题:知识结构

代表算法:逆演绎算法(Inverse deduction)

代表应用:知识图谱

代表人物:Tom Mitchell、Steve Muggleton、Ross Quinlan 


2

联结主义(Connectionists)


联结主义是统合了认知心理学、人工智能和心理哲学领域的一种理论。联结主义建立了心理或行为现象模型的显现模型—单纯元件的互相连结网络。联结主义有许多不同的形式,但最常见的形式利用了神经网络模型。

联结主义的中心原则是用简单单位的互联网络描述心理现象。联结的形式和单位可以从模型到模型修改。例如,网络的单位可以描述神经元,联结可以描述突触。另一个模型网络中每个单位用一个词表示,每个联结用一个语义类似的词表示。

神经网络是今天联结主义模型的主导形式,如今流行的深度学习也是此学派的一个延伸。


起源:神经科学

核心思想:对大脑进行仿真

问题:信度分配

代表算法:反向传播算法(Backpropagation)、深度学习(Deep learning)

代表应用:机器视觉、语音识别

代表人物:Yann LeCun、Geoff Hinton、Yoshua Bengio

3

进化主义(Evolutionaries)


进化主义起源于生物进化学,该学派擅长于使用遗传算法和遗传编程。例如佛蒙特大学的Josh Bongard研发的基于生物进化理论的“海星机器人”,它能够通过内部模拟来“感知”身体各个部分,并进行连续建模。因此,即使没有外部编程,它也可以自己学会走路。进化理论认为反向传播只是在模型中调整权重而已,而没有整个弄明白大脑的真正来源是什么。所以要搞清楚整个进化过程是如何进行的,然后在计算机上模拟同样的过程。


起源:进化生物学

核心思想:对进化进行模拟,使用遗传算法和遗传编程

问题:结构发现

代表算法:基因编程(Genetic programming)

代表应用:海星机器人

代表人物:John Koda、John Holland、Hod Lipson

4

贝叶斯派(Bayesians)

贝叶斯决策就是在不完全情报下,对部分未知的状态用主观概率估计,然后用贝叶斯公式对发生概率进行修正,最后再利用期望值和修正概率做出最优决策。其基本思想是:已知类条件概率密度参数表达式和先验概率,利用贝叶斯公式转换成后验概率,根据后验概率大小进行决策分类。基于概率统计的贝叶斯算法最常见的应用就是反垃圾邮件功能,贝叶斯分类的运作是借着使用标记与垃圾邮件、非垃圾邮件的关连,然后搭配贝叶斯推断来计算一封邮件为垃圾邮件的可能性。

起源:统计学

核心思想:主观概率估计,发生概率修正,最优决策

问题:不确定性

代表算法:概率推理(Probabilistic inference)

代表应用:反垃圾邮件、概率预测

代表人物:David Heckerman、Judea Pearl、Michael Jordan

贝叶斯代表人物.png

5

行为类比主义(Analogizer)

行为类比主义者所持的基本观点为:我们所做的一切,所学习的一切,都是通过类比法推理得出的。所谓的类比推理法,即观察我们需要作出决定的新情景和我们已经熟悉的情景之间的相似度。

起源:心理学

核心思想:新旧知识间的相似性

问题:相似性

代表算法:核机器(Kernel machines)、近邻算法(Nearest Neightor)

代表应用:Netflix推荐系统

代表人物: Peter Hart、Vladimir Vapnik、Douglas Hofstadter

行为类比主义代表人物.png