条件随机场是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布，其特点是 假设输出随机变量构成马尔科夫随机场，可用于不同的预测问题。

隐马尔可夫模型(HMM)是可用于标注问题的学习模型，描述由隐藏的马尔科夫链随机生成观 测序列的过程，属于生成模型。

EM 算法是一种迭代算法，用于隐含变量的概率模型参数的极大似然估计或极大后验概率估计。 EM 算法的每次迭代由两步组成：E步求期望，M步求极大，因此称为期望极大算法。

提升方法是一种常用的统计学习方法，在分类问题中，它通过改变训练样本的权重，学习多 个分类器，并将这些分类器线性组合，以提高分类的性能。

支持向量机是一种二分类模型，基本模型是定义在特征空间上的间隔最大的线性分类器，间 隔最大使其有别于感知机，而且还包括核技巧，使其成为实质上的非线性分类器。支持向量 机的学习策略是间隔最大化，可形式化为一个求解凸二次规划的问题，也等价于求解正则化 的合页损失函数的最小化问题，其学习算法是求解凸二次规划的最优化算法。

Logistic 回归是统计学习中的经典分类方法，最大熵是概率模型学习的一个准则，将其推广 到分类问题上即最大熵模型，二者都属于对数线性模型。