机器学习中的基本术语

记录(样本)：对象的一个描述

属性(特征)：反映对象的性质

属性值：属性的取值

样本空间：把n个属性张成一个n维的特征空间

特征向量：具有n个对象可以使用n维向量表示

数据集：记录的集合

上述基本术语的数学表示：

D={x1,x2,...xm}表示包含m个示例的数据集

如果每个示例由d个属性表述，则每个示例xi=(xi1;xi2;...;xid)是d维样本空间X中的一个向量，xi∈X，其中xij是xi在第j个属性上的取值，d为样本xi的位数。

学习(训练)：从数据中学习模型的过程，通过执行某个学习算法来完成。

训练数据：训练中使用的数据，每一个样本叫训练样本。

训练集：训练样本的集合

样例：有标签(label)信息的样本

一般使用(xi,yi)表示第i个样例，其中yi∈Y是示例xi的标记，y是所有标记的集合（标记空间）

机器学习任务的种类

（1）预测

预测任务希望通过对训练集{(x1,y1),(x2,y2),...,(xm,ym)}进行学习，建立一个从输入空间X到输出空间Y的映射f:X->Y。分为分类和回归。

测试：学得模型后，使用其预测的过程

测试样本：被预测的样本

分类：预测的值是离散值

 涉及两个类别就是二分类，通常一个类为正类，一个类为反类。

涉及多个类别就是多分类。

回归：预测的值是连续值

（2）聚类

将训练集中的样本分成若干个组，每组为一个簇。

(3)  (无)监督学习

根据训练数据是否拥有标记信息分类。分类和回归是有监督学习，聚类是无监督学习；

机器学习的目标是使得学得的模型很好地适用于新样本；

泛化能力：模型适应新样本的能力。

一般训练样本越多，泛化能力越强。