数据库 频道

通透!一文搞懂大模型、机器学习与深度学习的区别!

机器学习、深度学习和大模型,经常傻傻的分不清,这里将结合图文跟大家讲清楚。

假设我们有一个文本情感分析的任务,需要判断一段文本的情感是正面、负面还是中性。下面分别是机器学习、深度学习和大模型的实现方式。

1、机器学习

(1)场景:机器学习一般要针对某个特定场景来进行训练,比如以上的“判断一段文本的情感是正面、负面还是中性”就是典型的一个机器学习场景。

(2)输入:机器学习一般只接收结构化数据的输入,如果是非结构化数据,也要转化为结构化数据,比如本案例中虽然原始输入的是一些文本,但真正输入到模型进行训练的数据已经被转化成了结构化的特征向量,如上图中的[[1, 0], [1, 1], [1, 0], [0, 1]],每一行代表的是一段文本输入转化成的的结构化输入,这里一共有四个记录。

(3)特征向量:机器学习的特征变量是明确的,主要依赖人工经验选择确定,比如本案例中设计出来的特征变量有两个,分别是“正面词数量”,“负面词数量”,要判断一段文本是正面还是负面,一般首先会想到通过分词找到正负面的词,然后以这些词的频率作为x变量,因为这是最相关的。

(4)输出:对输出·文本的正负情感进行人工标识,作为y,比如本案例中[1, 0, 1, 0],代表输入的文本的情感分别为正、负、正、负。

(5)模型训练:要训练模型,需要选择合适的机器学习算法,这里选择的经典算法SVM,然后基于前面的输入和输出进行训练,最终得到一个SVM模型。

(6)推理:下图显示了机器学习推理过程,输入一段符合场景的文本,该模型就可以对文本的情感进行预测。

2、深度学习

(1)场景:深度学习跟机器学习类似,一般要针对某个特定场景来进行训练,假设是同样的文本情感识别场景。

(2)输入:深度学习是在文本,图形识别中发展起来的,因此特别擅长于处理图文等非结构化数据,跟机器学习不同,深度学习不需要显式构建特征变量,本案例中只需要将文本转化成机器能处理的数字即可,比如将输入的两段文本映射成[1, 2, 3, 4, 0]、[1, 5, 2, 3, 4],模型训练接受的输入是原始的映射数据,不是特征向量。

(3)特征向量:相比机器学习,深度学习的特征表示是在训练中自己生成的,不需要在输入阶段人工显式构造。

(4)输出:跟机器学习类似,对输出文本的正负情感进行人工标识,作为y,比如本案例中[1, 0],代表输入的文本的情感分别为正、负。

(6)推理:下图显示了深度学习推理过程,输入一段符合场景的文本,该模型就可以对文本的情感进行预测,跟机器学习基本一致。

3、大模型

(1)场景:大模型跟深度学习、机器学习不同,一般是指预训练模型,其不针对某个特定场景来进行训练,致力于学习语言的一般规律和知识,可以适用于所有的通用场景。

(2)输入输出:在预训练阶段使用大规模未标注文本数据作为输入x,这些文本不需区分特定场景,也无需标注y。

(3)特征向量:大模型跟深度学习的特征表示一样,是在训练中自己生成的,不需要在输入阶段人工显式构造。

(4)推理:下图显示了大模型推理过程,其适用于任意场景,输入任意文本,预训练模型都可以基于输入的文本进行生成式回复。

(5)微调:假如大模型的预训练模型不足以满足某特定任务的要求,那么还可以针对特定任务再进行微调训练,微调训练过程等同于深度学习,即构造针对特定任务的x,y来进行深度学习的训练。如果说深度学习的特征学习和任务训练是同时进行的,那么大模型的特征学习(预训练)和任务训练(微调)是分阶段进行的。

希望对你有所启示!

0
相关文章