迁移学习——机器学习中最重要的范式

在机器学习领域,迁移学习蓬勃发展。让我们了解迁移学习并了解所有这些炒作的内容。

迁移学习

了解迁移学习

为全新任务收集新数据并从头开始训练新模型很多时候都充满挑战。迁移学习是机器学习的一个子集,其中根据解决类似问题的现有模型的特征和质量来训练新模型。

这种工作方法可以节省时间和计算能量,因为在各种用例中从头开始开发一个全新的模型会非常乏味,所以为什么不尝试合并现有模型中的一些有用特征,使我们作为开发人员的工作变得轻松呢?迁移学习已经变得如此方便,以至于很少能找到从头开始执行的图像处理或自然语言处理任务。

迁移学习的一些用例如下:

1. 新模型训练的可用数据有限。

  2. 有大量数据可用于训练新模型。

在上述两种情况下,开发新模型都是不可行的,因为当数据不足时,在其上训练模型会导致结果不准确以及该特定模型的过度拟合或欠拟合。

同样,在数据量很大的情况下,这样做会需要很长的时间并且消耗太多的计算能量。因此,迁移学习在这种情况下被证明是一个救星。

它是如何工作的?

一种机器学习模型,主要用于从一组数据中识别特征。图像是迁移学习的领跑者。几乎整个模型都可以放在一边,只有该算法的一部分可以根据我们项目的要求重新训练和使用。算法或其特定部分的选择完全取决于我们正在处理的新数据集的类型及其与现有模型的相关性。

理论上,它将最大限度的知识从预训练模型传授给新开发的模型。可以添加额外的细节层,以便在新模型中传递更准确的知识,使其能够执行给定的任务。迁移学习涉及使用先前开发的模型,例如 imagenet、mobilenet、mobilenetv2 等。

然后涉及微调这些模型的参数。它帮助这些现有模型适应新问题的要求,并在某种程度上概括现有模型以在给定数据集上执行某些特定任务。

优点和用途

首先,它加速了学习;由于该模型只需学习一些新事物,因此其算法可以产生高质量的结果。这类似于一个已经知道如何骑自行车的人和一个试图学习如何骑踏板车的人。通过使用在学习如何骑自行车的过程中获得的经验和知识,学习如何骑踏板车将很容易。

不需要大量标记的训练数据集。先前针对具有大量数据的任务进行训练的模型能够很好地处理具有相似特征的有限数据。

该模型可以进行微调,使其具有更通用的性质来解决其他类似的问题。

迁移学习策略

迁移学习作为一个整体是一个广泛的领域,包含多种策略和技术,人们可以根据某些因素(例如可用数据量、要解决的问题类型等)使用这些策略和技术。研究了用于迁移学习的底层机器学习模型后,可以将其分类如下:

1.归纳学习

2.无监督迁移学习

3. 转导式迁移学习

迁移学习的应用

迁移学习可以应用的领域有:

自然语言处理 [NLP] NLP 是指能够理解人类语言中存在的文本和音频的系统或计算机程序。NLP 的一些例子有 Alexa、Siri 等。

计算机视觉 [CV]

它也称为 CV,是另一种类型的程序,可以通过相机等硬件源给出的视觉输入来捕获数据。软件程序必须与相机集成才能提供给定的功能。

神经网络

这些网络在深度学习中非常重要,因为它们是为模拟和执行人脑可以执行的功能而定制和构建的。神经网络模型的重量非常大,需要大量的计算能力。

当在项目实践中开发它们时,上面提到的所有领域都非常巨大,以至于它们可能会耗尽任何可能的硬件和软件。因此,迁移学习是一种减少开发模型工作量的解决方案。

迁移学习的未来

迁移学习及其功能在广泛的领域中都有用处,这表明了它在未来接管世界的潜力。迁移学习将成为跨不同领域和用例分布各种机器学习、深度学习模型的驱动力之一。

创建新算法和模型的最低要求为机器学习领域带来了改变游戏规则的转变。即使在缺乏标记数据的情况下,迁移学习也将为企业提供开展业务的新方向。总的来说,迁移学习有望成为一种非常强大且非常可靠的技术,可以将一个人的业务委托给它。

参考

 深度学习迁移学习的简要介绍

 机器学习的迁移学习——迁移学习如何工作?

 什么是迁移学习以及它为何重要?– 迁移学习的优点