迁移学习（）是属于机器学习的一种研究领域。它专注于存储已有问题的解决模型，并将其利用在其他不同但相关问题上。 比如说，用来辨识汽车的知识（或者是模型）也可以被用来提升识别卡车的能力。
历史
最早被引用的关于迁移学习的工作被认为属于。他在1993年制定了基于可辨识性的转移（DBT）算法。
1997年，机器学习期刊发表了一期专门讨论迁移学习的期刊，而到了1998年，该领域已经发展到包括多任务学习，以及对其理论基础的更深入完善的分析。1998年，由普拉特和塞巴斯蒂安·特龍编辑的《Learning to Learn》便是对该主题的回顾。
迁移学习也被应用于认知科学，比如《Connection Science》杂志就于1996年出版了一版特殊期刊，描述了如何通过使用迁移学习重新利用已有神经网络。
定义
迁移学习是由域和任务定义的。域\mathcal{D}由特征空间\mathcal{X}和边缘概率分布P(X)构成，其中X = \{x_1,...,x_n\} \in \mathcal{X}。给定域\mathcal{D} = \{\mathcal{X}, P(X)\}，任务由标签空间\mathcal{Y}和目标预测函数f:\mathcal{X} \rightarrow \mathcal{Y} 两部分组成，函数f预测x对应的标签f(x)。任务\mathcal{T} = \{\mathcal{Y}, f(x)\}是从含有样本对\{x_i, y_i\}的训练数据中学习得到的，其中x_i \in X, y_i \in \mathcal{Y}。
给定原域\mathcal{D}_S及其任务\mathcal{T}_S，目标域\mathcal{D}_T及其任务\mathcal{T}_T（满足\mathcal{D}_S \neq \mathcal{D}_T或\mathcal{T}_S \neq \mathcal{T}_T），迁移学习旨在通过利用\mathcal{D}_S和\mathcal{T}_S的知识，帮助学习\mathcal{D}_T域的目标预测函数f_T (\cdot)。和贝叶斯网络。迁移网络还被利用与发现癌症种类、建筑物人员限额、普适智能游戏玩家、语句分类以及筛选垃圾邮件（短信）。
機器學習以外
计算机领域的迁移学习，和心理学常常提到的学习迁移在概念上相似或有一定关系，但是两个领域在学术上的关系非常有限。
来源
*
参见
- 机器学习
- 深度学习
- 微调 (深度学习)
- 通用人工智慧
- 生成式人工智慧
- 图灵测试
- 生成对抗网络
- Transformer模型
- 大型语言模型
- 提示工程
引用
评论 (0)