arXiv:1211.4860 · 中英对照阅读
面向计算机视觉应用的领域自适应
Domain Adaptations for Computer Vision Applications
中文速览
当训练数据和实际应用中的数据分布不一样时,直接用旧数据训练的模型往往会失准,而新场景又常常缺少标注。文章梳理了如何借助有标注的“源域”数据,提升模型在“目标域”上的表现,重点总结了视觉领域的研究,并按思路介绍了给样本加权、用源域知识约束模型、以及寻找两域共享特征表示等方法。总体来看,不同方法适用于不同的数据差异和标注条件,没有一种方案能解决所有情况。它的重要性在于把分散的领域适应方法放进同一框架,帮助读者理解何时能迁移旧知识、又该怎样减少跨场景应用时的性能落差。
摘要
统计学习理论(Statistical learning theory)的一项基本假设是,训练数据和测试数据来自同一底层分布。然而,在许多应用中,这一假设并不成立。相反,某个特定的“源”领域(source domain)可能存在大量带标签数据,而推理则需要在另一个“目标”领域(target domain)中进行。领域自适应(domain adaptation)方法利用来自两个领域的带标签数据,提升对目标领域中未见数据的分类性能。在本文中,我们综述了适用于各种应用领域的领域迁移学习(domain transfer learning)方法,重点关注计算机视觉领域的近期研究。
A basic assumption of statistical learning theory is that train and test data are drawn from the same underlying distribution. Unfortunately, this assumption doesn’t hold in many applications. Instead, ample labeled data might exist in a particular ‘source’ domain while inference is needed in another, ‘target’ domain. Domain adaptation methods leverage labeled data from both domains to improve classification on unseen data in the target domain. In this work we survey domain transfer learning methods for various application domains with focus on recent work in Computer Vision.
术语表
- statistical learning theory
- 统计学习理论
- domain adaptation (DA)
- 领域自适应
- domain transfer learning
- 领域迁移学习
- source domain
- 源领域
- target domain
- 目标领域
- distribution shift
- 分布偏移
- covariate shift
- 协变量偏移
- transfer learning (TL)
- 迁移学习
- active learning
- 主动学习
- weakly supervised learning
- 弱监督学习
- multiple instance learning
- 多实例学习
- latent structural SVM
- 潜在结构支持向量机
- semi-supervised learning
- 半监督学习
- co-training
- 协同训练
- one-shot learning
- 单样本学习
- model adaptation
- 模型自适应
- Adapted Gaussian Mixture Models
- 自适应高斯混合模型
- cross-modal classification
- 跨模态分类
- cross-modal retrieval
- 跨模态检索
- joint probability distribution
- 联合概率分布
- marginal probability distribution
- 边缘概率分布
- supervised domain adaptation
- 有监督领域自适应
- unsupervised domain adaptation
- 无监督领域自适应
- semi-supervised domain adaptation
- 半监督领域自适应
- instance weighting
- 实例加权
- empirical risk minimization
- 经验风险最小化
- common representation
- 共享表示