对比学习

¶对比学习- contrastive learning

• 监督学习：技术相对成熟，但是对海量的数据进行标记需要花费大量的时间和资源。
• 无监督学习：自主发现数据潜在的结构，节省时间以及硬件资源

¶无监督学习

¶思路：

自主地从大量数据中学习同类数据的相同特性，并将其编码为高级表征，再根据不同任务进行微调即可。

¶分类：

• 生成式学习：以自编码器(例如GAN，VAE等等)这类方法为代表，由数据生成数据，使之在整体或者高级语义上与训练数据相近。

• 对比式学习：对比式学习着重于学习同类实例之间的共同特征，区分非同类实例之间的不同之处。

  与生成式学习比较，对比式学习不需要关注实例上繁琐的细节，只需要在抽象语义级别的特征空间上学会对数据的区分即可，因此模型以及其优化变得更加简单，且泛化能力更强。