20240913-contrastivelearning
对比学习论文
Understanding Contrastive Representation Learning through Alignment and Uniformity on the Hypersphere
MLR 2020
对比学习通过最大化正样本对特征的互信息来优化对比损失,但实验结果表明,简单地追求这一目标可能导致下游任务性能下降。
比学习中的对齐性(alignment)和均匀性(uniformity)两个核心特性,并探索直接优化这些特性的策略。
参考文章:
参考链接
20240913-contrastivelearning
https://blog.jankiny.live/Academics/20240913-contrastivelearning/