Lilian Weng 长文解读自监督表征学习

Lilian Weng 在 Lil'Log 发表关于自监督表征学习的综述，核心思想是利用数据自带的信息构造 pretext task，从而在无标注数据上以监督方式训练，目标是学到可迁移到下游任务的中间表征而非任务本身的准确率。