# 自监督学习

自监督学习 (self-supervised learning) 是一种利用辅助任务帮助模型从无监督数据中发掘监督信息的学习范式，也是现有的预训练方法的前身。

# 辅助任务

# 结构推断

结构推断即给定图像的多个部分，推断部分之间的相对位置。

• Unsupervised Visual Representation Learning by Context Prediction
• Unsupervised Representation Learning by Predicting Image Rotations

# 迁移预测

旋转预测：如果模型可以预测旋转的角度，则认为模型学到了图像的特征表示。一般只使用 $\pi/2$ 的整数倍四个角度，如果采用别的角度，则模型可以通过黑白边框进行角度预测，而无法学习到图像的特征。

# 重构

在噪声 / 掩码 / 灰度作用下，重构原始图像。

词袋预测：

# 样本分类

# 吹水

关于 rebuttal.