Index
自己教師あり学習 / Self Supervised Learning
機械学習・深層学習における、学習の枠組みの一つ.
対照学習 / Contrastive Learning
自己教師あり学習 / Self Supervised Learning の手法の一つ.
- 対照学習 / Contrastive Learning
各データ分野への応用
画像処理
- 自己教師あり学習 / Self Supervised Learning
Generative Model / 生成モデル
Auto Regression / AR Model
- Auto Regression Model
Pixel CNN / 2016 -
- Pixel RNN (Pixel CNN)
Pixel CNN (Conditional Pixel CNN)
Pixel CNN
GPT / 2018 -
参考
Self-supervised Learning: Generative or Contrastive
- [2020]
- 1 INTRODUCTION
- 2 MOTIVATION OF SELF-SUPERVISED LEARNING
- 3 GENERATIVE SELF-SUPERVISED LEARNING
- 3.1 Auto-regressive (AR) Model
- arxiv.org
VirTex: Learning Visual Representations from Textual Annotations
- [2020]
- 2 Related Wrok
- Self-Supervised Learning
- arxiv.org
The SSL Interplay: Augmentations, Inductive Bias, and Generalization
- [2023]
- arxiv.org
A Cookbook of Self-Supervised Learning
- [2023]
- arxiv.org
書籍
コンピュータービジョン最前線 Winter 2021
- 1 イマドキノCV / 三つ巴の学習戦略
- 1.2 データラベルの利用活用
- 1.2.1 イマドキの事前学習
- 自己教師あり
- 1.2.1 イマドキの事前学習
- 1.2 データラベルの利用活用
-
- 1 イマドキノCV / 三つ巴の学習戦略
-
Web サイト
- Self Supervised Learning
- [2023]
- speakerdeck.com
Self-Supervised Learning: Self-Prediction and Contrastive Learning
Self-supervised Learning: Making the most of Large Scale Unlabeled Data