【深層学習】Transfer Learning / 転移学習

• 深層学習 #まとめ編
  • yhayato1320.hatenablog.com

Index

Transfer Learning / 転移学習

「ある領域の学習」で得た知識を「別の領域の学習」に利用するアイディア.

メリット

• 限られたデータから高精度なモデルを作成できる
• 短時間でモデルを学習できる

デメリット

知識を転移することで、精度が悪化する場合もある. (負の転移 / Negative Transfer)

Knowledge Transfer Network / KTH / 2022

• Zero-shot Transfer Learning within a Heterogeneous Graph via Knowledge Transfer Networks

  • [2022]
  • arxiv.org
    
    

• Teaching old labels new tricks in heterogeneous graphs

  • ai.googleblog.com

研究

Offsite-Tuning

• Offsite-Tuning: Transfer Learning without Full Model
  • [2023]
  • arxiv.org

参考

• A Survey on Transfer Learning
  • [2009]
  • https://www.cse.ust.hk/~qyang/Docs/2009/tkde_transfer_learning.pdf

Web サイト

• 転移学習とは | メリット・デメリット・ファインチューニングの意味
  • ledge.ai