オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【深層学習】Transfer Learning / 転移学習 #まとめ編 #01

Index

Transfer Learning / 転移学習

物体検出における Transfer Learning について.

Feature-Based Approach / 特徴抽出型

典型的なアプローチは、分類タスクで学習済みの CNN をBackbone (特徴抽出部) として利用し、その上に検出用の Head を学習する.

これにより、一般物体の判別に有用な低・中レベル特徴を流用し、限られた検出用データでも高い識別・定位能力を発揮できる.

ドメイン適応

ドメイン適応による転移も考えられる. 実用上、訓練データと異なる環境 (天候、撮影条件、合成データ→実画像など) で検出を使う際、ドメインシフトで性能劣化が起きる.

アルゴリズム

YOLO v2 / 2016

大規模な分類データセットと小規模な検出データセットを共同で訓練することで、タスク間で特徴を転送し、小さな物体検出の精度を向上させた.

Domain Adaptive Faster R-CNN / 2018

  • Domain Adaptive Faster R-CNN for Object Detection in the Wild

Few-Shot Object Detection / 2020

物体検出器の最終層のみをバランスの取れたサブセットで Fine Tuning し、モデルの残りの部分を固定する.

  • Frustratingly Simple Few-Shot Object Detection

TranSDet / 2023

TranSDet: Toward Effective Transfer Learning for Small-Object Detection


参考

  • Transfer Learning Method for Object Detection Model Using Genetic Algorithm

  • Transfer learning with generative models for object detection on limited datasets

    • [2024]
    • arxiv.org
    • 物体検出におけるデータ不足の課題に対処するため、生成モデルと転移学習を組み合わせた新しいフレームワークを提案.
    • 特に、拡散モデルの一種であるGLIGENを用いて、少量の実データしかない状況でも、物体検出器の性能を向上させるための合成画像を生成する.

  • A Review of Object Detection Using Deep Learning and LSTM for Enhanced Accuracy in Sequential Data Analysis