オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

トップ > データサイエンス > 【深層学習】Metric Learning / Distance Learning #まとめ編 #00

【深層学習】Metric Learning / Distance Learning #まとめ編 #00

データサイエンス データサイエンス-深層学習

Index

Metric Learning / Distance Learning

深層学習を用いた Metric Learning / Distance Learning をまとめる.

深層学習を用いた Metric Learning を Deep Metric Learning / DML と表現する.

Metric Learning / Distance Learning とは

まず、一つ目のアイディアとして、学習データをデータ空間 (Data Space) から 特徴空間 (Feature Space) へ写像することを考える.



特徴空間 (Feature Space) は、埋め込み空間 (Embedding Space)、表現空間 (Representation Space) などともいう.



一般に、高次元空間から低次元空間への写像を考える.

利点

利点としては、

  • 低次元における、データの操作を行うことにより、計算コストが少なくなる

  • 特徴空間への写像は、何らかの特徴が抽出され、まとまった・整理された (=Embedded) 情報となるように設定されるため 観測データ間の距離は、何らかの特徴の類似度とみなすことができる

Architecture

どのような考えの元、Data Space から Feature Space へ写像されているのか.

Siamese Architecture / 1993

特に Neural Netwrok が変換に利用されている場合は、Siamese (Neural) Network / シャム (ニューラル) ネットワークと呼ばれる.

「異なる」もしくは、「同じ」種類の 2 つのデータのペアをデータ空間から特徴空間に写像し、 特徴空間における距離を調整するように (異なる場合は遠くに、同じ場合は近くに写像するように、など) 写像関数 (関数のパラメータ) を決定する.



Triplet Architecture / Triplet Network / 2005

Siamese Architecture から改良し、Triplet / 3 つのデータを 1 セットとして考える.



損失 / Loss

アーキテクチャに合わせた Loss を設計する.

Distance Function / 距離関数

データ点とデータ点の距離 (離れ具合) の計算方法.

Euclid Distance / Lp Distance

Cosine Similarity

Regularization / 正則化

応用・工夫

学習における工夫

  • Cross-Batch Memory for Embedding Learning

Bayes

  • Bayesian Metric Learning for Robust Training of Deep Models under Noisy Labels

Cross Modal / Multi Modal

データセット

実装

  • Metric Learning / Distance Learning #実装編 #01

    • Architecture : Siamese Architecture
    • Loss : ConstrastiveLoss
    • Distance : Euclid Distance / CosineSimilarity
    • yhayato1320.hatenablog.com

  • Metric Learning / Distance Learning #実装編 #02

    • Task : Image Text Similarity
    • 特徴量抽出 : CLOOB
    • Architecture : Siamese Architecture
    • Loss : ConstrastiveLoss
    • Distance : Euclid Distance / CosineSimilarity
    • yhayato1320.hatenablog.com

  • Metric Learning / Distance Learning #実装編 #03

    • Task : Image Text Similarity
    • 特徴量抽出 : CLOOB
    • Architecture : Triplet Architecture
    • Loss : Triplet Loss
    • Distance : Euclid Distance
    • yhayato1320.hatenablog.com

参考

  • Spectral, Probabilistic, and Deep Metric Learning: Tutorial and Survey

    • [2022]
    • 2 Generalized Mahalanobis Distance Metric
    • 3 Spectral Metric Learning
    • 4 Probabilistic Metric Learning
    • 5 Deep Metric Learning
      • 5.5 Multi-Modal Deep Metric Learning
      • 5.7 Few-shot Metric Learning
    • arxiv.org

  • Deep Metric Learning: A Survey

    • [2019]
    • 2 Metric Learning
    • 3 Deep Metric Learning
    • www.mdpi.com

Web サイト

  • paperswithcode.com

    • paper with code の task のページ

  • Deep Metric Learning 入門

    • Siamese Architecture / Triplet Architecture
    • Triplet Architecture の問題点
    • Multi-Class N-Pair Loss / Ranked List Loss
    • qiita.com

  • ディープメトリックラーニングとは

  • Deep Metric Learning: a (Long) Survey

  • metric learning と関係のある分野まとめ

  • 深層距離学習(Deep Metric Learning)の基礎から紹介