オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

トップ > データサイエンス > 【機械学習】Contrastive Loss

【機械学習】Contrastive Loss

データサイエンス データサイエンス-機械学習

Index

Contrastive Loss

Metric Learning / Distance Learning の損失として利用される.

「異なる」種類のデータ間の距離を大きく (遠く)、「同じ」種類のデータ間の距離を小さく (近く) なるように写像することを目的とした Loss.

Siamese Architecture に利用される.





Margin を用いた損失について











課題

正のペアの過剰な最適化

負のペアは、マージンを超えた時点で、最適化が終了する.

しかし、正のペアは、単一に埋め込まれるまで、最適化し続ける.

Triplet Architecture / Triplet Loss などが、改善案として利用される.

参考