【深層学習】Denoising Diffusion Probabilistic Model / DDPM

• Diffusion Model #まとめ編
  • yhayato1320.hatenablog.com

Index

Denoising Diffusion Probabilistic Model / DDPM

DPM の改良したアルゴリズム.

後発の多くの研究のベースラインとして採用されている.

Forward Process

DPM と同様.

Reverse Process

DPM と同様.

Denoising Score Matching

を予測するように、 を学習する.

Loss

DDPM における学習の目的は、Reverse Process におけるノイズ画像 から 画像 を生成する確率分布の尤度の最大化.

Simplification

(係数を無視した) 以下の Loss を使うと、学習がよりうまく行うことができる.

参考

• Denoising Diffusion Probabilistic Models
  • [2020]
  • Abstract
  • 1 Introduction
  • 2 Background
  • 3 Diffusion models and denoising autoencoders
    • 3.1 Forward process
    • 3.2 Reverse process
    • 3.3 Data scaling, reverse process decoder
    • 3.4 Simplified training objective
  • arxiv.org

書籍

• 拡散モデル
  • 2 拡散モデル
    • 2.1 スコアベースモデルとデノイジング確率拡散モデル
    • 2.3 デノイジング拡散確率モデル
      • 2.3.1 拡散過程と逆拡散過程からなる潜在変数モデル
      • 2.3.2 DDPM の学習

  • 拡散モデル　データ生成技術の数理

Web サイト

• Stable Diffusion の仕組みを理解する

  • tech-blog.abeja.asia
    
    

• Module 18a - Denoising Diffusion Probabilistic Models

  • dataflowr.github.io
    
    

• 【論文解説】Diffusion Modelを理解する

  • data-analytics.fun