【深層学習】SegMoE

• Diffusion Model #まとめ編
  • yhayato1320.hatenablog.com

Index

SegMoE

SegMoE は、テキストなどのプロンプトから画像を生成する.

• MoE
  • yhayato1320.hatenablog.com

特徴

1. 高い効率性: 複数のモデルを混合することで、処理速度を大幅に向上

2. 高い柔軟性: 様々な種類の画像を生成

3. 高い拡張性: 新しいモデルを簡単に追加することができる

アーキテクチャ

SegMoEは以下の3つの主要なコンポーネントで構成されている.

• Experts Model : 複数の異なるモデルで構成されてる
• router: 各トークンがどのエキスパートモデルによって処理されるかを決定する
• 混合器?: 各エキスパートモデルの出力を統合

参考

• SegMoE: Segmind Mixture of Diffusion Experts

  • huggingface.co
    
    

• SegMoE: Segmind Mixture of Diffusion Experts の概要

  • note.com