オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

データサイエンス-マルチモーダル

【マルチモーダル】ALIGN

Vision Language yhayato1320.hatenablog.com Index Index ALIGN VSE Dataset Architecture Image Encoder Text Encoder Pre Training Image to Text Classification Text to Image Classification 参考 Web サイト ALIGN A Large-scale ImaGe and Noisy-tex…

【マルチモーダル】Diffusion Model #まとめ編

Index Index アルゴリズム MM-Diffusion / 2022 Unified Discrete Denoising Diffusion / UniD3 / 2022 Tune-A-Video / 2022 MCM diffusion / 2023 priorMDM / 2023 Uni Diffuser / 2023 Unified Multi-Modal Latent Diffusion / UMM-Diffusion / 2023 Text2…

【深層学習】Flamingo

Index Index Flamingo 事前学習済みモデル LLM Architecture Vision Language Model / VLM 画像エンコーダー / Vision Encoder Perceiver Resampler Cross Attention 実装 参考 Web サイト Flamingo 1つの学習済みモデルだけで、 Language : テキスト Vision…

【データセット】マルチモーダルデータ #まとめ編

データセット #まとめ編 yhayato1320.hatenablog.com Index Index マルチモーダルデータ Conceptual Captions / 2018 WebImageText / 2021 LAION-5B / 2022 LAION-115M / 2022 Outdoor Multimodal Dataset / OMMO Dataset / 2023 WHOOPS! / 2023 CelebV-Text…

【マルチモーダル】Transformer #まとめ編

Index Index アルゴリズム OSCAR / 2020 Perceiver / 2021 WuDao 2.0 / 2021 MultiModality-to-MultiModality Multitask Mega-transformer / M6 / 2021 VATT / 2021 DiT / 2022 EVA / 2022 Zorro / 2023 MAGVLT / 2023 VioLA / 2023 参考 Web サイト アルゴ…

【マルチモーダル】生成モデル / Generative Mode #まとめ編

Index Index 生成モデル 参考 生成モデル Vision Language における生成モデルをまとめる. Vision Language yhayato1320.hatenablog.com 生成モデル yhayato1320.hatenablog.com 参考 Google Research, 2022 & Beyond: Language, Vision and Generative Mode…

【マルチモーダル】EnvEdit

Index Index EnvEdit 参考 EnvEdit Vision-Language Navigationに利用するために、Style Transfer を利用した Data Augmentation. Vision-Language Navigation yhayato1320.hatenablog.com Data Augmentation マルチモーダルにおける Data Augmentation yhay…

【マルチモーダル】タスク一覧 #まとめ編

Index Index マルチモーダルなタスク Vision Language Text to 3D Point-E / 2022 DreamFusion / 2022 Data2text Generation Chart-to-Text / 2022 Text to Video Audio to Video Talking Face Generation Text-to-Motion MDM / 2022 Document Analysis Stru…

【マルチモーダル】データ拡張 / Data Augmentation #まとめ編

Index Index データ拡張 / Data Augmentation マルチモーダルにおける Data Augmentation MixGen / 2022 EnvEdit / 2022 VLMixer / 2022 Learning Multimodal Data Augmentation / LeMDA / 2023 データ拡張 / Data Augmentation データ拡張 / Data Augmentat…

【深層学習】Real-time Audio-spatial Decomposed NeRF / RAD-NeRF

Talking Face Generation yhayato1320.hatenablog.com Neural Radiance Field / NeRF yhayato1320.hatenablog.com Index Index Real-time Audio-spatial Decomposed NeRF / RAD-NeRF 参考 Real-time Audio-spatial Decomposed NeRF / RAD-NeRF 参考 Real-tim…

【マルチモーダル】Talking Face Generation

マルチモーダル #まとめ編 yhayato1320.hatenablog.com Audio #まとめ編 yhayato1320.hatenablog.com Index Index Talking Face Generation アルゴリズム Real-time Audio-spatial Decomposed NeRF / RAD-NeRF / 202 参考 Talking Face Generation 音声情報…

【マルチモーダル】Text to Video

Index Index Text to Video アルゴリズム Make-A-Video / 2022 Video Generation Beyond a Single Clip / 2023 参考 Text to Video 動画像処理 #まとめ編 タスク yhayato1320.hatenablog.com マルチモーダル #まとめ編 タスク yhayato1320.hatenablog.com ア…

【深層学習】X-CLIP

Index Index X-CLIP 参考 X-CLIP 動画像処理 #まとめ編 yhayato1320.hatenablog.com CLIP #まとめ編 yhayato1320.hatenablog.com 参考 Expanding Language-Image Pretrained Models for General Video Recognition [2022] arxiv.org

【深層学習】Gato

Index Index Gato 参考 Web サイト Gato 強化学習を利用したマルチモーダルなアルゴリズム. 強化学習 / Reinforcement Learning yhayato1320.hatenablog.com マルチモーダル yhayato1320.hatenablog.com 2022年5月に DeepMind が発表したGatoは、テキストや…

【深層学習】Attn GAN / Attentional GAN

Text to Image #まとめ編 yhayato1320.hatenablog.com GAN #まとめ編 マルチモーダルな変換 yhayato1320.hatenablog.com Index Index 参考 参考 AttnGAN: Fine-Grained Text to Image Generation with Attentional Generative Adversarial Networks [2017] a…

【深層学習】Stack GAN

Text to Image #まとめ編 yhayato1320.hatenablog.com GAN #まとめ編 マルチモーダルな変換 yhayato1320.hatenablog.com Index Index 参考 Web サイト 参考 StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Network…

【深層学習】GAN-INT-CLS

Text to Image #まとめ編 yhayato1320.hatenablog.com GAN #まとめ編 マルチモーダルな変換 yhayato1320.hatenablog.com Index Index 参考 参考 Generative Adversarial Text to Image Synthesis [2016] arxiv.org

【深層学習】Generative Adversarial Network / GAN #まとめ編 #04

Index Index Multimodal データにおける GAN の利用 GAN-INT-CLS / 2016 Stack GAN / 2016 Attn GAN / Attentional GAN / 2017 Style CLIP / 2021 CLIP GAN / 2022 Multimodal データにおける GAN の利用 GAN を用いた異なるモーダル間 (Multimodal) の変換.…

【マルチモーダル】Dual Attention Networks / DANs

Index Index Dual Attention Networks / DANs 参考 Dual Attention Networks / DANs VQA yhayato1320.hatenablog.com 参考 Dual Attention Networks for Multimodal Reasoning and Matching [2016] arxiv.org

【マルチモーダル】Order Embedding

Index Index Order Embedding 参考 Web サイト Order Embedding VSE #まとめ編 yhayato1320.hatenablog.com 参考 Order-Embeddings of Images and Language [2015] arxiv.org Web サイト 論文読み.2 Order-Embeddings of Images And Language (ICLR 2016) qi…

【マルチモーダル】Image Caption

Index Index Image Caption アルゴリズム BRNN CPTR / 2021 Re-ViLM AEC / Affective Explanation Captioning Affection / 2022 参考 Web サイト Image Caption 画像を入力とし、画像を説明するテキストを出力する. マルチモーダル #まとめ編 Vision-Languag…

【マルチモーダル】VSE++

Index Index VSE++ 損失関数 工夫 ソースコード 参考 Web サイト VSE++ VSE は、Image Caption と Visual Question Answering などで利用される考え. VSE #まとめ編 yhayato1320.hatenablog.com Image Caption yhayato1320.hatenablog.com VQA yhayato1320.h…

【マルチモーダル】Vision-Language Navigation

Index Index Vision-Language Navigation アルゴリズム OVRL-V2 / 2023 テクニック・工夫 EnvEdit / 2022 参考 Web サイト Vision-Language Navigation 3D 環境内のエージェントに対して、テキストで指示をすることで、行動させるマルチモーダルなタスク. マ…

【マルチモーダル】Vision-Language #まとめ編

Index Index Vision-Language 一方向型と双方向型 アルゴリズム CLIP / 2021 A Large-scale ImaGe and Noisy-text embedding / ALIGN / 2021 Uni-Perceiver / 2021 Uni-Perceiver-MoE / 2022 Uni-Perceiver v2 / 2022 Unified-IO / 2022 Flamingo / 2022 Tex…

【マルチモーダル】Image Text Similarity

Index Index Image Text Similarity 表現学習 / Representation Learning Metric Learning / Distance Learning アルゴリズム Embedding and Similarity Networks / 2017 CLIP / 2021 CLOOB / 2021 工夫・テクニック Visual Semantic Embedding / VSE 実装 …

【マルチモーダル】Optical Character Recognition / OCR

Index Index Optical Character Recognition / OCR アルゴリズムの構造 Text Detection TextSnake / 2018 Pixel Aggregation Network / PANet / 2019 Progressive Scale Expansion Network / PSENet / 2019 Differentiable Binarization Net / DBNet / 2019 …

【マルチモーダル】Text to Image #まとめ編 #00

Index Index Text to Image アルゴリズム Deep Recurrent Attention Writer / DRAW / 2015 OSCAR / 2020 Dream Fields / 2021 Style CLIP / 2021 DALL-E / 2021 GLIDE / 2021 CLIPDraw / 2021 Imagen / 2022 Parti / 2022 Make-A-Scene / 2022 Textual Inver…

【マルチモーダル】DALL-E-2

Index Index 参考 Web サイト 参考 Hierarchical Text-Conditional Image Generation with CLIP Latents [2022 OpenAI] 発表論文 arxiv.org A very preliminary analysis of DALL-E 2 [2022] arxiv.org Web サイト 【論文メモ】DALL·E 2 zenn.dev オープンAI…

【マルチモーダル】DALL-E #アルゴリズム編

Index Index DALL-E VAE Transformer 変数定義 目的 2 段階の学習 1 Step Encoder Decoder 最適化 2 Step Text Image Text と Image の結合 損失 学習における工夫 Mixed-Precision Training Distributed Optimization 画像の生成 参考 Web サイト DALL-E Te…

【マルチモーダル】DALL-E #まとめ編

Index Index DALL-E / 2021 DALL-E- 2 / 2022 DALL-E mini / 2022 VALL-E / 2023 参考 書籍 DALL-E / 2021 DALL-E #アルゴリズム編 yhayato1320.hatenablog.com DALL-E- 2 / 2022 DALL-E-2 yhayato1320.hatenablog.com DALL-E mini / 2022 DALL-E Mini: Powe…