オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

データサイエンス-深層学習

【深層学習】DeepSORT #実装編 #02

Index Index DeepSORT とは タスク データセット ソースコード 実装 参考 DeepSORT とは DeepSORT #アルゴリズム編 yhayato1320.hatenablog.com タスク 物体追跡. 物体追跡 yhayato1320.hatenablog.com データセット mmtracking にて提供されている demo.mp4…

【マルチモーダル】ALIGN

Vision Language yhayato1320.hatenablog.com Index Index ALIGN VSE Dataset Architecture Image Encoder Text Encoder Pre Training Image to Text Classification Text to Image Classification 参考 Web サイト ALIGN A Large-scale ImaGe and Noisy-tex…

【深層学習】Strong SORT #アルゴリズム編

Simple Online and Realtime Tracking / SORT #まとめ編 yhayato1320.hatenablog.com Index Index Strong SORT Global Link AF Link LGM Tracker Detector と Feature Extractor の強化 BoT Feature Bank の改善 Exponential Moving Average / EMA Enhanced …

【マルチモーダル】Diffusion Model #まとめ編

Index Index アルゴリズム MM-Diffusion / 2022 Unified Discrete Denoising Diffusion / UniD3 / 2022 Tune-A-Video / 2022 MCM diffusion / 2023 priorMDM / 2023 Uni Diffuser / 2023 Unified Multi-Modal Latent Diffusion / UMM-Diffusion / 2023 Text2…

【動画像処理】Diffusion Model #まとめ編

Index Index アルゴリズム gen1 / 2023 Masked Enhanced Block U-Net / 2023 VideoFusion / 2023 NUWA-XL / 2023 MC Diffusion / 2023 タスク Video Editing Dreamix / 2023 Video-P2P / 2023 Edit-A-Video / 2023 FateZero / 2023 Pix2Video / 2023 vid2vid…

【深層学習】Growing NCA

生成モデル yhayato1320.hatenablog.com Index Index Cellular Automata / CA Growing NCA / 2020 Growing Isotropic Neural Cellular Automata Steerable Neural CA model / 2023 Cellular Automata / CA セル・オートマトン ja.wikipedia.org Growing NCA …

【深層学習】ClusterGAN

Index Index ClusterGAN 参考 Web サイト ClusterGAN GAN #まとめ編 yhayato1320.hatenablog.com 参考 ClusterGAN : Latent Space Clustering in Generative Adversarial Networks [2018] arxiv.org Web サイト 敵対的生成クラスタリングネットワーク(Cluste…

【音声解析】Diffusion Model #まとめ編

Index Index アルゴリズム Multi Source Diffusion Models / 2023 Noise2Music / 2023 ERNIE-Music / 2023 Adapting Diffusion / 2023 参考 アルゴリズム Diffusion Model を利用した音声解析の手法をまとめる. Diffusion Model #まとめ編 yhayato1320.haten…

【時系列解析】Diffusion Model #まとめ編

Index Index アルゴリズム SSSD / 2022 D3VAE / 2023 アルゴリズム Diffusion Model を利用した時系列解析の手法をまとめる. Diffusion Model #まとめ編 yhayato1320.hatenablog.com 時系列解析 #まとめ編 深層学習を利用した手法 yhayato1320.hatenablog.co…

【深層学習】Graph Convolutional Network / GCN #アルゴリズム編

Index Index GCN (Kipf & Welling) 改善方法 実装 参考 Web サイト GCN (Kipf & Welling) GCN の代表的な手法で、GCN と称される. Spectral GCN の手法のひとつ. Spectral Graph Convolution Network / Spectral GCN yhayato1320.hatenablog.com 改善方法 Ch…

【深層学習】Spatial Graph Convolutional Network / Spatial GCN

Index Index Spatial Graph Convolutional Network 応用手法 PATCHY-SAN DCNN Graph SAGE 参考 Web サイト Spatial Graph Convolutional Network Graph Convolutional Netwrok / GCN yhayato1320.hatenablog.com 応用手法 PATCHY-SAN DCNN Graph SAGE 参考 …

【深層学習】Spectral Graph Convolution Network / Spectral GCN

Index Index Spectral Graph Convolution Network / Spectral GCN フーリエ変換 変換の狙い グラフラプラシアン / Graph Laplacian 正規化グラフラプラシアン 利用場面 特異値分解 フーリエ変換との関連 グラフフーリエ変換 グラフ畳み込み演算 畳み込み情報…

【深層学習】Graph Convolutional Network / GCN

GNN yhayato1320.hatenablog.com Index Index Graph Convolutional Network / GCN グラフ畳み込み / Graph Convolution 深層学習で利用されている他のデータ形式との違い 畳み込みニューラルネットワーク / CNN CNN をグラフ構造に適用する際の課題 グラフ畳…

【深層学習】Message Passing Networks / MPN Track

Index Index Message Passing Networks / MPN Track 参考 Message Passing Networks / MPN Track Object Tracking #まとめ編 yhayato1320.hatenablog.com 参考 Learning a Neural Solver for Multiple Object Tracking [2019] arxiv.org

【深層学習】物体追跡 / Object Tracking #まとめ編 #04

Index Index 物体追跡 / Object Tracking とは アルゴリズム Tracking by Detection STRN / 2019 Message Passing Networks / MPN Track / 2019 LPC MOT / 2021 GM Tracker / 2021 End-to-End / JDT GNNs for Simultaneous Detection and Tracking / GSDT / …

【深層学習】RetinaNet

Index Index RetinaNet 参考 RetinaNet CNN を利用した Object Detection. Object Detection #まとめ編 yhayato1320.hatenablog.com 参考 Focal Loss for Dense Object Detection [2017] arxiv.org

【深層学習】Sub-center ArcFace

Index Index Sub-center ArcFace 参考 Sub-center ArcFace Face Detection yhayato1320.hatenablog.com 参考 Sub-center ArcFace: Boosting Face Recognition by Large-scale Noisy Web Faces [2020] https://www.ecva.net/papers/eccv_2020/papers_ECCV/pap…

【深層学習】ArcFace

Index Index ArcFace 参考 Web サイト ArcFace Face Detection yhayato1320.hatenablog.com 参考 ArcFace: Additive Angular Margin Loss for Deep Face Recognition [2018] arxiv.org Web サイト 【論文5分まとめ】ArcFace zenn.dev

【深層学習】Reinforcement Learning from Human Feedback / RLHF

Index Index Reinforcement Learning from Human Feedback / RLHF テクニック・工夫 ZO-RankSGD / 2023 画像への応用 研究 参考 Reinforcement Learning from Human Feedback / RLHF 人間によるフィードバックに基づいて、LLM を強化学習させる手法. LLM yha…

【動画像処理】畳み込みニューラルネットワーク #まとめ編

Index Index 畳み込みニューラルネットワーク 参考 畳み込みニューラルネットワーク CNN を用いた動画像処理についてまとめる. CNN yhayato1320.hatenablog.com 動画像処理 yhayato1320.hatenablog.com 参考 コンピュータービジョン最前線 Spring 2022 1 イ…

【深層学習】Slot Attention

Index Index Slot Attention 参考 Slot Attention Attention #まとめ編 画像処理 yhayato1320.hatenablog.com 参考 Object-Centric Learning with Slot Attention [2020] arxiv.org

【深層学習】BART

Index Index BART モデル 参考 Web サイト BART Transformer yhayato1320.hatenablog.com モデル ku-nlp/bart-large-japanese huggingface.co 参考 BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and C…

【深層学習】Small Data

深層学習 #まとめ編 yhayato1320.hatenablog.com Small Data 参考 A Survey of Learning on Small Data [2022] arxiv.org 動画 【Deep Learning研修(発展)】少データ・少ラベル学習 www.youtube.com

【深層学習】強化学習 / Reinforcement Learning

Index Index 強化学習 / Reinforcement Learning アルゴリズム Decision Transformer / 2022 Preference Transformer / 2023 transformer-based world model / TWM / 2023 強化学習 / Reinforcement Learning Transformer を利用した強化学習の手法をまとめ…

【深層学習】Decision Transformer

Index Index Decision Transformer 応用 Multi-Game Decision Transformers / 2022 ESPER / 2022 参考 Web サイト Decision Transformer オフライン強化学習の問題を言語モデリングようにして解くTransformer. 強化学習 Transformer を用いた手法 yhayato132…

【深層学習】Transfer Learning / 転移学習

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index Transfer Learning / 転移学習 メリット デメリット Knowledge Transfer Network / KTH / 2022 研究 Offsite-Tuning 参考 Web サイト Transfer Learning / 転移学習 「ある領域の学習」で得た知…

【深層学習】Chinchilla

Index Index Chinchilla 計算コストの削減 参考 参考 Chinchilla Chinchilla 700億のパラメーターを持つLLM. Transformer #まとめ編 yhayato1320.hatenablog.com 計算コストの削減 言語モデルの「パラメーターのサイズ」と「トレーニングに使用されるデータ…

【深層学習】Alignment / 協調性

Index Index Alignment / 協調性 Instruct GPT 参考 Alignment / 協調性 LLM は、様々なタスクに適応する能力を有している一方、生成される文章の品質や正確さは最適とは言えない. LLM yhayato1320.hatenablog.com そこで、LLM の「Alignment / 協調性」とい…

【深層学習】Flamingo

Index Index Flamingo 事前学習済みモデル LLM Architecture Vision Language Model / VLM 画像エンコーダー / Vision Encoder Perceiver Resampler Cross Attention 実装 参考 Web サイト Flamingo 1つの学習済みモデルだけで、 Language : テキスト Vision…

【深層学習】Sparse Graph Tracker / SGT

Index Index SGT Architecture Shared Detector Sparse Graph Tracker Tot-K Scored detections Sparse Graph Builder Graph Neural Network Message Passing Process Edge Classifier Node Classifier 精度評価 MOT HiEve 実装 参考 SGT GNN を用いた Objec…