オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

データサイエンス-深層学習

【深層学習】Generative Adversarial Network / GAN #まとめ編 #04

Index Index Multimodal データにおける GAN の利用 Stack GAN / 2016 Attn GAN / Attentional GAN / 2017 Style CLIP / 2021 CLIP GAN / 2022 Multimodal データにおける GAN の利用 GAN を用いた異なるモーダル間 (Multimodal) の変換. GAN #まとめ編 yhay…

【深層学習】Vision Transformer Tracker / ViTT

Index Index Vision Transformer Tracker / ViTT 実装 参考 Vision Transformer Tracker / ViTT 実装 github.com 参考 ViTT: Vision Transformer Tracker [2021] www.mdpi.com

【深層学習】Semi Supervised GAN

Index Index Semi Supervised GAN Discriminator 参考 Web サイト 動画 Semi Supervised GAN Semi Supervised Learning / 半教師あり学習を GAN に導入. 半教師あり学習 / Semi Supervised Learning yhayato1320.hatenablog.com GAN #まとめ編 yhayato1320.h…

【深層学習】Generative Adversarial Network / GAN #まとめ編 #03

Index Index 3D データにおける GAN の利用 GAN2Shape / 2020 Efficient Geometry-aware 3D / EG3D / 2021 GMPI / 2022 3D データにおける GAN の利用 3D データにおける GAN の利用をまとめる. GAN #まとめ編 yhayato1320.hatenablog.com GAN2Shape / 2020 …

【深層学習】Generative Adversarial Network / GAN #まとめ編 #02

Index Index 工夫・テクニック GAN Ensembling / 2021 Latent Optimization of Hairstyles via Orthogonalization / LOHO / 2021 工夫・テクニック GAN における工夫やテクニックを記す. GAN #まとめ編 yhayato1320.hatenablog.com GAN Ensembling / 2021 学…

【深層学習】Trans GAN

Index Index Trans GAN 実装 参考 Web サイト 動画 Trans GAN GAN yhayato1320.hatenablog.com 実装 github.com 公式 参考 TransGAN: Two Pure Transformers Can Make One Strong GAN, and That Can Scale Up [2021] 3 Technical Approach: A Journey Toward…

【時系列解析】Generative Adversarial Network / GAN #まとめ編

Index Index Generative Adversarial Network / GAN Tad GAN / 2020 参考 Web サイト Generative Adversarial Network / GAN 時系列解析に GAN を用いた手法をまとめる. 時系列解析 深層学習を用いた手法 yhayato1320.hatenablog.com GAN #まとめ編 yhayato1…

【深層学習】GPT-J

GPT #まとめ編 yhayato1320.hatenablog.com Index Index GPT-J Hugging Face 参考 Web GPT-J GPT-3 のモデルのひとつ. github.com github Hugging Face huggingface.co Hugging Face 参考 Web A 6 Billion Parameter Autoregressive Language Model 公式パラ…

【深層学習】グラフニューラルネットワーク

Index Index グラフニューラルネットワーク / Graph Neural Network / GNN グラフ畳み込み Graph Embedding 次元圧縮 グラフ構造を利用した手法 ニューラルネットワークを利用した手法 / GNN タスク 参考 書籍 Web グラフニューラルネットワーク / Graph Neu…

【深層学習】Image GPT / iGPT #実装編

Index Index Image GPT ソースコード 実装 実行環境 実行 参考 pre training sampling 参考 Image GPT GPT のアルゴリズムを Image へ適用させた. Image GPT #アルゴリズム編 yhayato1320.hatenablog.com ソースコード openai / image-gpt pre training 不可…

【深層学習】TransTrack

Index Index TransTrack Siamese Network を利用した Tracking by Detection の MOT Query-Key Mechanism を導入した SOT Query-Key Mechanism を MOT へ適用 Transformer (Attention) の導入 Method Architecture Object Detection 実装 参考 Web サイト Tr…

【深層学習】Large Language Model / LLM

Index Index Large Language Model / LLM アルゴリズム LaMDA / 2022 参考 Web サイト Large Language Model / LLM 自然言語処理 アルゴリズム #まとめ編 深層学習を用いたアルゴリズム yhayato1320.hatenablog.com アルゴリズム LaMDA / 2022 LaMDA: Langua…

【深層学習】Dual Matching Attention Networks / DMAN

Index Index Dual Matching Attention Networks / DMAN Algorithm Single Object Tracking Efficient Convolution Operators / ECO Cost-Sensitive Tracking Loss Data Association / Re-ID Tracking Rule 検出候補の選択 Attention Network Spatial Attenti…

【深層学習】異常検知 / Image Anomaly Detection #まとめ編 #01

Index Index 異常検知 / Image Anomaly Detection アルゴリズム Semi Orthogonal Embedding / 2021 VT-ADL KNN Base SPADE / 2020 PaDiM / 2020 Patch Core / 2021 GAN Base CBiGAN / 2020 Flow Base CFlow-AD / 2021 Fast Flow / 2021 異常検知 / Image Ano…

【深層学習】Fast Flow

Index Index Fast Flow 参考 Web サイト Fast Flow Flow を用いた、Anomaly Detection のタスクのアルゴリズム. Flow yhayato1320.hatenablog.com Image Anomaly Detection yhayato1320.hatenablog.com 参考 FastFlow: Unsupervised Anomaly Detection and L…

【深層学習】Patch Core

Index Index Patch Core Coreset-Reduced Patch-Feature Memory Bank 参考 Web サイト Patch Core Industrial Anomaly Detection のタスクのアルゴリズム. Image Anomaly Detection #まとめ編 yhayato1320.hatenablog.com Coreset-Reduced Patch-Feature Mem…

【深層学習】TabNet

Index Index TabNet 特徴量選択 / Feature Selection Global Method Instance Wise Soft Feature Selection / Sparse Feature Selection アルゴリズムの構成 Tree Based Learning / Decision Tree DNN の導入 教師なし事前学習 / Unsupervised Pre-Training …

【時系列解析】アルゴリズム #まとめ編 #02

Index Index 深層学習を用いた時系列解析 RNN LSTM Temporal Regularized Matrix Factorization / TRMF / 2016 Long Short-term Time-series Network / LSTNet / 2017 DeepAR / 2017 Deep State Space Model / DeepState / 2018 Deep Air Quality Forecastin…

【深層学習】TrackFormer #実装編

Index Index TrackFormer タスク データセット ライブラリ 実装 Library Dataset Model 実行の確認 結果 video データからの処理 TrackFormer TrackFormer #アルゴリズム編 yhayato1320.hatenablog.com タスク 物体追跡. 物体追跡 #まとめ編 Transformer yha…

【深層学習】Joint Learning of Detection and Embedding / JDE

Index Index Joint Learning of Detection and Embedding / JDE 参考 Joint Learning of Detection and Embedding / JDE 物体追跡 #まとめ編 yhayato1320.hatenablog.com 参考 Towards Real-Time Multi-Object Tracking [2019] arxiv.org

【深層学習】Skip Layer Connection #実装編 #02

Index Index Skip Layer Connection 前置き 実装 実行環境 Network Dataset Optimize 参考 Skip Layer Connection 深層学習における、ネットワークアーキテクチャの改善手法の一つ. Skip Layer Connection yhayato1320.hatenablog.com 前置き MLP で Skip La…

【深層学習】Poly Loss

Index Index Poly Loss 参考 Poly Loss 深層学習 #まとめ編 yhayato1320.hatenablog.com 参考 PolyLoss: A Polynomial Expansion Perspective of Classification Loss Functions [2022] arxiv.org

【深層学習】Metric Learning / Distance Learning #実装編 #03

Index Index Metric Learning / Distance Learning Library Dataset タスク アルゴリズム 実装 Library Install Load Dataset 学習モデルの準備 Loss の構築 学習の実行 Metric Learning / Distance Learning Metric Learning / Distance Learning #まとめ編…

【自然言語処理】アルゴリズム #まとめ編 #02

Index Index 自然言語処理におけるアルゴリズム RNN LSTM GRU Attention BERT / 2018 GPT / 2018 - ERNIE / 2019 MT-DNN / 2019 XLNet / 2019 ELECTRA / 2020 T5 / 2020 Turing-NLG / 2020 Meena / 2020 Blenderbot / 2020 MT-NLG / 2022 FLAN-T5 / 2022 テ…

【機械学習】Metric Learning / Distance Learning #まとめ編 #01

Index Index Metric Learning / Distance Learning 損失 / Loss NCA Loss / 2014 Contrastive Loss / 2005 Triplet Loss / Triplet Margin Loss / 2005 Ranking Loss / 2013 Lifted Structure Loss / 2015 Multi-Class N-Pair Loss / 2016 NTXent Loss / 201…

【深層学習】Metric Learning / Distance Learning #実装編 #02

Index Index Metric Learning / Distance Learning Library Dataset タスク アルゴリズム 実装 Library Install Load Dataset 学習モデルの準備 Loss の構築 学習の実行 Metric Learning / Distance Learning Metric Learning / Distance Learning #まとめ編…

【深層学習】Metric Learning / Distance Learning #実装編 #01

Index Index Metric Learning / Distance Learning Library 実装 Loss / Distance 実行の確認 Library Install 適用なデータを作成 適用なネットワークを用意 Loss 学習結果 参考 Metric Learning / Distance Learning Metric Learning / Distance Learning …

【深層学習】YOLO v7

Index Index YOLO v7 実装 参考 YOLO v7 物体検出 / Object Detection のアルゴリズムの一つ YOLO の手法の一つ. YOLO #まとめ編 yhayato1320.hatenablog.com YOLO v4 の研究チームが提案. YOLO v4 yhayato1320.hatenablog.com 実装 github.com 参考 YOLOv7:…

【深層学習】YOLO v6

Index Index YOLO v6 精度 実装 参考 Web サイト 動画 YOLO v6 物体検出 / Object Detection のアルゴリズムの一つ YOLO の手法の一つ. YOLO #まとめ編 yhayato1320.hatenablog.com アルゴリズムについての論文が見当たらず、精度だけ示している. 2022/09/07…

【深層学習】discrete Variational Auto Encoder / dVAE #まとめ編

Index Index discrete Variational Auto Encoder / dVAE dVAE / 2016 dVAE ++ / 2018 dVAE # / 2018 discrete Variational Auto Encoder / dVAE VAE #まとめ編 yhayato1320.hatenablog.com dVAE / 2016 Discrete Variational Autoencoders [2016] arxiv.org …