深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index 基盤モデル / Foundation Model テクニック・工夫 TaskMatrix.AI / 2023 研究 参考 Web サイト 基盤モデル / Foundation Model テクニック・工夫 TaskMatrix.AI / 2023 TaskMatrix.AI: Completin…

Index Index Image Editing アルゴリズム pix2pix-zero / 2023 In-N-Out / 2023 SeMani / 2023 HIVE / 2023 テクニック・工夫 Diffusion Model 精度評価 Delta Denoising Score / DDS 参考 Image Editing Style Transfer のように、画像を変換する. スタイル…

Index Index Neural Field アルゴリズム Neural Radiance Field / NeRF / 2020 - Spatial Functa / 2023 vMAP / 2023 polynomial neural fields / PNF / 2023 参考 Neural Field 深層学習 #まとめ編 yhayato1320.hatenablog.com アルゴリズム Neural Radianc…

Index Index Neural Radiance Field / NeRF アルゴリズム Neural Radiance Field / NeRF / 2020 SNeRF / 2022 NeROIC / 2022 EVA3D / 2022 Block-NeRF / 2022 LASER / 2023 RecolorNeRF / 2023 AV-NeRF / 2023 Incremental Neural Videos / INV / 2023 Blend…

機械翻訳 / Machine Translation yhayato1320.hatenablog.com Index Index アルゴリズム Dual Learning / 2016 No Language Left Behind / NLLB / 2022 BMT / 2023 CD ID MMT / 2023 DIPMT / 2023 参考 アルゴリズム Dual Learning / 2016 Dual Learning yha…

Index Index Chain-of-Thought プロンプト 改善内容 工夫・テクニック Automatic Reasoning and Tool-use / ART / 2023 画像への応用 参考 Web サイト Chain-of-Thought LLM におけるコンテキスト内学習 / In Context Learning での工夫. コンテキスト内学習…

Index Index Depth Estimation アルゴリズム DEPTH IN CONTRASTIVE LEARNING / 2023 ZoeDepth / 2023 工夫・テクニック Diffusion Model VI-Depth / 2023 動画像への応用 参考 Depth Estimation 画像処理のタスクの一つ. 画像処理 #まとめ編 yhayato1320.hat…

Index Index コンテキスト内学習 / In Context Learning プロンプト 改善手法 Chain-of-Thought / CoT / 2022 Zero-shot-CoT / 2022 semantically-unrelated label ICL / SUL-ICL / 2023 研究 参考 Web サイト コンテキスト内学習 / In Context Learning 推…

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index モデルの編集 / Model Editing post-hoc uncertainty learning 参考 Web サイト モデルの編集 / Model Editing post-hoc uncertainty learning Bayesian meta-modelbased uncertainty learning a…

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index 評価 3DB / 2021 α-ReQ / 2022 When does dough become a bagel? / 2022 Benchopt / 2022 Pythae / 2022 OpenOOD / 2022 MAUVE Score / 2022 Complexity Gap score / CG-score / 2023 LAVA / 202…

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index モデルへの攻撃 Adversarial Example Reconstructing Training Data Backdorr / バックドア攻撃 Handcrafted Backdoors 参考 モデルへの攻撃 Adversarial Example Reconstructing Training Data …

Index Index 平坦解 / Flat Minima 参考 Webサイト 平坦解 / Flat Minima 深層学習がうまくいく理由を説明する仮説のひとつ. 深層学習 #まとめ編 yhayato1320.hatenablog.com パラメータ空間で損失関数がとる曲面を考えたときに、「周辺が平坦な解」の汎化誤…

Index Index Scaling Law / スケーリング則 参考 Webサイト Scaling Law / スケーリング則 深層学習の学習済みモデルの精度についての研究. 深層学習 #まとめ編 yhayato1320.hatenablog.com 性能は、「訓練ステップ数」、「データセットサイズ」、「パラメー…

Index Index Grokking 参考 Webサイト Grokking 深層学習における解明中の現象のひとつに Grokking (「腑に落ちる」) がある. 深層学習 #まとめ編 yhayato1320.hatenablog.com 過学習して、しばらく経ってから、急に汎化誤差が降り始める現象. 参考 Grokking…

Index Index TransTab 参考 Web TransTab 学習とテストでテーブル構造が異なる場合でも、予測可能なアルゴリズム. 参考 TransTab: Learning Transferable Tabular Transformers Across Tables [2022] arxiv.org Web NeurIPS 2022 参加報告 前編 blog.recruit…

Index Index Transformer アルゴリズム TransTab / 2022 Transformer Transformer #まとめ編 yhayato1320.hatenablog.com テーブルデータ解析 深層学習を用いた手法 yhayato1320.hatenablog.com アルゴリズム TransTab / 2022 TransTab yhayato1320.hatenabl…

Index Index 深層学習を用いたテーブルデータ解析 アルゴリズム VIME / 2016 TabNet / 2019 TabTransformer / 2020 SAINT / 2021 工夫・テクニック Transformer 参考 Web サイト 深層学習を用いたテーブルデータ解析 深層学習を用いたテーブルデータ解析のア…

Index Index Diffusion-LM Plug and Play 参考 Web サイト Diffusion-LM 画像生成で利用される Diffusion Model を文章生成に応用. Diffusion Model #まとめ編 yhayato1320.hatenablog.com 文章生成 yhayato1320.hatenablog.com Fine-Tuning せずに、Pre-Tra…

Index Index CLIPDraw Architecture Synthesis Though Optimization 参考 Web サイト CLIPDraw テキストを入力として画像を生成する Text-to-Image のタスク. Text-to-Image yhayato1320.hatenablog.com CLIP を利用したアルゴリズム. CLIP #まとめ編 yhayat…

Index Index FRePo Dataset Distillation / データセット蒸留 Algorithm 対応1 対応2 参考 Web サイト FRePo Dataset Distillation の手法のひとつ. Dataset Distillation #まとめ編 yhayato1320.hatenablog.com Dataset Distillation / データセット蒸留 Da…

Index Index Person of Interest / POI 参考 Person of Interest / POI CNN を用いた Object Tracking. Object Tracking #まとめ編 yhayato1320.hatenablog.com 参考 POI: Multiple Object Tracking with High Performance Detection and Appearance Feature…

Index Index Weight Initialization アルゴリズム ZerO / 2021 参考 Weight Initialization 深層学習における重みパラメータの最初の決定方法. 深層学習 #まとめ編 yhayato1320.hatenablog.com アルゴリズム ZerO / 2021 ZerO Initialization: Initializing …

Index Index Hungry Hungry Hippo / H3 参考 Hungry Hungry Hippo / H3 状態空間モデル / State Space Model / SSM yhayato1320.hatenablog.com Attention 時系列解析 yhayato1320.hatenablog.com 参考 Hungry Hungry Hippos: Towards Language Modeling wit…

Index Index Attention アルゴリズム Dual-Stage Attention-Base RNN / DA RNN / 2017 Transformer / 2017 - TSDFNet / 2022 H3 / 2022 Attention 時系列解析における Attention を用いた手法をまとめる. 時系列解析 #まとめ編 深層学習を用いた手法 yhayato…

Index Index スタイル変換 / Style Transfer Imagic / 2022 InstructPix2Pix / 2022 StyO / 2023 Image Editing スタイル変換 / Style Transfer Diffusion Model を利用した、スタイル変換 / Style Transfer のアルゴリズムをまとめる. Diffusion Model yhay…

Index Index InstructPix2Pix Method 学習画像の生成 Text の生成 画像の生成 参考 InstructPix2Pix Conditional Diffusion Model. Diffusion Model yhayato1320.hatenablog.com Conditional の部分に pix2pix を想起か？ pix2pix yhayato1320.hatenablog.co…

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index Model Compression Pruning / 枝刈り Quantize / 量子化 Distillation / 蒸留 その他 OTOV2 / 2023 参考 Web サイト Model Compression Pruning / 枝刈り A Fast Post-Training Pruning Framewor…

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index Dataset Distillation / データセット蒸留 FRePo / 2022 PRO2 / 2023 参考 Dataset Distillation / データセット蒸留 Dataset Distillation / データセット蒸留は、オリジナルとなる大規模なデー…

Index Index LEGO-Net タスク Indoor Scene Synthesis Training Dataset 3D-FRONT dataset 参考 LEGO-Net LEarning reGular rearrangement of Objects in messy roosm タスク Indoor Scene Synthesis 室内シーン内の物体のレイアウトを作成するタスク. 2D or…

Index Index アルゴリズム OSCAR / 2020 Perceiver / 2021 WuDao 2.0 / 2021 MultiModality-to-MultiModality Multitask Mega-transformer / M6 / 2021 VATT / 2021 DiT / 2022 EVA / 2022 Zorro / 2023 MAGVLT / 2023 VioLA / 2023 参考 Web サイト アルゴ…