オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

2023-02-02から1日間の記事一覧

【深層学習】モデルの性能評価・ベンチマーク

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index 評価 3DB / 2021 α-ReQ / 2022 When does dough become a bagel? / 2022 Benchopt / 2022 Pythae / 2022 OpenOOD / 2022 MAUVE Score / 2022 Complexity Gap score / CG-score / 2023 LAVA / 202…

【深層学習】攻撃 / Attack

深層学習 #まとめ編 yhayato1320.hatenablog.com Index Index モデルへの攻撃 Adversarial Example Reconstructing Training Data Backdorr / バックドア攻撃 Handcrafted Backdoors 参考 モデルへの攻撃 Adversarial Example Reconstructing Training Data …

【深層学習】平坦解 / Flat Minima

Index Index 平坦解 / Flat Minima 参考 Webサイト 平坦解 / Flat Minima 深層学習がうまくいく理由を説明する仮説のひとつ. 深層学習 #まとめ編 yhayato1320.hatenablog.com パラメータ空間で損失関数がとる曲面を考えたときに、「周辺が平坦な解」の汎化誤…

【深層学習】Scaling Law / スケーリング則

Index Index Scaling Law / スケーリング則 参考 Webサイト Scaling Law / スケーリング則 深層学習の学習済みモデルの精度についての研究. 深層学習 #まとめ編 yhayato1320.hatenablog.com 性能は、「訓練ステップ数」、「データセットサイズ」、「パラメー…

【深層学習】Grokking

Index Index Grokking 参考 Webサイト Grokking 深層学習における解明中の現象のひとつに Grokking (「腑に落ちる」) がある. 深層学習 #まとめ編 yhayato1320.hatenablog.com 過学習して、しばらく経ってから、急に汎化誤差が降り始める現象. 参考 Grokking…

【深層学習】TransTab

Index Index TransTab 参考 Web TransTab 学習とテストでテーブル構造が異なる場合でも、予測可能なアルゴリズム. 参考 TransTab: Learning Transferable Tabular Transformers Across Tables [2022] arxiv.org Web NeurIPS 2022 参加報告 前編 blog.recruit…

【テーブル】Transformer #まとめ編

Index Index Transformer アルゴリズム TransTab / 2022 Transformer Transformer #まとめ編 yhayato1320.hatenablog.com テーブルデータ解析 深層学習を用いた手法 yhayato1320.hatenablog.com アルゴリズム TransTab / 2022 TransTab yhayato1320.hatenabl…

【テーブル】アルゴリズム #まとめ編

Index Index 深層学習を用いたテーブルデータ解析 アルゴリズム VIME / 2016 TabNet / 2019 TabTransformer / 2020 SAINT / 2021 工夫・テクニック Transformer 参考 Web サイト 深層学習を用いたテーブルデータ解析 深層学習を用いたテーブルデータ解析のア…

【深層学習】Diffusion-LM

Index Index Diffusion-LM Plug and Play 参考 Web サイト Diffusion-LM 画像生成で利用される Diffusion Model を文章生成に応用. Diffusion Model #まとめ編 yhayato1320.hatenablog.com 文章生成 yhayato1320.hatenablog.com Fine-Tuning せずに、Pre-Tra…

【深層学習】CLIPDraw

Index Index CLIPDraw Architecture Synthesis Though Optimization 参考 Web サイト CLIPDraw テキストを入力として画像を生成する Text-to-Image のタスク. Text-to-Image yhayato1320.hatenablog.com CLIP を利用したアルゴリズム. CLIP #まとめ編 yhayat…