オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

2025-01-01から1年間の記事一覧

【機械学習】Gini 係数 / Gini 不純度 / Gini Impurity

Index Index Gini 係数 / Gini 不純度 / Gini Impurity Gini 係数 / Gini 不純度 / Gini Impurity 主に決定木で利用される Loss Function. Loss Function yhayato1320.hatenablog.com 決定木 yhayato1320.hatenablog.com

【機械学習】Feature Importance

Feature Selection yhayato1320.hatenablog.com Index Index Feature Importance Gini 係数 / Gini 不純度 / Gini Impurity Information Gain 参考 Web サイト Feature Importance ある特徴量の利用の有無が、決定木のおいて重要な指標の変化にどの程度寄与…

【機械学習】Feature Selection

機械学習 #まとめ編 yhayato1320.hatenablog.com Index Index Feature Selection Naive Bayes Classifier における Feature Selection アプローチ 決定木 における Feature Importance Feature Importance SHAP 参考 Web サイト Feature Selection Naive Bay…

【機械学習】XGBoost

Index Index XGBoost アルゴリズムについて 参考 Web サイト XGBoost アンサンブル学習 / Ensemble Learning の手法の一つ. アンサンブル学習 / Ensemble Learning yhayato1320.hatenablog.com その中でもブースティング / Boosting を利用した手法. ブース…

【機械学習】Imbalanced Data

Index Index Imbalanced Data DeepLearning における手法 ラベル分布平滑化 Label Distribution Smoothing / LDS 特徴分布平滑化 Feature distribution smoothing / FDS Imbalanced Data 機械学習 #まとめ編 yhayato1320.hatenablog.com DeepLearning におけ…

【深層学習】ハイパーパラメータチューニング / Hyper Parameter Turning #まとめ編 #01

Index Index ハイパーパラメータチューニング / Hyper Parameter Turning μTransfer / 2022 OptFormer / 2022 ハイパーパラメータチューニング / Hyper Parameter Turning Transformer における手法について. Transformer yhayato1320.hatenablog.com 深層学…

【深層学習】ハイパーパラメータチューニング / Hyper Parameter Turning #まとめ編 #00

Index Index ハイパーパラメータチューニング / Hyper Parameter Turning Gradient Descent The Ultimate Optimizer / 2022 Transformer における手法 ハイパーパラメータチューニング / Hyper Parameter Turning 深層学習特有のハイパーパラメータチューニ…

【画像処理】教師なし学習 / Unsupervised Learning #まとめ編 #01

Index Index 画像処理における教師なし学習の手法 Segmentation Self-supervised Transformer with Energy-based Graph Optimization / STEGO / 2022 画像処理における教師なし学習の手法 教師なし学習 / Unsupervised Learning yhayato1320.hatenablog.com …

【画像処理】LoG フィルタ / Laplacian of Gaussian Filter

空間フィルタリング yhayato1320.hatenablog.com Index Index LoG フィルタ / Laplacian of Gaussian Filter LoG フィルタ / Laplacian of Gaussian Filter ただし、ラプラシアンは、本質的に微分を繰り返すことになるため、かなりノイズを強調してしまう. …

【画像処理】ラプラシアンフィルタ / Laplacian Filter

空間フィルタリング yhayato1320.hatenablog.com Index Index ラプラシアンフィルタ / Laplacian Filter ラプラシアンフィルタ / Laplacian Filter さらに、2次元微分の値を用いてラプラシアンを求めることができる. 一般に、関数 のラプラシアンは、以下で…

【画像処理】ソーベルフィルタ / Sobel Filter

空間フィルタリング yhayato1320.hatenablog.com Index Index ソーベルフィルタ / Sobel Filter ソーベルフィルタ / Sobel Filter 注目画素を重要視するフィルタ.

【画像処理】プリューウィットフィルタ / Prewitt Filter

空間フィルタリング yhayato1320.hatenablog.com Index Index プリューウィットフィルタ / Prewitt Filter プリューウィットフィルタ / Prewitt Filter 上のカーネルでは、ノイズに弱いため、注目画素の周辺の画素の微分も計算する.

【画像処理】微分フィルタ / Derivative Filter

空間フィルタリング yhayato1320.hatenablog.com Index Index 画像の 1 次微分 1 次微分のカーネル 画像の 1 次微分 1 次微分のカーネル

【マルチモーダル】Attention #まとめ編

Index Index Multi Modal における Attention アルゴリズム Multimodal Bottleneck Transformer / MBT / 2021 Multi Modal における Attention Multi Modal yhayato1320.hatenablog.com Attention yhayato1320.hatenablog.com アルゴリズム Multimodal Bottl…

【深層学習】BAS-Net

Index Index BAS-Net Architecture Predict Module Multi Scale Residual Refinement Module / RRM Hybrid Loss 参考 BAS-Net SOD yhayato1320.hatenablog.com Predict-Refine Architecture と Hybrid Loss が改善ポイント. Architecture Boundary-Aware Seg…

【深層学習】Dilated Convolution

CNN yhayato1320.hatenablog.com Index Index Dilated Convolution D3Net / 2021 Dilated Convolution Multi-Scale Context Aggregation by Dilated Convolutions [2015] arxiv.org paperswithcode.com paper with code の method のページ 膨張畳み込み層 (…

【深層学習】GoogleNet / InceptionNet

CNN yhayato1320.hatenablog.com Index Index GoogleNet / InceptionNet InceptionNet v2 / 2015 InceptionNet v3 / 2015 InceptionNet v4 / Inception-ResNet / 2016 InceptionNeXt / 2023 GoogleNet / InceptionNet Inception Module. Going Deeper with C…

【深層学習】U2-Net

Index Index U2-Net Residual U-block Architecture 参考 U2-Net SOD yhayato1320.hatenablog.com Residual U-block U2-Net: Going Deeper with Nested U-Structure for Salient Object Detection VGG、ResNet、DenseNetなどのCNNデザインで頻繁に使用される…

【画像処理】Salient Object Detection / SOD

Index Index Salient Object Detection / SOD アルゴリズム Box の検出を前提として、ボックスに対して分類を行う (主に対象は人間) VIP / 2015 POINT / 2017 Box の検出も同時に行い、出力がセグメンテーション U2-Net / 2020 参考 Salient Object Detectio…

【深層学習】POINT

Index Index POINT Method 予測関数 Feature Representation Module Relation Module Relation Submodule Person-Person Interaction Module Event-Person Interaction Module Classification Module 参考 POINT deep imPOrtance relatIon NeTwork / POINT …

【深層学習】モデルの編集 / Model Editing #まとめ編 #01

Index Index モデルの編集 / Model Editing 参考 AI 検索 モデルの編集 / Model Editing Object Detection における Model Editing について記す. モデルの編集 / Model Editing yhayato1320.hatenablog.com Object Detection yhayato1320.hatenablog.com 参…

【機械学習】教師なし学習 / Unsupervised Learning #まとめ編 #00

【機械学習】教師あり学習 / 教師なし学習 / 強化学習 yhayato1320.hatenablog.com Index Index 教師なし学習 / Unsupervised Learning Method クラスタリング / Clustering 自己教師あり学習 / Self 各データ分野における手法 画像処理 教師なし学習 / Unsu…

【深層学習】SDXL

Index Index SDXL 改善点 UNetバックボーンの大規模化 参考 SDXL 改善点 UNetバックボーンの大規模化 以前の Stable Diffusion モデルと比較して3倍大きい2.6BパラメータのUNetバックボーンを採用. Stable Diffusion yhayato1320.hatenablog.com UNet yhayat…

【深層学習】Connectionist Temporal Classification Loss / CTC Loss

Index Index Connectionist Temporal Classification Loss / CTC Loss 参考 Web サイト AI 検索 Connectionist Temporal Classification Loss / CTC Loss リカレントニューラルネットワーク yhayato1320.hatenablog.com 損失関数 yhayato1320.hatenablog.com…

【深層学習】TranSDet

Index Index TranSDet Transfer Learning Dynamic Resolution Adaptations 参考 TranSDet Transfer Learning 物体検出におけるTrasfer Learning yhayato1320.hatenablog.com Transfer Learning TranSDet: Toward Effective Transfer Learning for Small-Obje…

【深層学習】Transfer Learning / 転移学習 #まとめ編 #01

Index Index Transfer Learning / 転移学習 Feature-Based Approach / 特徴抽出型 ドメイン適応 アルゴリズム YOLO v2 / 2016 Domain Adaptive Faster R-CNN / 2018 Few-Shot Object Detection / 2020 TranSDet / 2023 参考 Transfer Learning / 転移学習 物…

【深層学習】ModelScopeT2V

Index Index ModelScopeT2V Architecture VQGAN Text Encoder Denoising UNet 参考 ModelScopeT2V ModelScopeT2V は、与えられたテキスト の意味に沿った動画 を出力する潜在動画拡散モデル / Latent Video Diffusion Model. Latent Video Diffusion Model y…

【深層学習】LoRA

LoRA LLMの微調整において重みの差分のみを訓練対象とし、 差分重みを低ランク分解することで訓練パラメータ数を削減する方法であるLoRAを提案. 精度低下なしで時空間計算量とチェックポイントのサイズを削減できる. Fine Turning yhayato1320.hatenablog.co…

【深層学習】AnimateDiff

Index Index AnimateDiff 要素技術 ドメインアダプター / Domain Adapter モーションモジュール / Motion Module MotionLoRA 参考 AnimateDiff AnimateDiff: Animate Your Personalized Text-to-Image Diffusion Models without Specific Tuning Stable Diff…

【深層学習】RT-DETR v2

Index Index RT-DETR v2 RT-DETR との違い 精度 参考 RT-DETR v2 RT-DETR yhayato1320.hatenablog.com RT-DETR との違い Decoder に Deformable Attention Module を追加. Deformable DETR yhayato1320.hatenablog.com 精度 github of RT-DETR: DETRs Beat Y…