オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

2024-01-01から1年間の記事一覧

【深層学習】MobileNet #まとめ編

Index Index MobileNet V1 / 2017 V2 / 2018 V3 / 2019 V4 / 2024 MobileNet Google が研究している実行効率におけるCNNネットワークアーキテクチャの改善手法. CNN #まとめ編 yhayato1320.hatenablog.com V1 / 2017 MobileNet V1 yhayato1320.hatenablog.co…

【深層学習】Xception

Index Index Xception 参考 Web サイト Xception CNN #まとめ編 yhayato1320.hatenablog.com 参考 Xception: Deep Learning with Depthwise Separable Convolutions [2016] arxiv.org Web サイト 【論文読み】Xception : Deep Learning with Depthwise Separ…

【深層学習】RepVGG

Index Index RepVGG Architecture 参考 Web サイト RepVGG VGG の改善. VGG yhayato1320.hatenablog.com Architecture 参考 RepVGG: Making VGG-style ConvNets Great Again [2021] 1 Introduction VGG / Inception / ResNet / DenseNet Xception / MobileNe…

【深層学習】DyHead

Index Index DyHead 3 つの awareness Architecture 参考 Web サイト DyHead Object Detection #まとめ編 Attention を用いた手法 yhayato1320.hatenablog.com 3 つの awareness Scale-awareness Spatial-awareness Task-awareness Architecture 参考 Dynami…

【機械学習】Smooth L1 Loss

Index Index Smooth L1 Loss 参考 Smooth L1 Loss 機械学習などに利用される誤差関数 / 損失関数のひとつ. 誤差関数 / 損失関数 #まとめ編 yhayato1320.hatenablog.com 物体検出のFast R-CNNに利用されている. Fast R-CNN yhayato1320.hatenablog.com 参考 …

【機械学習】Huber損失 / Huber Loss

Index Index Huber損失 / Huber Loss 参考 Huber損失 / Huber Loss 機械学習などに利用される誤差関数 / 損失関数のひとつ. 誤差関数 / 損失関数 #まとめ編 yhayato1320.hatenablog.com 参考 [損失関数]Huber損失(Huber Loss)/Smooth L1 Lossとは? atm…

【機械学習】二乗平均平方根誤差 / Root Mean Squared Error / RMSE

Index Index 二乗平均平方根誤差 / Root Mean Squared Error / RMSE 参考 二乗平均平方根誤差 / Root Mean Squared Error / RMSE 機械学習などに利用される誤差関数 / 損失関数のひとつ. 誤差関数 / 損失関数 #まとめ編 yhayato1320.hatenablog.com 参考 【…

【機械学習】平均絶対誤差 / Mean Absolute Error / MAE / L1損失 / L1 Loss

Index Index 平均絶対誤差 / Mean Absolute Error / MAE / L1損失 / L1 Loss 参考 平均絶対誤差 / Mean Absolute Error / MAE / L1損失 / L1 Loss 機械学習などに利用される誤差関数 / 損失関数のひとつ. 誤差関数 / 損失関数 #まとめ編 yhayato1320.hatenab…

【深層学習】DINO

DINO #まとめ編 yhayato1320.hatenablog.com Index Index DINO Architecture 工夫点 Contrastive DeNoising Training Query Selection Look Forward Twice 参考 Web サイト DINO DETR の改善手法. DETR yhayato1320.hatenablog.com DETR with Improved deNoi…

【深層学習】GLIP v2

Index Index GLIP v2 Architecture Pre Training Loss Intra-Image Region-Word Alignment Loss Inter-Image Region-Word Contrastive Loss Label Propagation 参考 Web サイト GLIP v2 GLIP の改善手法. GLIP yhayato1320.hatenablog.com Phrase Grounding …

【深層学習】ViLD

Index Index ViLD Architecture Method Image Embedding Text Embedding Region Embedding Train / Loss Text Embedding と Region Embedding の関係 Image Embedding と Region Embedding の関係 Total Loss 参考 Web サイト ViLD Vision and Language know…

【深層学習】D3VAE

Index Index D3VAE 参考 Web サイト D3VAE VAE #まとめ編 yhayato1320.hatenablog.com Diffusion Model #まとめ編 yhayato1320.hatenablog.com 参考 Generative Time Series Forecasting with Diffusion, Denoise, and Disentanglement [2023] arxiv.org Web…

【データセット】CLEVR

Index Index CLEVR 参考 Web サイト 動画 CLEVR Visual Question Answering のデータセット. データセット #まとめ編 yhayato1320.hatenablog.com 参考 CLEVR: A Diagnostic Dataset for Compositional Language and Elementary Visual Reasoning [2016] arx…

【深層学習】Grounding DINO

Index Index Grounding DINO 参考 Web サイト Grounding DINO GLIP + DINO DINO #まとめ編 yhayato1320.hatenablog.com 参考 Grounding DINO: Marrying DINO with Grounded Pre-Training for Open-Set Object Detection [2023] arxiv.org paperswithcode.com…

【深層学習】MDETR

Index Index MDETR Architecture 2 つの Encoder Concat DETR への入力 Training / Loss Contrastive Alignment Loss Object Part Text Part Total Loss 参考 Web サイト MDETR Modulated DETR DETR #まとめ編 yhayato1320.hatenablog.com Phrase Grounding …

【マルチモーダル】Dense Captioning

Index Index Dense Captioning アルゴリズム GRiT / 2022 ControlCap / 2024 データセット / ベンチマーク Visual Genome / 2016 参考 Web ページ Dense Captioning マルチモーダル #まとめ編 Vision-Language yhayato1320.hatenablog.com アルゴリズム GRiT…

【機械学習】Data-Centric AI

機械学習 #まとめ編 yhayato1320.hatenablog.com Index Index Data-Centric AI Bench Mark DataPerf 参考 Data-Centric AI Bench Mark DataPerf DataPerf www.dataperf.org 参考 データ中心のAI: Data-Centric AIによるアプローチ qiita.com

【データセット】Flickr30k

Index Index Flickr30k 利用手段 video を作ってみたよ! 参考 Web サイト Flickr30k 画像と説明文のマルチモーダルなデータセット. データセット #まとめ編 yhayato1320.hatenablog.com shannon.cs.illinois.edu HomePage 利用手段 Kaggle Dataset / torch …

【深層学習】DINO #まとめ編

Index Index DINO DINO v2 / 2023 Stable-DINO / 2023 Grounding DINO / 2023 DINO DETR の改善手法. DETR yhayato1320.hatenablog.com DINO yhayato1320.hatenablog.com DINO v2 / 2023 DINOv2: Learning Robust Visual Features without Supervision [2023…

【マルチモーダル】Phrase Grounding

Index Index Phrase Grounding アルゴリズム ViLD / 2021 MDETR / 2021 GLIP / 2021 GLIP v2 / 2022 Grounding DINO / 2023 参考 Phrase Grounding 文章中のフレーズ・単語が、画像中のどの領域に対応するかを推定するマルチモーダルのタスク. マルチモーダ…

【深層学習】Scaleformer

Index Index Crossformer 参考 Crossformer Transormer を利用した、時系列の予測モデル. Tranformer #まとめ編 時系列解析 yhayato1320.hatenablog.com いくつかの工夫をしている. Multi Scale Framework Cross-Scale Normalization 参考 Scaleformer: Iter…

【深層学習】Crossformer

Index Index Crossformer 参考 Crossformer Transormer を利用した、時系列の予測モデル. Tranformer #まとめ編 時系列解析 yhayato1320.hatenablog.com いくつかの工夫をしている. Dimension Segment Wise (DSW) Embedding Two-Stage Attention (TSA) Cross…

【深層学習】SegMoE

Diffusion Model #まとめ編 yhayato1320.hatenablog.com Index Index SegMoE 特徴 アーキテクチャ 参考 SegMoE SegMoE は、テキストなどのプロンプトから画像を生成する. MoE yhayato1320.hatenablog.com 特徴 高い効率性: 複数のモデルを混合することで、処…

【データセット】Driving Event Camera Dataset (Samsung DVS Gen3)

動画像データ #まとめ編 yhayato1320.hatenablog.com Driving Event Camera Dataset (Samsung DVS Gen3) 「High Speed and High Dynamic Range Video with an Event Camera」の論文で作成されたデータセット. データセットは、チューリッヒを走行する車のフ…

【深層学習】Hyena

Transformer #まとめ編 yhayato1320.hatenablog.com Index Index Hyena Hyena Hyena Hierarchy: Towards Larger Convolutional Language Models [2023] arxiv.org GPTを超える大規模言語アーキテクチャ「Hyena」とは何か? www.itmedia.co.jp 【DL輪読会】Hy…

【統計学】劣度 / Kurtosis

確率 #まとめ編 yhayato1320.hatenablog.com Index Index 劣度 / Kurtosis 定義 参考 劣度 / Kurtosis 期待値、分散によって確率分布の様子はある程度わかるが、 位置とばらつきだけで確率分布の形がひととおりに決まるわけではない. 期待値・分散 yhayato13…

【統計学】歪度 / Skewness

確率 #まとめ編 yhayato1320.hatenablog.com Index Index 歪度 / Skewness 定義 参考 歪度 / Skewness 期待値、分散によって確率分布の様子はある程度わかるが、 位置とばらつきだけで確率分布の形がひととおりに決まるわけではない. 期待値・分散 yhayato13…

【統計学】度数分布

確率 #まとめ編 yhayato1320.hatenablog.com Index Index 度数分布 階級 / Class 階級値 度数 / Frequency 相対度数 / Relative Frequency 累積度数 / Cumulative Frequency・累積相対度数 / Cumulative Relative Frequency ヒストグラム 参考 度数分布 度数…

【機械学習】ジャックナイフ法

MCMC 法 yhayato1320.hatenablog.com Index Index ジャックナイフ法 参考 書籍 ジャックナイフ法 参考 書籍 ゼロからできるMCMC 4 メトロポリス法 4.3 自己相関 4.3.3 自己相関長とジャックナイフ法 ゼロからできるMCMC マルコフ連鎖モンテカルロ法の実…

【機械学習】サンプリング法

機械学習 #まとめ編 yhayato1320.hatenablog.com 近似推論法 yhayato1320.hatenablog.com Index Index サンプリング法 モンテカルロ サンプリング / Monte Carlo Sampling Markov Chain Monte Carlo / MCMC 法 参考 書籍 サンプリング法 モンテカルロ サンプ…