オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

2023-04-14から1日間の記事一覧

【深層学習】Open Pre-trained Transformer

Index Index Open Pre-trained Transformer 応用 OPT-IML / 2022 参考 Web サイト Open Pre-trained Transformer 2022年5月に Meta が GPT-3 に匹敵する 1,750 億のパラメーターを持つ OPT-175B (Open Pretrained Transformer 175B) を公開した. OPT-175B は…