オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

2023-02-11から1日間の記事一覧

【深層学習】Chinchilla

Index Index Chinchilla 計算コストの削減 参考 参考 Chinchilla Chinchilla 700億のパラメーターを持つLLM. Transformer #まとめ編 yhayato1320.hatenablog.com 計算コストの削減 言語モデルの「パラメーターのサイズ」と「トレーニングに使用されるデータ…

【深層学習】Alignment / 協調性

Index Index Alignment / 協調性 Instruct GPT 参考 Alignment / 協調性 LLM は、様々なタスクに適応する能力を有している一方、生成される文章の品質や正確さは最適とは言えない. LLM yhayato1320.hatenablog.com そこで、LLM の「Alignment / 協調性」とい…