オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

トップ > データサイエンス > 【深層学習】Chat GPT

【深層学習】Chat GPT

データサイエンス データサイエンス-深層学習 データサイエンス-自然言語処理

Index

Chat GPT

Instruct GPT の兄弟モデル.

Visual ChatGPT / 2023

研究

  • An Analysis of the Automatic Bug Fixing Performance of ChatGPT

  • Mathematical Capabilities of ChatGPT

  • ChatGPT or Human? Detect and Explain. Explaining Decisions of Machine Learning Model for Detecting Short ChatGPT-generated Text

ChatGPTが書いた文章かどうかを機械学習で判別する研究.

ChatGPTの生成文書は感情ではなく経験を記述し、丁寧であり、詳細には入らず一般的な用語で表現する、 という傾向があることを発見.



  • Is ChatGPT A Good Translator? A Preliminary Study
ChatGPTの翻訳性能を検証した研究.

ChatGPTはGoogle翻訳など商用の翻訳ツールと比較してもそれなりの性能を持っている.

ヨーロッパ系の言語では強いがそれと遠い言語だと性能が落ちる.

翻訳時に一度メジャー言語を介した翻訳(Pivot prompting)をさせると性能が向上する.



  • A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity
ChatGPTを多方面から検証した研究.

21の言語タスクをzero-shot で解かせるとほとんどのタスクで従来の言語モデルの性能を上回り、いくつかでは微調整したモデルを超える.

HTMLのコードを生成することにより、画像を描画可能.

しかし帰納的推論タスクでは6割程度の正解率.



  • Is ChatGPT a General-Purpose Natural Language Processing Task Solver?

  • A Categorical Archive of ChatGPT Failures

  • Learning gain differences between ChatGPT and human tutor generated algebra hints

  • Exploring the Limits of ChatGPT for Query or Aspect-based Text Summarization

  • Zero-Shot Information Extraction via Chatting with ChatGPT

  • ChatGPT: Jack of all trades, master of none

  • On the Robustness of ChatGPT: An Adversarial and Out-of-distribution Perspective

  • Ask and You Shall Receive (a Graph Drawing): Testing ChatGPT's Potential to Apply Graph Layout Algorithms

  • ChatGPT Participates in a Computer Science Exam

アプリケーション・サービス

Introducing ChatGPT and Whisper APIs

  • Introducing ChatGPT and Whisper APIs

  • 既存のGPT(davinci等)の最大モデルより10倍「安く」使える

  • GPTに入力したデータは今後，学習に使われてしまうことがなくなる
  • ChatGPTで使用していたGPTのモデル/APIの名前は，GPT-3.5-Turbo

ChatGPT plugins

Chuanhu ChatGPT

その他

  • YouTube Summary with ChatGPT

  • ChatGPT+Pythonでボイスロイドとリアルタイムで音声会話できるプログラムを作った

参考

  • ChatGPT: A Meta-Analysis after 2.5 Months

  • ChatGPT: Optimizing Language Models for Dialogue

Web サイト

Tweet

動画