ChatGPTは高性能な対話ができるのになぜデタラメな回答をすることがあるのか?


OpenAIの対話型AI「ChatGPT」は、人間からの質問に対して非常に自然に受け答えできるだけではなく、記述試験に合格できたり実際に動作するプログラムを数分で完成させたりと、さまざまな活用が考えられています。

一方で、ChatGPTは「それっぽい回答」をしているだけで内容はデタラメのことも多く、ChatGPTを用いて論文を作成することを学術誌Scienceや国際会議のICMLは禁止しています。

なぜChatGPTがデタラメな論文を作成する…