ChatGPTが途中で止まってしまう原因と対処法
ChatGPTは長文の返信ができません。というのも文字制限(厳密にはトークン数制限)があるからです。以前は、「続き」など入力しなくてはなりませんでした。しかし最近では「Continue generationg」のボタンを押すだけで良くなりました。
ChatGPTに続きを生成させる方法
ブラウザ版とスマホ版で若干ボタンの形状が違うので、分けて紹介します。
1. ブラウザ版の場合
PCなどでChatGPTを利用している場合、ブラウザ版を使っていると思います。生成が途中で止まってしまった場合、下の方に「Continue generating」のボタンが出現します。「生成を続ける」という意味です。このボタンを押すだけでChatGPTは続きを生成してくれます。
2. スマホ版の場合
最近スマートフォン向けのアプリがリリースされました。こちらをお使いの方は続きを生成するためのアイコンをクリックしてください。入力ボックスの右側に出現します。
なぜ途中で止まってしまうのか
途中で止まるの理由は、ChatGPTのモデルによってトークン数が決まっているからです。モデルが一度に扱うことができるトークン数は「コンテキストウィンドウ」の大きさによって決まります。
たとえば、ChatGPT UIで使用できる2種類のモデルに関して、コンテキストウィンドウの大きさは次のようになっています。(参照)
モデル名 | 説明 | コンテキストウィンドウ |
---|---|---|
gpt-4 | GPT-3.5よりも高性能で、より複雑なタスクを実行可能。チャットに最適化されている | 8192 トークン |
gpt-3.5-turbo | GPT-3.5の最も高性能なモデル。 | 4096 トークン |
英語ではトークン数が大体文字数に対応しています。ところが日本語では、漢字など複雑な文字が多く、文字によってトークン数が変わってしまいます。そのため、英語よりも文字制限が少ないと言われています。大量の文章を扱うなら英語の方が良いかもしれませんね。