• 前へ
• 次へ

使用モデルや最大トークンの変更

$MODEL

使用するモデル名を指定します。
デフォルトだと、

$MODEL = "gpt-3.5-turbo";

といったように、ChatGPT 3.5 Turbo と同様となっています。
モデル名の一覧は、openai - models にあります。
「gpt-4-turbo」と「gpt-3.5-turbo」とでは20倍の価格差があります。

#MAXTOKENS

最大トークンを指定します。
デフォルトだと、

#MAXTOKENS = 2000;

となっています。
この数値は概ね、対象のモデルの最大トークンの「半分程度」を指定するのが良いでしょう。
(ChatGPT 3.5 Turboの最大トークンは4000程度なのでその半分を指定する)

もっと長い文章のやりとりや、もっと多くの質問・返答の回数を必要とする場合

OpenAIに料金は倍になるが長文を受け付けるモデルが存在するので、そちらを指定しても良いでしょう。

SET_MODEL:

    $MODEL = "gpt-3.5-turbo-16k";


SET_MAXTOKENS:

    #MAXTOKENS = 8000;
    

• 前へ
• 次へ