一言で足りる質問に、前置きと本題と補足が付いて返ってくる。読むのに時間がかかるし、出力のぶんだけ費用も増えます。
なぜ長くなるのか。そして、どう書けば短くなるのか。
長くなる理由
短い回答は、評価されにくい構造があります。
丁寧に説明したほうが親切に見える。前提を補ったほうが誤解が減る。例を添えたほうが分かりやすい。訓練の過程で、そういう振る舞いが選ばれてきました。
確信がないときに黙るより何か答えるほうが有利になる構造も働いています。断定を避けて周辺を説明すると、文が伸びます。
長さは、間違いを避けようとした結果でもあるわけです。
効く指示
| 書き方 | 効果 |
|---|---|
| 字数を指定する | 最も確実。「200字以内で」 |
| 形式を指定する | 「3行の箇条書きで」「表で」 |
| 前置きを禁じる | 「前置きと結論の繰り返しは不要」 |
| 答えだけを求める | 「理由は聞かれたときだけ書いて」 |
「簡潔に」が効きにくいのは、基準が示されていないからです。何字が簡潔なのかは、人によって違う。数で書くと確実に変わります。
前置きを削る
冒頭の1段落は、たいてい要りません。
「ご質問ありがとうございます」「これは重要な論点ですね」「以下に整理します」。この種の文は情報を含んでいないので、削っても失うものがない。
末尾の「いかがでしょうか」「参考になれば幸いです」も同様です。「あいさつと前置きは書かないでください」と一度書いておくと、その会話のあいだは効きます。
出力の形を先に決める
字数の指定より確実なのが、形を決めてしまうことです。
「可否と、その理由を1文ずつ」「項目名と値の表で」「JSONで、キーはこの3つ」。埋める枠が決まっていれば、そこからはみ出しません。
自動処理では特に効きます。形が揃っていれば、後の工程で機械的に扱える。文章のまま返されると、そこから値を取り出す処理が要ります。
ただし枠を細かくしすぎると、埋めるために作文が始まります。「該当がなければ、なしと書いてください」を添えておくと防げます。
聞き方を変える
指示より、問いの形を変えるほうが効く場合もあります。
「〜について教えて」は範囲が広いので長くなります。「〜は可能か。可能ならその条件は」のように、答えの形が決まる問いにすると短く返ってくる。
選択肢を示すのも効きます。「AとBのどちらが適切か」と聞けば、答えはどちらかです。
短くしすぎない
短くしたことで失うものもあります。
根拠が消えると、確かめられなくなります。「どこを見てそう判断したか」が書かれていないと、その答えを信じてよいか判断できない。
推論を書かせると精度が上がる場面もあります。答えだけを求めると間違えるのに、途中の考えを書かせると正解する。この現象は2022年の論文で報告されました。
単純な作業なら短く、判断を伴う作業なら根拠まで。使い分けることになります。
費用への効き方
出力は入力より単価が高いのが普通です。長い回答は、そのまま費用に響きます。
自動で回す処理では、この差が積み上がります。1回あたり500字を200字に減らせれば、出力の費用は6割減る計算です。
答える前に内側で考える工程を持つモデルでは、その考えたぶんも課金されます。単純な作業に強い推論を使うと、見えないところで費用が伸びる。作業の種類ごとに強度を変えると効きます。
読む側の負担で考える
長さの適正は、その回答を誰が読むかで決まります。
自分が読んで判断するだけなら、短いほうがよい。要点だけ分かれば足ります。
他人に転送する、資料に貼る、記録として残す。この場合は前提や根拠が要ります。読む人が文脈を持っていないからです。
出力を求める前に、その先どうするかを決めておく。それだけで、指定すべき長さが見えてきます。
長い回答を短くする
すでに出てきた長い回答は、そのまま短くさせられます。
「いまの内容を3行にまとめて」と続けて頼む。一度長く書かせてから縮めるほうが、最初から短く求めるより中身が濃くなることがあります。
費用は余計にかかるので、毎回やる方法ではありません。重要な回答のときだけ使う手です。
短さは目的ではなく、読む側の時間を減らすための手段です。そこを外さなければ、判断を誤りません。
出典
推測が起きやすい理由と、途中の推論を書かせる効果については、下記の論文に基づきます。
