Top-p(核サンプリング)
Top-p Sampling
AIの次単語選択を、累積確率で上位から絞り込む設定。温度と並ぶ出力制御パラメータ。
Top-p(核サンプリング)とは
Top-p は、AIが次の単語を選ぶとき、上位から累積確率が p に達するまでの候補だけを採用する設定です。Nucleus Sampling(核サンプリング)とも呼ばれます。
- Top-p = 0.9: 確率の高い候補から累積90%までを対象にサンプリング
- Top-p = 0.5: 上位50%までに絞る(より安定)
- Top-p = 1.0: すべての候補を対象(制限なし)
Temperature との違い
- Temperature: 確率分布自体を緩急つける(全体のランダム性)
- Top-p: 確率の低い候補を「カット」する(範囲を限定)
どちらも出力のブレ幅に影響しますが、Temperature が主、Top-p が補助として使われることが多いです。
実務での設定
多くのケースでどちらか一方を調整すれば十分です。両方を極端に動かすと挙動が予測しづらくなります。
- 安定性重視: Temperature 低め(0.2)+ Top-p 高め(0.9)
- 創造性重視: Temperature 高め(0.8)+ Top-p 高め(0.95)
デフォルト値(Temperature 0.7、Top-p 1.0 など)のままで特に問題ないケースも多く、困ったら変えないのが初手です。
