Logit Bias
Logit Bias
特定のトークンが出力される確率を強制的に上下させる設定。ごく細かな出力制御が必要なときに使う。
Logit Biasとは
Logit Bias は、AIが出力する特定のトークン(単語・記号)の確率を、強制的に上下させる設定です。
- 正の値(+5〜+100): そのトークンの出現を促す
- 負の値(-5〜-100): そのトークンの出現を抑える
- -100:実質的に禁止
使い所
非常に細かい制御が必要な時に使います。例:
- 特定ワードを禁止: 「絶対・確実・保証」のような断定ワードを使わせない
- Yes/No 選択肢を強制: "はい/いいえ" 以外の単語を実質的にブロック
- 特定語彙への誘導: 避けたい専門用語の代わりに指定語彙を使わせる
実務での位置づけ
かなり技術的なパラメータで、一般的な業務利用ではほぼ出番がありません。API経由でAIを組み込む開発者が、特定の制約を満たすために使う類のものです。
士業として押さえておくべきは「こういうレイヤーでも制御ができる」という知識だけで十分です。具体的な設定はベンダー・開発者任せでOK。
Structured Output などの上位機能のほうが実務的な制御手段になっています。
