プロンプト耐性
目次
プロンプト耐性（Prompt Robustness）とは、AI（特に大規模言語モデル）に対して、入力される指示（プロンプト）の表現が多少変化したり、ノイズが含まれていたりしても、一貫して正確かつ適切な回答を出力し続ける能力のことです。
ビジネスでAIを活用する場合、ユーザーによって質問の仕方は千差万別です。どのような聞き方をされても、意図を正しく汲み取り、ブランド棄損に繋がる不適切な回答を回避する「AIの堅牢性（タフさ）」を指します。
1. プロンプト耐性を構成する2つの要素
プロンプト耐性は大きく分けて「一貫性」と「安全性」の2つの側面があります。
- 出力の一貫性（Consistency）：「要約して」「まとめて」「サマリーを作って」など、似たような指示に対して、毎回品質のばらつきがなく、安定した成果物を出す能力です。
- 敵対的攻撃への防御（Safety）：「プロンプトインジェクション」や「ジェイルブレイク（脱獄）」と呼ばれる、AIの倫理制限を突破しようとする悪意ある入力に対して、想定外の挙動や情報漏洩を起こさない防御力です。
2. 耐性を高めるためのアプローチ
プロンプト耐性が低いAIは、実務での信頼性に欠けます。この耐性を高めるためには、以下のプロセスが不可欠です。
- RLHF（人間からのフィードバックによる強化学習）：人間がAIの回答を評価し、適切なリワード（報酬）を与えることで、AIは「どのような状況でも守るべきルール」を学習します。
- ヒューマンインザループによる評価・改善：開発や運用のループに人間が入り、多様なパターンの入力テスト（レッドチーミング）を行うことで、AIの弱点を発見し、ハルシネーションや不適切な挙動を未然に防ぎます。
▼関連コラム
AI生成物と著作権の関係とは？法律の基本から侵害リスクの回避まで
【外注担当者様向け】AI検索時代のコンテンツ制作入門｜失敗しないパートナーの選び方