実際の業務例による Few-shot:AI 出力品質の安定化

技術共有
Author
恩梯科技
2026-08-07 166 回閲覧 8 分鐘閱讀

ルールをいくら書いても AI の出力が安定しない理由

同じ Prompt なのに、朝と午後で出力の形式が違う。免責事項が余分に付いたり、項目がひとつ抜けたり、文体がフォーマルになったりカジュアルになったりします。多くの意思決定者は指示をさらに長く厳しく書き足しますが、Prompt は法律文書のようになる一方で、出力品質は相変わらず不安定なままです。これは特定のチームだけの錯覚ではありません。McKinsey の 2025 年グローバル AI 調査では、88% の企業がすでに少なくとも 1 つの業務機能で AI を導入しており(前年の 78% から増加)、本格的にスケールできているのは約 3 分の 1 にとどまります。さらに MIT NANDA の「State of AI in Business 2025」レポートは、企業の GenAI パイロットの約 95% が測定可能な損益上のリターンを示せていないと指摘しています。出力が安定せず、下流工程が自動化を任せられないことが、つまずきの典型的な原因です。学術研究もこの不安定さを早くから定量化しています。カリフォルニア大学バークレー校などのチームが ICML 2021 で発表した「Calibrate Before Use」の実験では、Prompt 内の例の選び方と並び順を変えるだけで、GPT-3 の同一タスクの精度がほぼランダム推測から最高水準近くまで振れることが示されました。問題の本質は、「一貫性」への要求の多くが、文章のルールとして列挙し切れない点にあります。見積メールの匙加減、クレームを断る際の語調、製品説明の詳しさ——ルールとして書き切るのは難しくても、正しく書けた例なら一目で分かります。Few-shot はまさにその解決策です。「入力→理想的な出力」の実例をいくつか Prompt に入れ、モデルに形式・語調・境界の振る舞いをお手本から揃えさせるのです。本記事で扱うのは、実際の業務例で出力を安定させる実践的な方法であり、モジュール化された指示ライブラリの設計論でも、複雑なビジネスロジックのための Prompt エンジニアリング総論でもありません。

Few-shot の効果は感覚ではなく、測定できる差

「例をいくつか見せるだけ」というと素朴に聞こえますが、その効果には確かな測定的裏付けがあります。OpenAI のチームが 2020 年に NeurIPS で発表した「Language Models are Few-Shot Learners」(GPT-3 論文)は、例なし(zero-shot)と複数例(few-shot)の性能を体系的に比較しました。質問応答ベンチマーク TriviaQA では精度が zero-shot の 64.3% から few-shot の 71.2% へ、対話型 QA の CoQA では F1 スコアが 81.5 から 85.0 へ向上しています。また同論文は、モデルの規模が大きいほど、文脈内学習(in-context learning)の能力が強くなることも示しました。つまり今日のモデルは、当時よりもさらにお手本をよく吸収します。Anthropic の公式 Prompt エンジニアリングドキュメントも「例を使う(multishot prompting)」を精度と一貫性を高める最も有効な手段のひとつとして挙げ、こう注意しています——最新のモデルは例の細部まで極めて忠実に倣うため、示したものがそのまま納品物になる。教えるつもりのなかった悪い癖まで含めて、です。企業にとってこれは、出力品質を運任せからエンジニアリングの問題へ変える鍵になります。例こそが仕様なのです。

良い例はどこから来るか:過去の良い出力をゴールデンサンプルにする

最も効果的な例はゼロから創作するものではなく、企業の既存データから掘り出すものです。過去に同僚が実際に書き、上司の承認を経て送り出された返信・レポート・要約。こうした「検収済みの実出力」こそ、自社の基準に最も近いゴールデンサンプルです。選定時は次の 4 つの基準を押さえます。

  • 実在し、かつ正しい:実案件に由来し、項目・用語・語調がチーム公認の標準であること。理想化されたテンプレートではないこと。
  • 代表的なシナリオを網羅:最も頻出するシナリオをいくつか入れ、間違えやすい境界ケースを 1〜2 件補うこと。Anthropic の公式ガイドラインも、例は「関連性があり、多様で、構造が一貫している」ことを強調しています。似すぎた例から意図しないパターンを学習させないためです。
  • 形式の高い一貫性:すべての例の出力構造を完全に揃えること。モデルは句読点・段落・項目の順序まで真似るからです。
  • まず匿名化:例には顧客名・金額・個人情報が紛れがちです。ライブラリに入れる前に必ず PII をマスクすること。さもなければ、毎回の Prompt に個人情報を書き込むのと同じです。

具体例を挙げます。ある設備メーカーが、AI に見積返信メールを統一フォーマットで出させたいとします。「まず挨拶、品目を箇条書き、納期を添え、行動喚起で締める」と 10 個のルールを書くより、営業が実際に送って成約率の高かった実メールを 3 通、例として入れる方が効果的です。モデルは冒頭の宛名の書き方、品目のレイアウト、納期の言い回し、締めの語調まで自動的に学び取り、「特急は別途見積」といった慣用の注記まで踏襲します。

いくつ入れるか、どう並べるか:数も順序も結果を左右する

例は多ければ良いわけではありません。少なすぎると形式が揃わず、多すぎると context を圧迫し、コストとレイテンシが上がります。Anthropic のドキュメントは一般的なタスクでは多様な例 3〜5 個を出発点として推奨しています。実務ではタスクの性質に応じて調整します。

タスクの種類推奨する例の数説明
形式固定・変動小(分類、項目抽出)2〜3 個出力形式を揃えられれば十分
語調・スタイル重視(カスタマー対応、マーケティング文)3〜5 個語調の幅をカバーする複数の例が必要
境界が多く誤判定しやすい(コンプライアンス判断、例外処理)5〜8 個+反例正例と反例の両方で境界を定義する

数より見落とされがちなのが「順序」です。ユニバーシティ・カレッジ・ロンドンのチームが ACL 2022 で発表した「Fantastically Ordered Prompts」の実験では、同じ 4 つの例でも並び順だけで、モデルの性能が「最高水準近く」と「ほぼランダム」の間で振れることが示されました。彼らが提案したエントロピーに基づく順序選択手法は、11 の文書分類タスクで平均 13% の相対的改善をもたらしています。「Calibrate Before Use」はその原因として、多数ラベルバイアスと直近性バイアスの 2 つを指摘しました。モデルは、例の中で出現頻度が高い答えや、Prompt の末尾近くに置かれた答えを予測しがちなのです。対策は具体的です。分類タスクでは各ラベルの例数のバランスを取り、同じ種類の答えを末尾に固めないこと。ラベルの表記を完全に統一し、「完了」と「済み」を混在させないこと。逸脱しやすいタスクには「不正な入力→拒否または確認すべき」という反例を 1〜2 件加え、従わないべき場面をモデルに学ばせることです。

動的 Few-shot:類似度でリアルタイムに例を選ぶ

業務シナリオが非常に多い場合、固定の数例ではカバーし切れません。発展的な方法は、例のライブラリを構築し、ユーザー入力ごとに embedding でライブラリと類似度を比較して、最も関連する k 件をその場で Prompt に差し込むことです。概念的には RAG と同じで、検索するのが「知識」ではなく「お手本」だという違いだけです。この路線にも研究の裏付けがあります。デューク大学と Microsoft のチームによる 2021 年の論文「What Makes Good In-Context Examples for GPT-3?」は、kNN の意味的類似度検索で例を選ぶ KATE 手法を提案し、QA と生成タスクでランダム選択を明確に上回りました。カスタマーサポートを例にすると、返品・修理・請求書の 3 種類の問い合わせがそれぞれ専用の例セットにヒットするため、返信の構造と語調が自然に揃います。導入時の注意点として、各例にシナリオタグを付けること、古くなった事例を定期的に入れ替えること、context の肥大化を防ぐため k 値を制御すること、そして業務ルールの変更時には例も同期して更新することが挙げられます。さもなければ、モデルはとうに廃止された旧基準どおりに出力し続けます。

よくある落とし穴と回帰検収:効果を測定可能に、積み上げ可能に

  • 過学習:例同士が似すぎていて、例中の特定の製品名や数値を一般則として写してしまう。
  • 例同士の矛盾:同種の入力に対して 2 つの例が異なる形式を示し、モデルが迷って一貫性がかえって低下する。
  • 形式のドリフト:例の出力構造が揃っておらず、モデルの出力も揺れる。
  • 正しさだけ測って一貫性を測らない:検収では同じ入力群を複数回実行し、形式と項目が安定しているかを見るべきで、1 回の正誤だけで判断しない。

実務的な提案として、小さな回帰セット(固定の 20〜30 件の入力)を用意し、例を調整するたびに再実行して、形式適合率と主要項目の正答率を比較し、合格してからリリースします。これこそ研究が企業に与える最大の示唆です——例の選択と順序だけで精度が大きく振れる以上、変更のたびに固定のテストセットで検証する価値があります。Few-shot の効果を測定可能・積み上げ可能にし、Prompt を直すたびに運試しをする状態から抜け出すのです。この「例+回帰検収」のサイクルが定着すれば、AI の出力品質は個人の勘から、チームで引き継ぎ・監査できる資産へと変わります。

ネルドテクニックのご支援

ネルドテクニック(恩梯科技)は、Few-shot の例エンジニアリングを既存の業務フローに統合するご支援をしています。活用可能な実業務データの棚卸し、ゴールデンサンプルの選定と匿名化から、例の数と並び順の設計、類似度検索による動的例ライブラリの構築、リリース後の回帰セットによる出力一貫性のモニタリングまで一貫して対応します。出力の形式や語調が安定せず AI の本格導入に踏み切れない場合は、ぜひネルドテクニックにご相談ください。貴社自身の実例で、品質を安定させましょう。

参考資料

  • McKinsey & Company,《The State of AI: Global Survey 2025》,2025。出典リンク
  • MIT NANDA,《The GenAI Divide: State of AI in Business 2025》,2025。出典リンク
  • Zhao et al.(カリフォルニア大学バークレー校など),《Calibrate Before Use: Improving Few-Shot Performance of Language Models》,ICML,2021。出典リンク
  • OpenAI,《Language Models are Few-Shot Learners》,NeurIPS,2020。出典リンク
  • Anthropic,《Use examples (multishot prompting) to guide Claude's behavior》,公式 Prompt エンジニアリングドキュメント。出典リンク
  • Lu et al.(ユニバーシティ・カレッジ・ロンドン),《Fantastically Ordered Prompts and Where to Find Them》,ACL,2022。出典リンク
  • Liu et al.(デューク大学/Microsoft),《What Makes Good In-Context Examples for GPT-3?》,2021。出典リンク

これらの手法を自社に導入したいですか?

LINEで無料相談

私たちは案件数を追いません。

深く取り組む価値のある、少数の企業と長期的な関係を築きます。

無料システム健診

サポートが必要ですか?

ここをクリックしてお問い合わせください!