Gartner は、2025 年末までに少なくとも 3 割の生成 AI プロジェクトが概念実証(POC)の後に放棄されると予測しており、その理由としてデータ品質の低さ、コストの暴走、ビジネス価値の不明確さを挙げています。RAND は 2024 年に 65 名のデータサイエンティストとエンジニアに聞き取りを行い、さらに厳しい数字を示しました。AI プロジェクトの 8 割超が意味のある本番稼働にたどり着けず、その失敗率は AI を含まない IT プロジェクトの 2 倍にのぼります。MIT の 2025 年の企業調査でも、生成 AI のパイロットの 95% が損益に測定可能な貢献をしていないことが分かりました。これらの数字を「プロジェクト管理の失敗」とだけ捉えるのは誤診です。本質はもっと工学的な問題です。POC のコードそのものが技術的負債の塊であり、システムを本番で持ちこたえさせることは、避けるべき落とし穴のチェックリストではなく、一つの作り直し(リエンジニアリング)の作業なのです。
Demo が動くことと、システムが立つことは別物です
POC の目的は「これが実現できると証明すること」です。だからこそ近道が許されます。プロンプトをコードに直書きし、最も順調な経路だけを処理し、単一のモデルに固定し、厳選したきれいなデータを一つだけ与える。これらの近道は Demo の場では完全に合理的です。「今日すぐ上司に見せられる」という成果と引き換えだからです。しかし本番環境が最適化するのは、信頼性・規模・コスト・運用性という、まったく別のものです。RAND の調査は、多くの失敗がモデルの弱さではなく「デプロイ基盤」への慢性的な過小投資にあると指摘します。あるエンジニアの言葉が印象的です。「AI の 8 割はデータエンジニアリングの泥仕事だ」。「実現可能性の証明」のために作られた試作品を「安定稼働」を求める環境に放り込めば、当時の近道は一気に表面化し、返済すべき負債になります。
なぜ POC は生まれつき技術的負債なのか:CACE 効果
Google は 2015 年の代表的な論文「機械学習システムに潜む技術的負債」の中で、AI システムは従来コードのあらゆる保守問題に加え、丸ごと一種類の固有リスクを抱えると指摘しました。その中核が CACE 原則、すなわち Changing Anything Changes Everything(何かを変えれば、すべてが変わる)です。従来のソフトウェアは厳格な抽象境界で変更を隔離しますが、AI システムはシグナル・プロンプト・データ・パラメータを深く絡み合わせるため、プロンプトを一つ動かし、データを一つ差し替え、閾値を一つ調整するだけで、全体の挙動が予測不能にずれることがあります。これこそ POC が持ちこたえられない根本原因です。POC は「隔離して修正できる」ようには設計されていないのです。加えて、隠れたフィードバックループ、申告されていない下流の依存、積み上がる設定の負債——Demo では見えなくても、本番では変更のたびに地雷となります。
技術的負債の棚卸し:近道の一つ一つが本番の負債になります
作り直しの第一歩は、POC が残した負債を正直に棚卸しすることです。最もよくある項目を対比して並べてみます。
| POC のやり方 | 本番の要求 | 書き直さない代償 |
| プロンプトとルールをコードに直書き | 調整可能・バージョン管理可能・テスト可能 | 微調整のたびにコード修正と再デプロイが必要で、遡れない |
| 正常経路だけを処理 | 境界・異常・タイムアウトすべてに対応 | 実入力が増えると崩れ、エラーが静かに広がる |
| 単一モデル API を直接呼び出し | 切替可能・縮退可能・コスト制御可能 | 値上げや障害で全ラインが停止する |
| 出力の良し悪しを感覚で判断 | 定量化できる評価基準 | 変更しても良くなったか悪くなったか分からない |
| データはきれいな一つのサンプル | 汚れて漂移する現実データに向き合う | 稼働後に性能が劣化し続けても原因を追えない |
これらの代償は大げさな脅しではありません。2024 年の Moffatt 対 Air Canada 訴訟では、航空会社のチャットボットが忌引運賃の方針について誤った(幻覚の)情報を提示し、カナダ・ブリティッシュコロンビア州の民事解決審判所が企業はボットの発言に責任を負うと判断し、乗客への賠償を命じました。企業が AI チャットボットの誤情報に法的責任を負うことを示した画期的な判例として広く知られています。出力ガードレールを持たず、正常経路だけを検証した POC が本番で支払うのは、工学的な代償だけではないかもしれません。
作り直しの戦略:ストラングラーパターンで段階的に置き換えます
負債を洗い出した後、多くのチームの直感は「いっそ全部書き直す」ですが、これはたいてい最も危険です。検証済みのビジネスロジックを同時に失い、納期も延びるからです。より現実的なのは、ソフトウェアアーキテクチャの大家 Martin Fowler が提唱した「絞め殺しのイチジク(Strangler Fig)」パターンです。POC の外周にファサードのゲートウェイを一層かぶせ、モデルへの呼び出しを単一の入口に集約し、新しい本番グレードの部品に旧経路のトラフィックを一つずつ引き継がせます。その三つの利点がまさに処方箋です。各ステップで価値を届けられ、各ステップを巻き戻せ、その過程でビジネスが止まりません。絡み合った三つ(プロンプトのロジック、業務フロー、データアクセス)を先にほどき、検証済みの中核は残し、脆い継ぎ目を区間ごとに置き換える——数か月ラインを止めて一度の大改修に賭けるのではなく、そうするのです。
工学的な土台を補う:2026 年の LLMOps 標準装備
POC には通常、システムを「信頼して動かせる」ようにする基盤が丸ごと一層欠けています。2025 年を経て、業界は過去の「感覚での検収」(vibe check)を工学的な規律へと着実に収斂させてきました。稼働前に少なくとも次を補う必要があります。
- 評価基準(Eval):DeepEval、Arize Phoenix、MLflow Evaluation といったフレームワークで固定テストセットと採点を整え、あらゆる変更を感覚ではなく定量化します。CACE 効果の下では特に重要です。
- 可観測性:呼び出しごとの入力・出力・遅延・コストを記録し、問題が起きたときにどのステップのどの入力が誤ったかを遡れるようにします。
- ガードレール(Guardrails):同期的な遮断層で入力と出力の両端に方針を適用し、OWASP が挙げるプロンプトインジェクション、機密データ漏洩、過剰な権限などのリスクを防ぎます。
- 縮退・リトライ・コスト制御:モデルのタイムアウト時に代替経路を用意し、リトライは冪等にし、使用量に上限とキャッシュを設けて、一度のトラフィック急増で一か月分の予算を焼き尽くさないようにします。
書き直すか残すか:一つのシンプルな判断基準
作り直しで最も神経を使う判断は、どの部分を残しどの部分を切るかです。役立つ基準は、二つのことを同時に見ることです。そのコードの「ビジネスロジックの正しさ」と「工学的な運用性」です。ロジックはすでに正しいと検証済みだが工学が粗いものは、ロジックを残して外殻を書き直す。ロジックそのものが練られていないものは、飾らずに立ち返って要件を整理してから書き直す。検証もされず運用も難しい実験的なコードこそ、思い切って捨てるべき部分です。力を注ぐべきは、稼働を本当に妨げている負債の返済であって、POC のすべての行を芸術品に磨き上げることではありません。
恩梯科技:POC を持ちこたえる本番システムへ作り直すお手伝いをします
恩梯科技の AI システムコンサルティングとカスタム開発サービスは、「Demo は動く」試作品を「本番で持ちこたえる」システムへと作り直すことに注力しています。私たちは企業が POC で蓄積した技術的負債を棚卸しし、ストラングラーパターンで段階的に置き換える道筋を設計し、評価・可観測性・縮退ガードレールといった工学的な土台を補うことを支援します。これにより AI システムは概念実証の見せ物で止まることなく、長期にわたり安定してビジネス価値を生み出す資産になります。
参考資料
- Gartner「Gartner Predicts 30% of Generative AI Projects Will Be Abandoned After Proof of Concept By End of 2025」2024年。出典リンク
- RAND Corporation(James Ryseff ほか)「The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed」2024年。出典リンク
- MIT NANDA「The GenAI Divide: State of AI in Business 2025」2025年。出典リンク
- D. Sculley ほか(Google)「Hidden Technical Debt in Machine Learning Systems」NeurIPS、2015年。出典リンク
- American Bar Association「BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot」2024年。出典リンク
- Martin Fowler「Strangler Fig Application」2024年。出典リンク