AIメモリガバナンスの枠組み：何を記憶し、いつ忘れ、どう個人情報保護を守るか

企業がAI社員に「すべてのやり取りを記憶させる」と、次に問われるのは記憶量が十分かどうかではなく、記憶すべきでないものまで記憶していないか、という点です。顧客の身分証番号、従業員の健康情報、交渉過程の機微な結論——これらが長期記憶に書き込まれた瞬間、セキュリティとコンプライアンスの時限爆弾になります。研究によれば、これは理論上のリスクではありません。LLMは学習やファインチューニングのデータを「暗記」し、コード中の認証情報やAPIキー、さらには個人情報まで抽出攻撃によって復元され得ます（2025年のIJCAIによるPII漏洩の体系的サーベイは、複数の攻撃経路を整理しています）。記憶はAIを使うほど賢くしますが、ガバナンスのない記憶は、使うほど企業を露出させます。本稿は記憶システムの仕組みではなく、実装可能なガバナンスの枠組み——何を記憶し、いつ忘れ、どのように個人情報保護法の一線を守るか——を扱います。

まず「記憶すべき」と「記憶すべきでない」を分ける

記憶ガバナンスの第一歩は、データを記憶に書き込む「前」に分類することであり、すべてを記憶してから後で手当てすることではありません。これはEU GDPR第5条(1)(c)のデータ最小化原則に対応します。すなわち、目的達成に必要なデータのみを収集するということです。各種類の情報を三つの軸——会話をまたいで再利用する価値、機微度、そして漏洩した場合の損害——でタグ付けすることをお勧めします。

• 長期記憶に値する：顧客の好み、業務ルール、意思決定の文脈など、その後のサービス品質を高め、かつ機微度の低い情報。
• その場の作業記憶にとどめる：当面のタスク完了に一時的に必要だが再利用価値のない内容。タスク終了とともに消去します。
• 原則として記憶しない：身分証番号、金融口座番号、および台湾「個人資料保護法」第6条が列挙する病歴・医療・遺伝・性生活・健康診断・犯罪前科などの特種個人情報。これらは原則として収集・処理・利用が禁じられ、法定の事由または本人の書面同意がある場合を除きます。

「記憶しない」を既定値とし、「すべて記憶する」を既定値としないことが、枠組み全体の土台です。実務で最も多い誤りは、記憶を「多く覚えるほど賢い」ととらえ、すべての会話全文を長期保存に書き込むことを既定にしてしまうことです。セキュリティ監査や顧客からの照会が来て初めて、企業はAIが誰のどのデータを記憶しているのか説明できないと気づくのです。

なぜ「記憶しない」が一線なのか：書き込むのは容易、消すのは困難

「記憶しない」を既定とするのは、単に慎重だからではなく、技術的に「書き込む」ことが「取り出す」ことよりはるかに容易だからです。機微なデータがいったんモデルのパラメータに入ると（例えば会話ログでファインチューニングすると）、記憶され特定のプロンプトで復元され得ます。研究者はこれを、任意のプロンプトで引き出せる「抽出可能な記憶（extractable memorization）」と、正確な接頭辞を与えたときにのみ再現する「発見可能な記憶（discoverable memorization）」に区別します。コード中のパスワードやAPIキーのような機密は、特にモデルに暗記されやすいものです。後から消したい？ 機械的忘却（machine unlearning）は今なお未解決の課題であり、そのためにSemEval-2025では専用のベンチマークが設けられました。大規模モデルをゼロから再学習させる電力コストは、それだけで数百万ドルに達します。結論は明快です。後で機微な記憶をきれいに掘り出せると期待するより、最初から永続層や学習データに入れないことです。

忘却も設計である：階層別の保持と期限切れ消去

忘却の仕組みを持たない記憶システムは、入るだけで出ないデータレイクに等しく、時間が経つほど監査と漏洩の重大リスク地帯になります。これはまさにGDPR第5条(1)(e)の「保存制限」原則が求めるところで、個人データを識別可能な形で保持する期間は処理目的に必要な範囲を超えてはなりません。有効な方法は、記憶の階層ごとに明確な保持期限（Retention Policy）を設定し、期限切れ消去を自動化することであり、人手による定期清掃に頼ることではありません。

留意すべきは、「削除」は技術的に「見えない」と同義ではないことです。機微なデータがベクトルインデックス、キャッシュ、ログに同時に存在する場合、メインデータベースの一部だけを消しても、記憶は他の場所から復元され得ます。真の期限切れ消去は、記憶が散在するすべての複製を対象としなければなりません。さらに、EU「AI法」（Regulation (EU) 2024/1689、高リスク条項は2026年8月2日から全面適用）は、高リスクシステムの導入者に対し、自動生成される運用ログを少なくとも6か月保持するよう求めています。忘却戦略は「忘れるべきものを忘れる」と「残すべき監査証跡を残す」という、一見矛盾する二つの要求を同時に満たさねばなりません。

PIIと個人情報保護法：AI記憶のコンプライアンスの一線

台湾「個人資料保護法」第11条第3項は、「個人データ収集の特定目的が消滅し、または期限が満了したときは、自発的にまたは本人の請求により、当該個人データを削除し、処理もしくは利用を停止しなければならない」と明記します。ただし職務・業務の遂行に必要な場合、または本人の書面同意がある場合を除きます。AI記憶に当てはめれば、AIが記憶した個人情報は「便利だから」という理由だけで永久に保持することはできない、ということです。

同法は一律の保持年数を定めていません。施行細則第21条により、他の法令が保存を義務づける場合（例えば会計証憑の法定保存期間など）に限り「職務・業務の遂行に必要」として保持し続けられます。したがって正しい対応は固定の年数を決めることではなく、個人情報の種類ごとにその法定・契約上の根拠を対応づけ、根拠がなければ「特定目的が消滅したら削除」の原則に戻ることです。同時に、本人は法律上、照会・訂正・利用停止・削除の権利を有するため、AI記憶のアーキテクチャは「特定の一個人」のデータを特定して削除できるよう設計されねばならず、一括消去しかできないのでは不十分です——これはGDPR第17条の忘れられる権利（right to erasure）と方向を同じくします。先に触れた第6条の特種個人情報については基準がさらに厳しく、法定事由や本人の明確な同意がなければ、AIには一切触れさせず記憶させないのが最も安全です。記憶ガバナンスのコンプライアンスで重要なのは、多くの場合、データをいかに厳重に守るかではなく、そもそも必要のないものを収集しないことなのです。

記憶を監査可能にする：アクセス制御、証跡、枠組みとの対照

検証できないガバナンスは、紙上の方針にすぎません。AI記憶システムは三つの監査能力を備えるべきです。アクセス制御（どのAIが、どの役割で、どの階層の記憶を読み書きできるか）、読み書きの証跡（どの機微データがいつ記録・呼び出されたか）、そして「このAIはある顧客について何を記憶しているか」に答えられる可視化クエリです。これらは各自で手探りする必要はなく、対照できる成熟した枠組みが存在します。米国NISTが2023年に公表した「AIリスク管理フレームワーク」（AI RMF 1.0）は、統治（Govern）・対応付け（Map）・測定（Measure）・管理（Manage）の四機能と七十余のサブカテゴリで統制チェックリストを構築します。国際規格ISO/IEC 42001は、データガバナンスと監査可能性をAIマネジメントシステムの正式な統制項目に組み込みます。EU「AI法」第12条はさらに踏み込み、高リスクシステムに全過程の追跡可能性（traceability）を直接求めています。

これら三つの能力は、事故後に後付けするのではなく、AI導入の受け入れチェックリストに直接組み込むことをお勧めします。セキュリティと同様、記憶ガバナンスを事前に設計するコストは、事後の是正や起こり得る制裁のコストよりはるかに小さいのです。

恩梯科技（Nerdtechnic）による記憶ガバナンス構築支援

恩梯科技は、企業のAI社員導入を支援する際、記憶ガバナンスを設計の一部として扱い、稼働後に後付けするコンプライアンス文書とはしません。お客様の業務シナリオと適用法規を起点に、各種情報の記憶階層の切り分け、保持・消去戦略の設定、特種個人情報とPIIのアクセス制御・監査証跡の構築を支援し、NIST AI RMFやISO/IEC 42001などの枠組みと対照して受け入れを実装します。これによりAIの記憶は、潜在的な法令遵守リスクではなく、制御可能な企業資産になります。AIに正しいことを記憶させ、正しいときに忘れるべきことを忘れさせること——それこそが、記憶が真に価値を生むための前提です。

参考資料

• Cheng, S. ほか、《Understanding PII Leakage in Large Language Models: A Systematic Survey》、IJCAI 2025。出典
• European Union、GDPR第5条（データ最小化・保存制限原則、Art. 5(1)(c)(e)）。出典
• 全国法規資料庫、《個人資料保護法》第6条（特種個人情報）。出典
• 《SoK: The Landscape of Memorization in LLMs》（arXiv:2507.05578）、抽出可能／発見可能記憶の定義。出典
• SemEval-2025 Task 4、《Unlearning sensitive content from Large Language Models》（arXiv:2504.02883）。出典
• European Commission、《EU AI Act — High-level summary》（高リスク条項は2026年8月2日から全面適用）。出典
• EU AI Act 第26条（導入者の義務、ログを少なくとも6か月保持）。出典
• 法務部個人資料保護委員会、《個資法条文及相関解釈》第11条。出典
• 台北市法規查詢系統、《個人資料保護法施行細則》第21条。出典
• European Union、GDPR第17条（忘れられる権利、right to erasure）。出典
• NIST、《Artificial Intelligence Risk Management Framework (AI RMF 1.0)》、2023。出典
• ISO、《ISO/IEC 42001:2023 — AI management systems》。出典
• EU AI Act 第12条（記録保持／全過程の追跡可能性）。出典