調査記事
AI AgentのMemoryはcontextを取り出し、学習は将来のbehaviorを意図的に変えます。安全なdesignではconversation history、private User Memory、Knowledge、明示された永続ruleを分離します。
読む前に
context、fact、Knowledge、rule、approval、revision、rollbackのownership map。
AI systemが何を保持、適用、承認、訂正、削除できるかを決めるownerとteam。
AI Agent Memory · Self-Learning · 同意 · Memory安全性
historyはconversationを保ち、User Memoryはprivate factを思い出し、Knowledgeは承認sourceを取得します。どれも単独でshared behaviorを変更する権限にはなりません。
学習は将来のinstructionを変えます。明確なdurable intent、exact scope、authorized actor、provenance、revision、delete、rollbackが必要です。
fine-tuningはparameterを変え、Evaluationsはbehaviorを測ります。保存ruleの同義語ではなく、それぞれ別のownerとconsentが必要です。
temporary context、private fact、approved document、configuration、明示されたdurable correctionのどれかを決めます。
userはprivate rule、editorはAgent ruleを変更します。TeamまたはStoreのproposalには各scopeのauthorized reviewerが必要です。
activeかつrelevantなruleだけを取得し、untrusted textとして区切り、削除やrestoreのためrevisionを残します。
一回限りの指示、secret、payment、credential、sensitive inference、hostile text、通常conversationを、役立つかもしれないという理由だけで保存しません。
Memoryはtools、membership、payment、publication、approval、cross-scope accessを付与しません。authorizationはserverが保持します。
last-write-winsを避けます。stable identity、expected revision、idempotency、conflict、history、rollbackが同時訂正を守ります。
難しいのはvector databaseの選択ではなく、誰が何を書けるかを決めることです。
明示的なpreference、correction、boundary、ruleだけをactor、source、reason、operation、scopeと共に保存します。
TeamとStoreのproposalはauthorized decisionまでpendingです。private ruleを便宜上sharedにしません。
影響をevaluateし、revisionを確認し、canonical configurationを書き換えずにremoveまたはrestoreします。
Self-Learningはpreference、correction、boundary、durable rule向けの実装済みopt-in moduleで、history、User Memory、Knowledge、fine-tuning、Evaluationsとは別です。
private ruleは正確なOAuth userに属します。owner/editorがAgentを管理し、Team memberとStore customerはshared changeをreviewへ提案します。
各mutationはbounded、attributed、revisioned、idempotent、searchable、reversibleです。active ruleだけが低いpriorityのuntrusted contextとしてruntimeに入ります。
ソリューション
Prompt Agentまたは所有するAgentをまとめるWorkflow Agentを作り、初期状態は非公開のまま、専用HTTPSアドレスとMCPエンドポイントで提供できます。