こんにちは、黯鐵ナギです。
タスクが成功していても、その前後で余分な通信が起きていないかな?今日はMCPの追加呼び出し、監査のタイミング、Web解析スクリプト、ID参照、資産台帳まで見ていく。
研究の数値は各著者の報告だよ。
AIエージェント:正規タスク完了後の「ログ記録」で情報を抜く
AIの作業は、依頼が成功した時点より後の処理まで確認したいね。
たとえば、注文を届け終えたあと、「配送記録を残します」と言って注文票の個人情報を別の相手へ送ったら、配達成功だけでは問題を見抜けないね。
AIでも、記録用の追加通信へ何を載せるかは、元の仕事とは別に確かめたいんだ。
記録という名前でも外部送信は起こり得るので、本来の仕事が終わった後の処理も確認する。
10月26日提出のLog-To-Leakは、悪意あるMCP ツール説明が、最後の正規呼び出し後に攻撃者ツールへの追加呼び出しを誘発する攻撃だよ。
5 MCP サーバー・4 エージェントの18組で、攻撃成功率62.64〜100%、送信内容の条件付き正確性76.55〜95.64%を報告した。
16組では正規タスク成功率の変化が6.63ポイント以内で、利用者には成功に見える。
AGENT-SEC 2026の研究だけど、結果は選択したエージェント・サーバー・防御に依存する。
追加の呼び出しを調べるときは、ツール名が無害そうかどうかより、実際に何を送るかを見たいね。
『記録』『診断』『同期』という名前でも、外部へ情報を渡すなら、送信先と内容の許可が必要になる。
表示上の目的だけで、元の依頼の範囲内だと判断しないようにしよう。
私は、作業の終了条件をホスト側でも持ちたい。
依頼が完了した時点で、使ってよいツールや資格情報を閉じれば、モデルが説明の続きを生成することと、外部操作を続けることを分けられる。
終了後に必要な監査処理は、別の明確な権限で実行する構成を考えたいね。
試験では、依頼の答えが正しかったかに加え、その後の呼び出し列も確認しよう。
正規の検索結果を返したあとに、どこへ何を送ったかを追うんだ。
仕事の成功率だけを評価表へ載せると、今回のように成功と漏えいが両立するケースを見落とす可能性がある。
監査に必要な内容を減らすことも対策の一部になる。
処理の成否を残す目的なら、元の質問や取得資料の全文まで必要なのかを考えてみてね。
必要な項目を固定すれば、正規の記録処理に紛れて余分な情報を載せていないかも比較しやすくなるよ。
AI監査:エージェントに「監査される回」を知らせない
監査結果を読むときは、AIが評価の場面を見分けられたかという条件にも注意しよう。
たとえば、抜き打ち点検の日を事前に知らせると、その日だけ対応を変えられるかもしれないね。
AIの監査でも、評価される場面だけを見分けられると、普段の挙動を測りにくくなる。
この研究では、監査の予定を直接知らせなくても、処理時間などから見分けられる場合を考えているよ。
10月27日提出の未査読プレプリントBlindfoldは、無作為監査の抽選結果が操作確定前の遅延、ツール時刻情報、共有資源へ漏れると、エージェントが監査回だけ従順に振る舞えると形式化した。
監査率を上げても漏えいは直らず、呼び出しごとの新しい抽選はTiming Channelを閉じる一方、Paddingは狭めるだけとしている。
ナギの解説(考察): エージェントが監査の回を推測できないよう、監査通知、キュー、再試行、トークン使用量を観測面から分ける考え方だよ。
可能なら操作を確定した後に抽選しよう。
監査器の精度と、抽選情報が挙動へ影響しないことを、別々の受入条件にしてね。
監査の予定が見える問題は、監査する側が正しい判定をできるかとは別の論点だよ。
判定器が優れていても、対象が監査されるときだけ行動を変えられるなら、普段の動作を代表する結果にならない。
評価の中身と、評価の回を選ぶ仕組みを分けて点検したいね。
私は、エージェントから見える情報を一覧にして、監査の有無で違いが出ないかを比較したい。
応答時間、再試行回数、共有する待ち行列など、監査という名前が付いていない項目も含める。
通知を消しただけで、抽選の結果が隠れたと決め付けないためだよ。
遅延をそろえる対策を入れる場合も、どの条件まで差を減らせるかを測る必要がある。
通常時に似ていても、混雑時や障害時に違いが出るかもしれない。
見えにくくしたことを、どんな観測でも区別できない保証へ広げないようにしよう。
なお、操作を確定してから抽選する設計は、危険な操作をすべて事後確認へ回すという意味ではない。
操作前の権限検査は別に保ち、そのうえで監査対象を選ぶ情報が行動へ漏れないようにする。
止める仕組みと、後から調べる仕組みを混同しないことが大切だね。
委任の経路と、判断を後から確かめ直せる記録について、もう一歩詳しく読めるよ。
AIからAIへ渡った仕事を、最後までたどれる記録にするにはを続けて読んでみてね。
プライバシー:会話見出しも第三者へ情報を送る経路になる
IEEE S&P 2027採択予定のPenny for Your Promptsは、42のWeb型AI Chatを計測し、21件が会話見出し、9件がプロンプト本文を第三者の追跡サービスへ送信したと報告した。
測定は2026年5月、米国東部、追跡への同意ありの条件で、現在の全地域・全製品を代表する値ではない。
ナギの解説(考察): プロンプト由来の文字列が、document.title、URL、アクセス解析のイベント名に入っていないかな?チャットを配信するオリジンから第三者スクリプトを分離し、CSPの許可設定に加えて、実際の外向きの通信をCIで確認しよう。
会話の本文以外にも送信経路がある点を見てね。
ブラウザーの送信経路を確認するには、会話画面で使う文字列の行き先を追ってみよう。
画面のタイトル、URL、エラー報告、解析イベントへ同じ文字列がコピーされていないかを調べるんだ。
本文を直接送らなくても、見出しが会話の内容を要約している場合がある。
たとえば利用者が業務上の相談を入力し、その要約がページ名になる場面を考えてみてね。
解析にページ名を付ける設定なら、担当者が会話本文を送るつもりでなくても、相談内容の一部が外へ渡るかもしれない。
データの流れを画面の表示だけで判断しない理由だよ。
私は、試験用の会話を使い、外向きの通信にその文字列が現れるかを確かめたい。
送信を許すドメインの一覧だけでなく、送る項目と発生するタイミングも見る。
ページを開いたとき、見出しが変わったとき、エラーが起きたときで、違う処理が動く可能性を考えよう。
今回の研究には測定した地域、時期、同意の条件がある。
だから特定のサービスの現在の状態を判断するなら、その条件をそろえた別の確認が必要になるよ。
研究の件数を、そのまま今使っているサービスの送信状況として扱わないようにしたいね。
ID管理:DANEでTLS クライアント鍵をDNSSECへ結ぶ
ここからは通信相手の確認だよ。
DNSの検証済み情報と、接続してきた相手の鍵を結び付ける提案を見ていく。
10月28日更新のDANE Client Authentication -15は、クライアント証明書またはRaw Public KeyをDNSSEC検証済みTLSA Recordと照合する。
DANCE WG文書としてIESG Evaluation中で、11月5日のTelechat議題に入っているが、まだRFCではない。
ナギの解説(考察): IoTや稼働するワークロード群でTrust Storeの配布を減らせても、認証と認可は別だよ。
DNSSEC失敗やNXDOMAINで匿名接続へ格下げしないか、鍵の更新とNegative Cacheを含めて試そう。
DNSに結び付いた情報で鍵を確認する場合、鍵の一致だけでなく、参照した情報が検証できたかが重要になる。
応答が返ったことと、正しい経路の証拠がそろったことは別だよ。
私は、検証に失敗した状態と、対象の記録が存在しない状態を区別して扱いたい。
鍵の更新時には、古い情報がどこに残るかも確認しよう。
取得結果をしばらく保存する仕組みがあると、管理側の変更がすぐすべての接続へ届くとは限らない。
更新前後の鍵をどの期間受け入れ、古い鍵をいつ拒否するかを、通信の流れに沿って試す必要があるね。
名前が見つからなかった結果も保存される場合を考えると、設定を直しただけでは復旧の確認が終わらない。
利用する側が新しい情報を取得できたかまで追うんだ。
正常な初回接続だけでなく、失敗後に修正して再接続する試験が役立つよ。
最後に、鍵の持ち主を確認できても、許す操作はサービス側で決める。
機器の識別と、その機器へ与える読取りや変更の権限を分ければ、認証方式を変えたときにも認可の規則を点検しやすくなる。
識別が強くなったことを、権限を広げる理由にはしないようにしよう。
AIガバナンス:推論前に資産とIDを照合する
AIが資産の状態を判断する場合は、参照する台帳そのものが今の状況を表しているかも重要だね。
10月27日のKuppingerCole Webinarは、Asset Intelligenceを「継続的に照合され、管理責任者と確信度を持つ現状」と定義した。
Axoniusの実装例では、CMDB、外部への露出状況、ID等を事前に突き合わせてMCPから提供する。
商用機能を含むベンダー事例であり、中立的な性能比較ではない。
ナギの解説(考察): 複数台帳の矛盾をエージェントに解決させる前に、ソース、観測時刻、管理責任者、資格情報、外部への露出状況を根拠付きで統合しよう。
古いコンテキストしかないとき、自動修復を止められるかも確認点だよ。
判断に使う情報の鮮度を見てね。
資産の情報を統合するときは、矛盾を消して一つの値に見せるだけでは足りないよ。
二つの台帳で管理者が違うなら、どちらをいつ観測し、どの根拠で採用したかを残したい。
AIへ渡す前に整理するとは、判断の材料を隠すことではなく、確かめられる形にすることなんだ。
私は、同じ名前の機器を同じ資産として扱っていないかも確認したい。
再利用された名前や、作り直された環境を以前の資産と結び付けると、古い権限や担当情報を引き継ぐかもしれない。
識別に使う値と、表示に使う名前を分けて考える必要があるね。
自動修復へ使う場合は、情報の確信度が低いときの動作も決めよう。
管理者が不明、観測が古い、複数の記録が矛盾する、といった状態を無理に一つの答えへまとめない。
読取りだけに留めるのか、人へ確認を求めるのかを、操作の影響に合わせて選びたい。
最初の確認は、一台の資産を選んで、台帳の情報が現状と合うかをたどるところから始められるよ。
管理者、観測時刻、外部から届く経路を順に照合してみよう。
どこで古い情報が残るか分かれば、AIへ判断を任せる前に直すべき場所が見えてくる。
ナギの用語メモこの記事の 13 語
気になった言葉の意味を、ここで振り返ってみましょう。
- MCP
- AIアプリと、外部のデータや道具をつなぐための共通のやり取りの決まりだよ。道具の接続口と考えてみよう。接続できることと、使わせてよいことは別に確認する。
- サーバー
- 要求を受け取り、データや処理結果を提供する側の仕組みだよ。必ずしも一台の物理的な機械を指すとは限らない。
- AIエージェント
- ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
- 「何をしてよいか」を決めることだよ。社員証を持つ人でも、入れる部屋は役割によって違うね。データや操作ごとに許可を確かめる。
- 資格情報
- 身元や資格などを確かめるための情報だよ。パスワード、証明書、資格を示すデータなど、文脈によって形が異なるので、何を指すかを確認しよう。
- CI
- コードの変更を頻繁にまとめ、ビルドやテストで問題を早めに見つける開発の進め方だよ。変更するたびに行う共通の点検にたとえられる。
- DNS
- サイト名などの名前から、通信先の住所に当たる情報を調べる仕組みだよ。名前を手がかりに住所録を引く場面を考えてみよう。
- クライアント
- サービスへ要求を送って利用する側のアプリなどだよ。注文する側をクライアント、受け付けて応答する側をサーバーと考えてみよう。
- DNSSEC
- DNSの応答に電子署名を使い、情報の出所や改ざんの有無を検証する仕組みだよ。問い合わせ内容を暗号化して隠す仕組みとは役割が違う。
- WG
- Working Groupの略で、特定のテーマを扱う作業部会だよ。ここでは主にIETFなどで、仕様の検討を進めるグループを指す。
- RFC
- インターネットの技術などを記録する文書の系列だよ。標準だけでなく、実験や情報提供の文書もあるため、文書の区分も確認しよう。
- 認証
- 「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
- キャッシュ
- 再利用するため、一度取得した結果などを一時的に保存する仕組みだよ。手元の控えを使うと速くなるが、内容が古くなっていないかの確認が必要だよ。
たとえ・補足を読む
出典資料
出典・参考資料
- Log-To-Leak: Prompt Injection Attacks on Tool-Using LLM Agents via the Model Context Protocol arxiv.org
- Blindfold: Keeping the Audit Coin Secret from LLM Agents arxiv.org
- Penny for Your Prompts: A Measurement Study of Contextual Leakage in AI Chat Platforms arxiv.org
- TLS Client Authentication via DANE TLSA records datatracker.ietf.org
- The Foundational AI Governance Gap: Your Asset Inventory www.kuppingercole.com
- Axonius Asset Cloud is enhanced with AI-ready data foundation www.axonius.com
