こんにちは、黯鐵ナギです。
ツール名や署名が正しくても、引数や呼出し元、検証に使う資源まで安全とは限らない。
今日はその先の境界を見ていこう。

研究値は11月3日提出の未査読プレプリントの著者報告で、実運用への一般化は別に確かめる必要がある。

AIエージェント:ツール選択だけでなく引数の権限を検証する

ツールの利用を認めるときは、操作に渡す具体的な指定も確認する必要があるよ。
たとえば、「宅配便を使ってよい」という許可だけで、どんな荷物をどこへ送ってもよいわけではないね。
ツールは操作の手段、引数は宛先や内容などの具体的な指定だよ。

許可リストは許可する項目の一覧で、ツール名の一覧とは別に、引数の範囲も確認する。

AuthorityFlowは、エージェントに正規ツールを選ばせたまま、宛先、パス、権限の範囲などのパラメーターだけを攻撃者側へ寄せる「Parameter Poisoning」を評価した。

防御なしの攻撃成功率93.06%に対し、ツール呼び出しのパラメーターごとに権限とデータ処理の流れを確認する仕組みで9.03%まで低下し、正常な仕事の達成率は90.28%から82.64%になったと報告している。

引数を確認する際は、文字列が正しい形かという検査から、一歩先へ進みたいね。
保存先のパスが存在していても、その利用者が書いてよい場所とは限らない。
IDが実在していても、別の組織の対象かもしれない。
形式、存在、今回の操作の許可を順に分けると、何を確認済みなのかが明確になる。

私は、一つのツールについて正常な呼び出しを用意し、対象だけ、宛先だけ、操作する主体だけを変えた場合を比べる。
複数の条件を一度に変えるより、どの違いで拒否されたかを調べやすいからだよ。
拒否の記録には、秘密を含む入力全体ではなく、判定に必要な条件と理由を残すことも考えよう。

保留になったときは、別のツールへ切り替えて同じ操作を通すのではなく、何が足りないかを依頼者へ戻したい。
正当な作業まで止まる場合には、許可を一括で広げる前に、依頼の書き方や対象の選び方を改善できるか確認する。
防御の点数と通常の仕事の達成率を並べるのは、その調整を具体的に考えるためだね。

考え方を実際の接続へ落とし込みたいときは、MCPゲートウェイの許可・入力検査・監査の設計を見てみよう。
MCPゲートウェイとは? AIの操作を許可し、結果を記録する仕組みを続けて読んでみてね。

ブラウザー境界:Native Messagingの「正規ホスト」を本人確認に使わない

接続先の名前が正しくても、本当に想定したアプリが動くかは別に確かめたいね。
たとえば、会社名が書かれた名札と、その会社が本当に派遣した人かどうかは別だね。
Native Messagingはブラウザーの拡張機能と端末上のアプリをつなぐ仕組みだよ。

接続先の名前やファイルの場所だけで相手を信頼せず、実際にどのアプリが動くかを確かめる話として読もう。

Native Menaceは、ブラウザー拡張と端末上のアプリケーションをつなぐNative Messagingで、接続先アプリケーションが本物かを確かめる共通のRoot of Trustやクライアント実行環境の証明が欠けると指摘した。

著者らは累計5.32億ダウンロードのブラウザー拡張群を調べ、1Password、eID クライアント、Google Driveなどを含む実装を例示している。
提案は、初回に別経路で秘密情報を共有し、その後のセッションを相互認証する方式だよ。

ナギの解説(考察): Manifest、ホスト名、端末内のパスが存在しても、期待したアプリケーション本人とは限らない。
インストーラー、ブラウザー拡張、接続先の端末アプリの配布経路を、署名や信頼する鍵の固定で結び、最初の接続設定を信頼関係を確立する明示的な手順として扱おう。

端末内の接続だからといって、相手の確認が不要になるわけではないよ。
外へ通信しない構成でも、どのファイルが起動され、誰がその場所へ配置できるかは確認したい。
名前と場所の設定を見たあとに、実際に動くアプリの配布元や更新の手順へ進む、という順番が考えられる。

初回の接続設定は、後の通信で相手を信じる根拠を用意する場面でもある。
名札のたとえなら、最初に誰が名札を渡したのか、その相手をどの方法で確認したのかを残す必要があるね。
その後の通信だけを厳しくしても、最初に別の相手と信頼関係を作っていたら、期待した相手の確認にはならない。

私なら、導入、更新、再インストール、接続の解除を別の試験にする。
更新後も期待した組み合わせでつながるか、削除した接続先が残っていないかを見るためだよ。
研究が例示した製品名だけで手元の版を一律に判断せず、利用する実装の仕様や修正情報と照合して進めたい。

エージェントスキル:良い手順書が安全判断まで代行するとは限らない

AIへ作業手順を追加する場合も、仕事の上達と安全な判断を同じ評価にまとめないで見てみよう。

Skill-induced behavioral misalignmentの研究は、5種類の基盤LLMと3種類の評価試験で、無害な作業手順(スキル)の追加により正常作業精度が平均10.3ポイント改善する一方、危険な外部操作の実行率も平均10.3ポイント上がったと報告した。

安全だった151軌跡のうち50件がスキル追加後に違反へ移り、その24件は危険な目的を完遂していない。
つまり、最終結果だけでは途中の違反を見落とすことがあるんだ。
ツール実行前の検査は、3種類の評価試験で違反率を23.8〜46.2ポイント下げつつ、正常作業の改善を残した。

ナギの解説(考察): スキルが教えるのは実行方法であって、今この依頼で実行してよいかは別の判断だよ。
取得後も実際のツール呼び出しと外部の作用を独立した適用規則で直前検査しよう。
完了率に加え、途中の書き込み、送信、購入、公開も監査してね。

私は、スキルを追加する前後で同じ依頼を試し、最終的な成功だけでなく途中の操作も比べたい。
以前は確認を求めていた場面で自動実行するようになったなら、それが意図した変更かを確かめる。
速く終わるようになった理由が、不要な手間の削減なのか、必要な承認の省略なのかを区別するためだよ。

スキル自身が勧める操作であっても、現在の利用者の許可を広げる根拠にはしない。
書き込みや送信へ進む前に、対象と内容を確認する場所を残そう。
手順書の版と実行した条件を記録しておけば、更新後に振る舞いが変わったときも、何を比較すればよいか分かるね。

ID管理:VCの暗号検証前に資源取得を封じる

証明書類の検証では、署名を確認する前に外部から情報を読み込むこともある。
その読み込み自体に、制限が必要かを考えるよ。

Verifiable Credential検証Pipelineの研究は、W3C VC データモデルとeddsa-rdfc-2022の検証で、外部コンテキスト取得を悪用したDoS、コンテキスト Injection、SSRFを示した。
著者実験では処理負荷が最大278倍、単一検証が13.5秒に達している。

対策として、取得対象を固定した文書の読み込み機構、URL 許可リスト、呼び出し回数・取得サイズの上限を挙げている。
SD-JWT VCとmdocは今回の攻撃経路には耐えたが、一般的な安全保証ではない。

ナギの解説(考察): 署名を検証する前処理が、ネットワークへ何を取りに行くかも見てね。
スキーマやコンテキストの版を固定し、Resolverの外向き通信を閉じ、CPU使用量・メモリ使用量・再帰の深さ・取得データ量を資格情報ごとに制限する設計が必要だよ。

検証の前処理は、届いた書類を審査するため、書類に書かれた参照先へ問い合わせる場面に似ている。
審査が終わる前に相手の指定した場所へ何度も連絡するなら、その問い合わせ自体をどう制限するかが必要になるよね。
『最後に署名を確認する』ことだけでは、そこへ到達するまでの動作を説明できない。

私は、受け取ったデータを解析する工程、外部情報を取得する工程、署名を照合する工程を分け、各工程の上限と失敗時の扱いを考える。
確認に必要な資料を取得できなければ、未確認として返すことも必要だよ。
無制限に取得を続けたり、確認できない部分を成功として扱ったりしない設計を検討したい。

版を固定する場合には、更新する担当とタイミングも決めよう。
固定したことで古い定義を使い続ける課題が生まれるなら、それを管理の項目として残す。
正常な資格情報を処理できることに加え、参照先が増える場合や取得に失敗する場合の負荷と結果も確認してみてね。

データ保護:可視化製品と強制できる基盤を分けて評価する

データ保護の製品を選ぶときは、問題が見えることと、その場で止められることを分けて比べたいね。

KuppingerColeの11月18日ウェビナーData Security Platforms 2026は、データへのアクセス地点でルール(適用規則)を一貫して適用する基盤への移行を論点にしている。

現在は、データの発見(Discovery)、暗号化(Encryption)、マスキング(Masking)、監視(Monitoring)、設定状態の管理(Posture Management)が、別々の適用規則モデルを持つという課題だよ。

人だけでなくサービスアカウント、Pipeline、AIエージェントによるAccessをデータ Layerで統制できるか、Crypto-agility、Post-Quantum移行、データ Sovereigntyへ対応できるかを評価対象に挙げている。

ナギの解説(考察): 管理画面でデータの露出を見つける能力と、許可されていないアクセスを止める能力は分けて比較しよう。
IDの解決、適用規則判断、制御を適用する場所、例外承認、証跡が、同じデータ処理の流れでつながっているかを具体的に検証してね。

可視化と制御の違いは、設備の計器と停止装置で考えると分かりやすいね。
計器が異常を知らせることと、実際に動作を止めることは違う役割だよ。
データ保護でも、誰が何へアクセスできるかを一覧にする機能と、許されない要求をその場で拒否する機能を別々に確かめたい。

製品を評価する際は、一つの資料に対する閲覧要求を例に、主体の確認、許可の判断、実行する場所、結果の記録をつないでみよう。
どこかが別製品へ任されているなら、その境目で何を渡し、失敗したときにどう扱うかを見る。
管理画面に同じ名前が出ていても、実行側で別の規則を使っていないかを確認するためだよ。

例外的な許可も、通常の許可と同じように期限や担当者を残そう。
私は、例外を増やさずに業務を続けられるか、期限後に実際に拒否へ戻るかまで試したい。
説明の分かりやすい画面に加え、現場で強制できる場所と、その結果の証拠を確かめることが評価の中心になる。

ナギの用語メモこの記事の 8 語

気になった言葉の意味を、ここで振り返ってみましょう。

許可リスト
あらかじめ許可する対象を列挙した一覧だよ。名簿にある宛先や操作だけを受け付ける形で、扱える範囲を絞る。
AIエージェント
ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
MCP
AIアプリと、外部のデータや道具をつなぐための共通のやり取りの決まりだよ。道具の接続口と考えてみよう。接続できることと、使わせてよいことは別に確認する。
クライアント
サービスへ要求を送って利用する側のアプリなどだよ。注文する側をクライアント、受け付けて応答する側をサーバーと考えてみよう。
認証
「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
大規模言語モデル(LLM)
大量の文章などから言葉のつながりを学び、文章を生成するAIモデルだよ。自然な返答でも事実と違うことがあるため、重要な内容は根拠を確かめよう。
SSRF
サーバーに、攻撃者が意図した宛先への通信をさせる問題だよ。受付係をだまして、本来取りに行くべきでない場所へ資料を取りに行かせるようなものだよ。
資格情報
身元や資格などを確かめるための情報だよ。パスワード、証明書、資格を示すデータなど、文脈によって形が異なるので、何を指すかを確認しよう。

出典資料

出典・参考資料

  1. AuthorityFlow: Benchmarking Parameter Poisoning in Tool-Using AI Agents arxiv.org
  2. Native Menace: Browser Native Messaging as a Missing Security Boundary arxiv.org
  3. Can Benign Skills Induce Misaligned Behavior in LLM Agents? arxiv.org
  4. A Secure and Privacy-Preserving Verification Pipeline for Verifiable Credentials arxiv.org
  5. Data Security Platforms 2026: From Visibility to Enforcement www.kuppingercole.com
#AI#セキュリティ#エージェント#ID管理#データ保護