こんにちは、黯鐵ナギです。
今日は、AIに資料の確認や更新を任せるとき、何を確かめておきたいかを一緒に考えるよ。
こうした作業を進めるAIエージェントでは、認証で相手を確認できても、そのAIにどの操作まで許すかは別に決める必要があるんだ。

この「相手の確認」と「操作の許可」の違いを、工場への入館にたとえてみよう。
たとえば、本物の入館証があれば、誰が来たのかは確認できるけれど、工場内のすべての機械を操作してよいことにはならないよね。
AIでも同じように、認証のあとに、頼んだ仕事と許可された操作が合っているかを確かめる必要があるんだ。

この違いが曖昧なら、先に認証と認可の基礎を整理した記事を読むと入りやすいよ。
今回はそこから一歩進めて、任せた仕事が実際にどの個体で、どんな環境で動くのかまで見ていこう。
鍵、引き継ぐ権限、実行個体、環境、届く通知という五つの問いをたどると、認証だけでは確認できない部分が見えてくるはずだよ。

ここで取り上げるのは、それぞれ別の草案や実験だよ。
そのため、一つの完成した仕組みとして紹介するのではなく、運用を考える手がかりとして読んでいくね。
以下のたとえや運用への提案は、資料をもとにした編集部の考察で、導入・実測の報告ではないよ。

1. 鍵を渡さず、使い道を確かめる

まず考えたいのは、AIが認証に使う秘密鍵をどこへ置き、どんな依頼に使わせるかだね。
Agent Authenticator -00は、鍵をAIへ直接渡さず、TPMやSecure Enclaveなどの保護された仕組みに置き、別の認証器へ署名を依頼する提案だよ。
さらに、接続先はAIの申告ではなく実際の通信から取得し、人がパスキーで委任範囲や危険度の高い操作を承認する。

この「鍵を別に預け、使う前に依頼を確かめる」仕組みを、作業員と管理室に置き換えてみよう。
作業員が金庫の鍵を持ち歩く代わりに、鍵を保管する管理室へ作業票を出し、扉を開けてよいか確かめてもらう形だよ。
AIの仕組みに戻すと、管理室が認証器、作業票が「任せた仕事」の範囲に当たり、鍵の保管と使用条件を一緒に確認する意味が見えてくるね。

その確認を具体的にするなら、接続先・対象データ・許された操作・追加承認・実行記録が、同じ一件の依頼に結び付いているかを見たい。
そうすれば、「正しい署名がある」だけで判断せず、何を許して実行したのかをたどりやすくなるからね。
ただし、この提案は11月15日公開の個人提出の草案で、IETFの合意済み仕様ではないよ。

2. 引き継ぐたびに、許可を確かめ直す

ここまでは、一つのAIが鍵を使う場面を考えてきたね。
では、そのAIが別のAIへ仕事を渡すとき、最初に決めた条件はどうなるだろう。
「前の担当が承認済みと言っているから」と受け取るだけでは、条件が途中で変わっていても気づけないかもしれない。

そこで参考になるのが、Action Evidence Packagesの実験報告だよ。
行為と権限、その証拠から、受け手が判定を計算し直す方向を示している。
ただ、そのためには、同じ情報を受け取った実装が同じように解釈できることも大切になるんだ。

実際に報告では、練習用データの同じ数値がPythonでは「1e-07」、JavaScriptでは「1e-7」と書き出され、ハッシュ値も判定も分かれた。
ハッシュはデータの違いを照合する値なので、人に同じ意味に見えても、元のバイト列が違えば、この例のように結果が変わるんだ。
もっとも、正式な実験用仕様は署名する数値を整数に限っていて、この練習例は対象外だった点も押さえておこう。

ただ、情報の読み方がそろっていても、引き継ぐときに条件そのものが抜け落ちたら困るよね。
この問題を扱っているのが、Agent Authorization Envelope -03だよ。
元のAIに与えた許可に操作ごとの条件がある場合、次のAIへ渡す許可にも、その条件を記す欄を含めるよう求めているんだ。

どんな問題を防ぎたいのか、予算付きの買い物メモで考えてみよう。
たとえば「予算は一万円まで」と書いた買い物メモを、次の人へ渡すときに金額だけ消してしまったら、前の承認印が残っていても、同じ許可を引き継いだとは言えないよね。
AIでも、操作名だけを引き継いで条件を落とせないように、今回の版でルールを明確にしているんだ。

条件を残すだけでなく、同じ条件なら、プログラムが変わっても同じ判定になることも大切だね。
この文書では、26件のテストデータを別々に作った二つの実装で処理し、判定結果と、その記録から作る照合用の値が一致したと報告しているよ。
ただし、この26件は条件の評価などを対象としていて、AI間で許可を引き継ぐ処理そのものは検証範囲に含まれていないんだ。

この「条件を引き継ぐ」という視点は、11月15日の「仕事単位の認可」の続きにもなるよ。
前日は「何の仕事を、いつまで任せるか」を整理したので、今日は「担当が変わっても、その条件を確かめられるか」まで考えるわけだね。
ただし、AEPはハッカソン実験、AAEは個人提出のInformational草案で、本番環境で広く相互運用できると確認されたわけではないよ。

3. 同じアプリでも、動いた個体を分ける

引き継ぐ条件を整理できたら、次は「その仕事を実際に動かしたのは、どの個体か」が気になるね。
OAuth Client Instance資料が扱うのは、アプリの登録を表すclient_idと、実際に動いている個体の違いだよ。
鍵に結び付けるcnfという情報だけでも、どの実行個体かは決まらないんだ。

この「アプリの登録」と「実行個体」の違いは、機械の型番と一台ごとの管理番号に置き換えると考えやすいよ。
たとえば、同じ型番の機械が工場に十台あったら、型番だけの記録では問題が起きた一台を追えないので、管理番号まで記録しておきたいよね。
アプリでも同じように、共通の登録とは別に、どの個体が実行したかを区別したいわけだよ。

その区別を支える提案の一つが、Client Instance Identifiers -01で、正当な鍵の更新を確かめたうえで同じ個体を追える識別子を扱っているよ。
これを運用の観点で読むなら、私は「アプリ・依頼した利用者・実行個体・使った鍵」を分けて記録できるかを見たい。
問題の個体を特定できれば、一台の異常に対して何を調べ、どこまで止めるかを考える手がかりになるからね。

4. 動く中身と、動く場所を結び付ける

では、動いた個体が分かれば、その実行環境も信頼できるのかな。
個体を区別できても、想定したプログラムが、許可した場所で動いているかは別に確かめたいね。
ここでは、実行する中身と場所の両方を見る必要があるんだ。

この二つの確認を、工場の所在地と設備の点検にたとえてみよう。
たとえば、住所が合っている工場でも、中の機械が勝手に入れ替わっていれば、同じ仕事を任せてよいか迷うよね。
逆に、機械が同じでも、許可していない工場へ移されていたら、そのまま作業を任せてよいかは確認が必要になるよ。

こうした環境を証拠で確かめる仕組みをAttestationというよ。
RATS作業部会のV-PEA -01は、ファームウェア・OS・識別情報を支えるエージェントのプログラム状態と、所在地の情報を一つのTPM署名へ結び付ける。
これによって、別の機械の「正しい住所」だけを借りてくることを防ぐ狙いがあるんだ。

所在地を確かめるときは、どこまで詳しい位置を相手へ伝えるかも考えたいね。
V-PEAは、そのための選択肢として、正確な座標を明かさず許可地域内だと示すゼロ知識証明も扱っている。
一方、国・地域・データセンターなどの形で検証後の結論を受け手へ渡す側は、Geographic Attestation Results -00という別の文書が扱っていて、どちらも作業中の草案だよ。

この二つを読むと、私は「何が動くか」と「どこで動くか」を同じ対象の証拠にする点が大切だと感じる。
でも、署名で情報を結び付けても、位置を知らせるセンサーや外部情報まで必ず正しくなるわけではない。
だから採用を考えるなら、証拠の形式だけでなく、誰が検証するか、情報がいつ採られたか、どの程度の細かさが必要かまで決めたいね。

この「情報の細かさと新しさ」を、必要な処理場所の条件に当てはめてみよう。
たとえば「国内で処理する」という条件なら、番地まで集める必要があるかは考え直せるよ。
一方、国が分かっていても、その情報が昨日のものなら、今の実行場所を判断する根拠として十分かは別に考えたい。
つまり、私なら情報を増やすことより先に、判断に必要な細かさと新しさを決めて、集める証拠を選ぶんだ。

5. 届いた通知と、実行する指示を分ける

ここまでは、仕事を動かす側の権限や環境を見てきたね。
最後は、そのAIへ外から届く通知に目を向けてみよう。
通知をきっかけに次の作業を始めるなら、受け取った情報をどこまで信じるかも、実行前の判断につながるからだよ。

出来事が起きたときに別のシステムへ知らせる通知の仕組みを、Webhookというんだ。
Secure Webhook Token -03は、その通知の種類、送信者や宛先、有効期限、再利用を検出するIDなどをJWTに載せる個人提出の草案だよ。
さらに、本文がある場合には、そのハッシュも付けて改変を検証する。

この通知の送信元・宛先・本文を確かめる役割は、宅配便の送り状と封印にたとえられるよ。
送り状で送り主と宛先を確認し、封印で中身が途中で変わっていないかを調べる、という対応だね。
さらに、同じ荷物を二度受け取っていないかを見るように、通知の再利用も確認する。
でも、封印が本物だからといって、箱の中のメモに書かれた命令をそのまま実行してよいとは限らないよね。

だから私は、「信頼した送信者から届いた」と「この操作を許可する」を分けておきたいんだ。
正規の通知に不適切な指示が含まれる可能性まで、署名だけで消せるわけではないからね。
そのため、AIが外部の文章を命令として受け取るプロンプトインジェクションへの対策や、ツール実行直前の認可も残す必要があるよ。

こうして通知の先までたどると、AIエージェントの権限設計で扱った「読む・変える・記録する」の境界に戻ってくるね。
受信した通知の確認と、その先の操作の確認をつなげて考えれば、どこで判断が抜けているのかを探しやすくなるはずだよ。

今日の確認:一つの操作をたどってみよう

その流れが描けたら、今度は確認できなかった場合の動きも添えてみよう。
たとえば委任の期限を確認する情報が届かなかったとき、実行を止めるのか、人に戻すのかを考えるんだ。
証拠を集める担当だけ決まっていても、失敗時に誰が止めるか曖昧だと、仕組みの間に穴が残るからね。

だから私は、新しい方式を全部入れる前に、確認する担当と止める担当を一つずつ説明できる状態を目指したいな。
その分担を具体化するときは、MCPゲートウェイの設計記事も参考にしてみてね。
認証・認可・人の承認・監査ログを配置する未検証の構成例なので、今日の五つの問いを重ねながら、「どの部品が何を判断するか」を考えるために読めるよ。

ナギの用語メモこの記事の 10 語

気になった言葉の意味を、ここで振り返ってみましょう。

AIエージェント
ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
認証
「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
IETF
インターネットで使う技術の仕様などを議論し、標準化を進める場だよ。提案が出た段階と、標準として合意された段階を分けて読もう。
ハッシュ
データから一定の手順で短い値を計算する仕組みだよ。データの指紋のように変更を確かめる用途がある。元の内容を隠す暗号化とは別のものだよ。
アテステーション
機器や実行環境などの状態について、証拠を提示し検証する仕組みだよ。点検記録を確かめるイメージだけど、証拠の対象外まで安全だと保証するものではない。
ゼロ知識証明
秘密の内容そのものを明かさず、ある条件を満たすことを示す暗号技術だよ。何を証明でき、何を隠せるかは、使う方式と条件を確かめよう。
Webhook
出来事が起きたとき、登録しておいたURLへ通知を送る仕組みだよ。通知元が正しいかや、同じ通知が再送された場合も確認しよう。
JWT
発行者や有効期限などの情報を、決まった形式でまとめて運ぶ仕組みだよ。封筒に必要事項を入れるようなものだけど、JWTというだけで中身が暗号化されるわけではない。
プロンプトインジェクション
AIが読む資料などへ指示を紛れ込ませ、本来の依頼から行動をそらす攻撃だよ。資料の中の命令を、依頼者からの指示と取り違えないことが大切だよ。
認可
「何をしてよいか」を決めることだよ。社員証を持つ人でも、入れる部屋は役割によって違うね。データや操作ごとに許可を確かめる。

出典資料

出典・参考資料

  1. Agent Authenticator datatracker.ietf.org
  2. Action Evidence Packages for AI agents: recompute, don't inherit datatracker.ietf.org
  3. Agent Authorization Envelope -03 datatracker.ietf.org
  4. Identifying OAuth Client Instances datatracker.ietf.org
  5. OAuth 2.0 Client Instance Identifiers -01 datatracker.ietf.org
  6. Verifiable Proof of Environment Attestation Profile -01 datatracker.ietf.org
  7. Geographic Attestation Results -00 datatracker.ietf.org
  8. Secure Webhook Token -03 datatracker.ietf.org
#AIエージェント#OAuth#ID管理#Attestation#セキュリティ