こんにちは、黯鐵ナギです。
署名や認証が正しくても、評価内容や委任範囲、通信経路まで自動的に正しいとは限らない。
今日は、それぞれを何に結び付けて確認するか見ていこう。

資料はいずれも早期のInternet-Draftまたは概念段階で、完成済みの標準としては扱わない。

AIガバナンス:評価結果を署名可能なレシートへ

AIの評価結果は、何を、どんな条件で調べた記録かを追えるようにしたいね。
たとえば、商品の検査票に、検査日・製造番号・使った基準が書かれていると、どの品物をどう確かめたか追えるね。
評価レシートも、AIの評価結果を条件と一緒に残す記録だよ。

署名は記録の発行元や改変を確かめる材料で、試験していない条件まで安全だと広げるものではない。

モデル名やデータセット名はSalt付きCommitmentで参照できる。
ただしレシートが証明するのは「署名者がこのバイト列へ署名したこと」であり、評価が正しく実行されたことやTransparency Serviceへの登録までは証明しない。

ナギの解説(考察): 評価結果をPDFで渡すだけでなく、CIの実行ID、成果物の内容の照合値、評価条件、署名済みレシートを結び付けると、変更を追いやすくなる。
評価が実行されたこと、署名者の認可、SCITT等への登録証明は、それぞれ別に検証してね。

署名の確認と評価内容の確認を分けるために、二つの質問を用意するといいよ。
まず『この記録を出したのは誰か』、次に『その人は何を調べ、どの結果を記録したか』だね。
前者が確かでも、試験条件が自分の用途と違えば、導入判断には追加の検証が必要になる。

たとえば、短い日本語の質問で測った結果を、長い契約書の判断へそのまま広げない。
評価レシートに条件を結び付けるのは、良い数字を持ち運ぶためだけでなく、使ってよい比較の範囲を狭めるためでもあるんだ。
これは特定モデルの性能についての主張ではなく、評価を読む際の考え方だよ。

また、内容を隠した参照を使う場合は、誰が照合に必要な情報を持ち、どの条件で開示できるかも確認したい。
匿名の番号があるだけでは、あとから同じモデルやデータだったと調べられないことがある。
公開しない情報と、検証のために保存する情報を分けて考えよう。

判断・委任・実行結果をそれぞれ記録する意味と、署名付きの記録の限界を確認できるよ。
AIの判断と実行を、後から確かめられる記録にするにはを続けて読んでみてね。

エージェント認可:委任の各段階で権限を狭くする

仕事を次のAIへ引き継ぐときは、許可の範囲が広がらないかも確かめよう。
たとえば、鍵を預かった人が、さらに別の人へ渡すときも、開けてよい部屋が増えては困るね。
委任は他者へ権限を託すことだよ。

エージェント間の委任では、誰から受けたかだけでなく、対象・操作・期限が前の段階より広がっていないかを追っていく。

資料で確認できること: 10月10日更新の「Agent Identity Protocol -02」は、人または組織からエージェント、Sub-agent、ツールへ続く委任連鎖を検証する。
引継ぎごとの署名に加え、使えるツールとドメインが元の許可範囲に収まり、予算が増えず、有効期限も延びていないことを確認する。

JWT 連鎖とBiscuit/Datalogの符号化を示すが、個人提出のStandards Track志向草案で、WG採択済みではない。

ナギの解説(考察): 最後のエージェントを認証できても、途中で権限が広がっていないかは別の確認だよ。
ゲートウェイでは最初の委任元、保有者鍵、最大深度、権限の範囲が段階ごとに狭まることを検証しよう。
呼び出し引数、実際の予算消費、取消、実行レシートは、別の制御で補う必要がある。

権限が狭まるという意味を、資料整理の依頼で考えてみよう。
親のAIに『指定フォルダーの閲覧と下書き保存』を許した場合、子のAIへ閲覧だけを任せるのは範囲を狭める例だよ。
ところが、子に外部送信まで許せば、親が持たなかった操作が増えてしまう。

期限や予算にも同じ確認が要る。
親の仕事が終わる時刻より後まで子が動けたり、複数の子へそれぞれ全額を割り当てたりすると、個々の証明が正しくても、全体の制限を超える可能性があるね。
そこで実際の消費や残額は、署名された上限とは別に管理したい。

私なら、親の権限を取り消した後に、すでに動いている子が次の操作を続けられるかも試す。
連鎖を作れたことに加えて、その連鎖をいつ無効と判断するかが運用には必要だからだよ。
ここは草案の形式を読むだけで済ませず、採用する実装の確認項目にしたいね。

アイデンティティ:人が頼んだ目的を、実行時の制御へ結ぶ

人が頼んだ目的を守るには、その目的を実際の操作の制御へつなぐ必要がある。
認証の後にどんな確認を置くかを見てみよう。

資料で確認できること: KuppingerColeの「Identity Orchestration Beyond User Journeys」に文字起こしが追加された。

人由来の依頼の目的をエージェント間で保持し、既存規則を適用する仕組みの判断、人による確認、権限縮小、各システムでの規則の適用、監査証跡へつなぐ制御系としてIdentity Orchestrationを捉えている。

Leadership Compassの結論ではなく、ウェビナーで示された初期構成だよ。

ナギの解説(考察): エージェントへ広い役割を付ける前に、人、目的、対象操作、期限を一つの仕事へ結び付けられないか考えよう。
安全性に関する通知を受信したことと、実際のセッション取消・再認証・権限縮小は分けて追ってね。
処理の流れの版、所有者、ロールバックも運用に含めたいところだよ。

目的と操作をつなぐとは、依頼文を何度も画面に出すことではない。
『会議用の資料をまとめて』という目的なら、閲覧対象、保存先、外部送信の可否など、実行時に判定できる条件へ落とし込む必要があるよ。
曖昧な部分は、AIに広く推測させる前に確認したい。

たとえば、旅行の手配を頼んでも、宿泊先の候補を探すことと、キャンセルできない予約を確定することは違うね。
候補を調べる段階は進められても、費用が発生する段階では条件を見せて確認する。
この区切りが、技術の世界では人による承認や権限の縮小に当たる。

ネットワーク:ROVで経路を捨てても通信は奪われ得る

ネットワークでも、自分の経路検証が成功することと、通信が最後まで想定した道を通ることは別の問題だよ。

資料で確認できること: 「Stealthy BGP Hijacking -03」は、自ASがRPKI-invalid Routeを除外しても、正規パス上の非ROV ASが偽経路を選ぶと、通信が乗っ取り先へ流れ得ると整理する。

被害ASの経路表には攻撃経路が残らないため、制御系だけでは異常を見落とす。
SIDROPSへ提出された個人Informational Draftで、観測例は設定ミスの可能性も残る。

ナギの解説(考察): 自分のRIBにInvalidがないことだけで確認を終えないでね。
複数の経路情報の収集先とTracerouteなど、実際の転送経路の計測を突き合わせよう。
Cloud、DNS、APIの重要Prefixでは、到達先ASNや想定経路から外れていないかを継続的に見ていく必要がある。

自分の確認だけでは足りない理由を、荷物の配送で考えてみよう。
発送元の窓口が正しい行き先を選んでも、途中の拠点が別の道へ流せば、荷物は想定した経路を外れる。
ここでは各ASが配送拠点、自分の経路表が最初の送り先を決める台帳に当たるよ。

ただし、実際のネットワークでは、計測した通信と利用者の通信が同じ経路を通るとは限らない。
経路が変わったという観測だけで、攻撃だと断定するのも早い。
正当な障害対応や構成変更の記録と合わせて、変化の理由を調べる必要があるね。

重要なAPIへの通信なら、まず通常時にどの範囲の経路変化があるかを知っておきたい。
そのうえで、別の観測地点でも同じ異常が見えるか、到達性や遅延にも変化があるかを比べる。
複数の証拠を合わせるのは、見逃しだけでなく、誤った警報を減らすためでもあるんだ。

IoT認証:SIMのRoot of Trustをアプリケーションセッションへ

機器の認証では、SIMにある信頼の根拠をアプリとの通信へつなぐ提案がある。
通信網への接続と、アプリで使う鍵の対応を見てみよう。

資料で確認できること: 「EDHOC-AKA -03」は、SIM/UICCの3GPP AKAで得たセッション固有鍵をEDHOCのPSKとして使い、IoT端末とアプリケーションサーバー間に前方秘匿性を持つセッションを確立する。

アプリケーションサーバーは長期加入者鍵を保持せず、通信事業者の中核ネットワークへAKAメッセージを中継する。
個人草案で、基礎となるEDHOC-PSKや識別値も作業中だよ。

ナギの解説(考察): Cellular IoTで追加証明書の配布を減らせるかもしれないが、まずAKA Challenge、EDHOC Transcript、アプリケーションセッションの結び付きを確認しよう。

再送・再利用、Roaming、Core接続障害、Fallback、LPWANの断片化は、実機で確かめる項目として整理してね。

通信網で認証できることと、アプリの接続相手を確かめることは、同じ問いではないよ。
SIMの仕組みを使う場合も、今回のやり取りから得た鍵が、意図した端末とアプリのセッションへ結び付いているかを追う必要がある。
古い成功記録を別の接続へ流用させない視点だね。

私は、通常の接続試験に加え、途中で通信が切れた場合と、接続先が変わった場合を別々に確認したい。
再接続を急いで弱い方式へ戻すなら、どの条件で戻せるのかも決めておく。
使いやすさのための救済経路が、通常時の確認を迂回しないようにしたいんだ。

この提案は証明書をすぐ不要にする完成済みの置き換えとして読むのではなく、既存の信頼をどこまで再利用できるかという検討材料になる。
機器、通信事業者、アプリの責任範囲を分けてから、試せる構成を選んでみよう。

今日の判断

不足が見えたら、すぐに仕組み全体を否定する必要はないよ。
追加で何を観測すれば判断できるかを考えよう。
私は、その問いを具体的にできる記録ほど、導入や障害対応で役立つと考えているんだ。

今日のまとめは、署名や認証の結果を一つずつの検証として扱うことだよ。
評価対象のバイト列、権限の縮小、人から受けた目的、実際の通信経路、セッション鍵との結び付きを分けて見てみよう。
その関係をあとから追えるか、あなたの証跡も確認してみてね。

ナギの用語メモこの記事の 10 語

気になった言葉の意味を、ここで振り返ってみましょう。

認証
「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
Internet-Draft
IETFで検討するための作業中の文書だよ。提案は変更や失効があり、公開されていても標準として確定したことにはならない。
CI
コードの変更を頻繁にまとめ、ビルドやテストで問題を早めに見つける開発の進め方だよ。変更するたびに行う共通の点検にたとえられる。
認可
「何をしてよいか」を決めることだよ。社員証を持つ人でも、入れる部屋は役割によって違うね。データや操作ごとに許可を確かめる。
AIエージェント
ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
JWT
発行者や有効期限などの情報を、決まった形式でまとめて運ぶ仕組みだよ。封筒に必要事項を入れるようなものだけど、JWTというだけで中身が暗号化されるわけではない。
WG
Working Groupの略で、特定のテーマを扱う作業部会だよ。ここでは主にIETFなどで、仕様の検討を進めるグループを指す。
ロールバック
変更前の状態へ戻すことだよ。保存した版へ戻すイメージだけど、データの変更など、単純には戻せないものもある。
DNS
サイト名などの名前から、通信先の住所に当たる情報を調べる仕組みだよ。名前を手がかりに住所録を引く場面を考えてみよう。
API
ソフトウェア同士が機能やデータをやり取りするための窓口だよ。お店の注文窓口のように、頼めることと頼み方が決まっている。

出典資料

出典・参考資料

  1. Signed Evaluation Receipts datatracker.ietf.org
  2. Agent Identity Protocol datatracker.ietf.org
  3. Identity Orchestration Beyond User Journeys www.kuppingercole.com
  4. Risk of Stealthy BGP Hijacking under Incomplete ROV Adoption datatracker.ietf.org
  5. EDHOC Authenticated with AKA datatracker.ietf.org
#AI#セキュリティ#エージェント#アイデンティティ#ネットワーク