こんにちは、黯鐵ナギです。
エージェントの権限や記憶、暗号方式、鍵の一覧を、説明だけでなく証拠から確かめられるかな?今日はその検証を考える5件を見ていく。
すべて11月1日更新のInternet-Draftで、RFCとして確定した仕様ではない。
AI・ID管理:委任者に「委任する権限」があったかを証明する
AIへ仕事を引き継ぐときは、頼んだ人に、その仕事を他へ任せる権限があるかも確かめたいね。
たとえば、会議室を予約できる人でも、その権限を誰にでも貸してよいとは限らないね。
委任者の権限を証明するとは、「本人が頼んだ」だけでなく「その人はこの操作を別の相手へ任せてよい」まで確かめることだよ。
委任の署名と、その根拠となる許可を分けて追ってみよう。
Verifiable Agent Mandates -01は、Authority Sourceが示す「委任者がエージェントへ渡せる権限」と、実際のMandateを分離する。
別組織は権限の根、エージェント実行個体の鍵、制約、失効状態をValidation Profileで検証する。
個人提出の初期Internet-Draftで、IETFの正式合意はない。
検証結果と各社の最終認可判断も分離されている。
委任を受け取る側には、二つの判断が残る。
渡された証拠が正しいかを確かめたうえで、自分の組織の規則でもその操作を認めるかを決めるんだ。
相手の会社が許可したことを、自分の会社も無条件で許可するわけではないよね。
私は、委任の内容を、対象のデータ、許す操作、有効な期間、再び他へ任せられる範囲に分けて読みたい。
範囲の書き方が曖昧だと、同じ依頼を受けた二つの組織が違う操作を認めるかもしれない。
自然文の目的と、機械が検査する条件を対応付けておこう。
途中で依頼元の権限がなくなった場合も、委任を発行した時点の証明だけでは判断が足りない。
失効を調べる相手と、調べられないときの扱いを決める必要がある。
通信に失敗したことを、権限が有効だという返答へ置き換えないようにしたいね。
試験では、正しく署名された委任でも、範囲外の対象や期限切れなら拒否できるかを確かめよう。
逆に、必要な条件を満たす正規の依頼は進められるかも見る。
証拠の検証と最終的な許可判断を別に記録すると、どちらの理由で止まったかを説明しやすくなるよ。
AIセキュリティ:永続記憶をストレージ改ざんの対象として測る
保存した記憶を後から使う場合は、保存後に変えられていないかという確認も加わるよ。
たとえば、正しい引き継ぎメモを書いても、保管したあとに誰かが書き換えれば次の担当者へ誤った情報が届くね。
永続記憶は、作業が終わっても残るAIの記憶だよ。
入力時の検査に加え、保存先の改変や古い版への差し替えも評価する必要がある。
Agent Memory Integrity Benchmark -00は、記録変更、再送・再利用、別コンテキストへの移植、保存先全体のロールバック、削除済み記憶の復元など10種類の改変を定義する。
結果を REJECTED、REPORTED、ACCEPTED に分け、別監査だけの検知は部分点とする。
これは個人提出のInformational志向評価用の試験で、合格閾値や製品認証を定める標準ではない。
また正規の書き込みAPIを通じた記憶の汚染は対象外だよ。
ナギの解説(考察): 記録、利用者のコンテキスト、保存先の最新状態を示す値を暗号的に結び付け、どの時点の記憶か確かめられるようにしよう。
バックアップから戻すと削除要求まで巻き戻ってしまわないか、回帰テストにも入れてね。
記憶の完全性を考えるときは、内容が同じかだけでなく、今使ってよい版かを確かめることが大切だよ。
昔の正しい記録を戻す攻撃では、文章自体に不自然な点がないこともある。
過去に署名された内容だとしても、現在の判断に使えるとは限らないんだ。
たとえば、利用者が取り消した住所へ配送しないように、最新の変更を記憶へ反映したとしよう。
古いバックアップを戻して住所だけ復活すれば、変更前の記録は正しくても、現在の依頼には合わない。
保存した時点と、取り消した時点をどこで照合するかが問題になるね。
私は、復元試験で、戻せたデータの量だけでなく、取り消した情報を再び使っていないかも確認したい。
別の利用者や仕事へ記憶を移した場合には、同じ内容でも利用条件が違うかもしれない。
内容と利用する文脈を一組にして検査する理由だよ。
なお、この草案の試験で記憶の改変を検知できても、正規の書き込み経路で誤情報を保存する問題は別に残る。
保存後の保護と、保存してよい内容の判断を分けよう。
対象外の問題まで解決したように評価結果を広げないことが、導入後の確認漏れを減らす。
JWT・API:none と RSA1_5 を既定経路から外す
署名や暗号を扱うライブラリでは、以前使えた方式を今も自動的に選べる状態でよいか、見直しが必要になる。
JOSE Deprecation -08は、署名なしJWSの none と、Padding Oracleの危険を持つJWEの RSA1_5 をDeprecatedにし、JWTの必須実装要件から外す。
ライブラリとアプリケーションは既定で無効化し、必要な限定操作だけ明示的に有効化する方向だよ。
JOSE WG文書でIESG審査中だけど、まだRFCではなく、Prohibited ではない。
ナギの解説(考察): IdP、APIゲートウェイ、各サービスで、用途ごとの許可リストを見直そう。
署名なしのJWTやアルゴリズムの差し替えをCIで拒否できるか、具体的な入力で試してね。
ライブラリの対応範囲と運用で許す範囲は別だよ。
アルゴリズムの許可リストは、受け取ったデータが指定した方式を何でも試す仕組みとは違う。
サービスが先に許す方式を決め、その範囲に入るかを確認する考え方だよ。
相手から届く指定を、こちらの検証方針そのものへ昇格させないようにしよう。
見直しでは、発行側と受信側の設定を一緒に確認したい。
新しい発行元が安全な方式だけを使っていても、古い受信経路が別の方式を受け入れるなら、そこに確認の空白が残る。
通常のAPIだけでなく、管理用や移行用の経路も同じ一覧に載せておこう。
互換性のために例外を残す必要がある場合は、対象、理由、期限を明確にしたいね。
全体へ例外を広げると、どの利用者のために残した設定か分からなくなる。
私は、例外が必要な経路だけを分け、不要になったら閉じられる形を考える。
PQC・Messaging:MLSのグループライフサイクルをML-KEMへ移す
暗号移行では、グループ内の秘密を守る仕組みと、相手を確認する仕組みの移行範囲も分けて考えよう。
MLS PQ Cipher Suites -07は、MLSへML-KEM単体またはElliptic CurveとのHybrid KEMを追加し、一部SuiteではML-DSA署名も使う。
従来署名を残して機密性を先行移行する経路と、認証までPQC化する経路を分けた。
MLS WGからIESGへPublication Requestedの段階だよ。
既存グループの途中切替、KeyPackageの肥大化、端末性能、相互運用はなお検証が必要だよ。
ナギの解説(考察): グループ通信の移行では、新方式への対応だけでなく、古いクライアントの隔離、Downgrade拒否、グループ再作成も考えよう。
切替前に、この手順がどれだけの影響を持つか測っておく必要がある。
グループ通信では、一台だけの更新が終わっても、グループ全体の切替が終わったとは言えない。
参加者が使う端末やソフトウェアの版に差があるからだよ。
誰がどの方式へ対応しているかと、グループが現在どの条件で動いているかを分けて確認しよう。
私は、参加、退出、端末交換、長く接続しなかった端末の復帰という場面を、移行試験に入れたい。
普段のメッセージ交換だけを試すと、構成が変わったときに困る場所を見つけにくい。
暗号の計算時間に加え、参加の待ち時間や通信量も利用者の体験につながるね。
対応していない端末を残すために古い方式へ戻すなら、それは単なる接続の成功とは違う。
どの保護を維持し、どの条件を一時的に緩めたかを説明できる必要がある。
自動的に以前の方式へ戻る動作を、移行完了として数えないようにしたい。
また、暗号方式を変えることと、過去の情報をどこまで守れるかは同じ問いではないよ。
切替の対象や保存済みデータの扱いを、仕様の範囲に沿って確かめよう。
新方式の名前だけを根拠に、過去から将来までの保護を一括して約束しない姿勢が大切だね。
ID・鍵管理:公開鍵ディレクトリの差し替えを監査する
最後は、相手の公開鍵を調べる一覧の信頼性だよ。
一部の利用者だけに違う鍵が示されても、その差し替えに気付ける仕組みを考える。
Key Transparency Architecture -11は、特定利用者にだけ偽の公開鍵を返す攻撃を、追記型ログ、監視、監査者やGossipで検知する。
識別子を直接置かず、VRF 出力とCommitmentを使う。
KEYTRANS WGのInformational文書としてIESG審査中で、単一の必須プロトコルや運用方式を規定するものではない。
長期オフラインやクライアント状態消失はFork検知を弱める。
ナギの解説(考察): Passkey同期、Device Identity、エージェントの署名鍵では、検索結果の証明だけで確認を終えないでね。
ツリーの最新状態を示す値の保存、独立した監査者、機器交換時の状態移行まで、一つの安全な通信手順として設計しよう。
公開鍵の一覧では、一度取得できたことと、全利用者へ同じ履歴を示していることを分けて考えたい。
特定の人だけに別の情報を返された場合、自分が見ている画面だけでは違いに気付きにくい。
独立した観測や、以前確認した状態との比較が必要になる理由だよ。
たとえば名簿の一ページだけを見せられても、別の人へ同じページが渡ったかは分からないよね。
ここで監査するのは、名簿に相当する鍵の一覧が、途中で都合よく書き換えられていないかという点だよ。
鍵の持ち主が許可された操作をするかは、別の認可判断になる。
私は、端末を交換するときに、過去に確認した状態をどこから引き継ぐかも決めたい。
状態を失って毎回初見の情報として受け取ると、以前と矛盾していないかを確認しにくくなる。
監査をする人がいるだけで安心せず、クライアントが何を保存し、何と比較するかまで見よう。
調査や監視が止まった場合の扱いも必要だね。
警告がないことが、問題がなかった結果なのか、そもそも観測できなかった結果なのかを区別する。
証拠を使う設計では、その証拠を集める仕組み自体が動いていたかも、運用上の確認点になるよ。
ナギの用語メモこの記事の 21 語
気になった言葉の意味を、ここで振り返ってみましょう。
- AIエージェント
- ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
- Internet-Draft
- IETFで検討するための作業中の文書だよ。提案は変更や失効があり、公開されていても標準として確定したことにはならない。
- RFC
- インターネットの技術などを記録する文書の系列だよ。標準だけでなく、実験や情報提供の文書もあるため、文書の区分も確認しよう。
- IETF
- インターネットで使う技術の仕様などを議論し、標準化を進める場だよ。提案が出た段階と、標準として合意された段階を分けて読もう。
- 「何をしてよいか」を決めることだよ。社員証を持つ人でも、入れる部屋は役割によって違うね。データや操作ごとに許可を確かめる。
- ロールバック
- 変更前の状態へ戻すことだよ。保存した版へ戻すイメージだけど、データの変更など、単純には戻せないものもある。
- 認証
- 「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
- API
- ソフトウェア同士が機能やデータをやり取りするための窓口だよ。お店の注文窓口のように、頼めることと頼み方が決まっている。
- JWE
- 情報を暗号化して、決められた形式でやり取りする仕組みだよ。中身を読める相手を限った封筒を思い浮かべてみよう。
- JWT
- 発行者や有効期限などの情報を、決まった形式でまとめて運ぶ仕組みだよ。封筒に必要事項を入れるようなものだけど、JWTというだけで中身が暗号化されるわけではない。
- JOSE
- JSONを使う情報の署名や暗号化などについて、共通の形式を定める仕様群だよ。安全に封をしたり宛先へ届けたりするための、関連するルールの集まりだよ。
- WG
- Working Groupの略で、特定のテーマを扱う作業部会だよ。ここでは主にIETFなどで、仕様の検討を進めるグループを指す。
- IdP
- 利用者の本人確認を行い、その結果をサービスへ伝える役割だよ。複数の窓口で使う本人確認をまとめて担当する受付にたとえられる。
- 許可リスト
- あらかじめ許可する対象を列挙した一覧だよ。名簿にある宛先や操作だけを受け付ける形で、扱える範囲を絞る。
- CI
- コードの変更を頻繁にまとめ、ビルドやテストで問題を早めに見つける開発の進め方だよ。変更するたびに行う共通の点検にたとえられる。
- ML-KEM
- 耐量子暗号の一つで、通信相手と共通の秘密を共有するための方式だよ。電子署名を行うML-DSAとは用途が違う。
- KEM
- 通信相手と暗号用の共通の秘密を共有するための方式だよ。文章そのものを暗号化する処理とは、役割を分けて考えよう。
- ML-DSA
- 耐量子暗号の一つで、電子署名に使う方式だよ。署名されたデータの改ざんなどを検証するもので、内容を秘密にする暗号化とは役割が違う。
- 耐量子暗号(PQC)
- 将来の量子コンピューターによる攻撃にも耐えることを目指した暗号だよ。方式を替えるだけでなく、通信相手や既存システムとの組み合わせも確認する。
- クライアント
- サービスへ要求を送って利用する側のアプリなどだよ。注文する側をクライアント、受け付けて応答する側をサーバーと考えてみよう。
- プロトコル
- 通信で使う手順や形式の決まりだよ。お互いに通じる言葉だけでなく、どちらが何をいつ送るかも合わせた会話のルールだよ。
たとえ・補足を読む
出典資料
出典・参考資料
- Verifiable Mandates for Agents Acting Across Administrative Domains datatracker.ietf.org
- A Benchmarking Method for the Integrity of AI Agent Memory at Rest datatracker.ietf.org
- JOSE: Deprecate 'none' and 'RSA1_5' datatracker.ietf.org
- ML-KEM and Hybrid Cipher Suites for Messaging Layer Security datatracker.ietf.org
- Key Transparency Architecture datatracker.ietf.org
