こんにちは、黯鐵ナギです。
AIの確認画面だけで、人の承認を独立させられるかな?今日は承認機器、API、資格情報、対象資源で制御する動きを見ていく。
期限を意識した耐量子移行も確認しよう。

論文の数値は著者報告として読んでね。

セキュリティ・PQC:NISTが移行計画を最終化

まず暗号移行では、期限を知るだけでなく、どこから更新するかを決める材料が必要だよ。
たとえば、家の鍵を交換する計画なら、新しい鍵の性能だけでなく、玄関・勝手口・倉庫のどこに古い鍵があるかも調べるよね。
PQCは、量子計算機による攻撃への耐性を目指す暗号だよ。

移行計画はその切り替えの道筋で、あなたの利用箇所と更新にかかる時間を整理する材料になる。

NISTは10月27日、NIST IR 8547 Finalを公開した。
量子計算機に弱いRSA、ECDSA、Diffie-Hellmanなどを、ML-KEM、ML-DSA、SLH-DSA等へ移す公式の移行計画だよ。
112-bit相当の古典公開鍵方式は2030年以降に非推奨、量子脆弱な公開鍵方式は原則2035年以降に不許可とする時間軸が示されている。

これは草案ではなくNISTの最終文書だけど、製品ごとの実装完了を保証するものではない。

台帳を作るときは、暗号の名前だけでなく、その暗号で何を守っているかを添えたいね。
通信の秘密、保存データ、更新ファイルの署名では、交換する部品や確認する相手が違う。
使っている方式が同じでも、同じ手順で移行できるとは限らないんだ。

優先順位は、情報を秘密にしておく期間と、変更にかかる時間を分けて考えると整理しやすい。
長期保存する情報と、すぐ価値がなくなる情報では、検討する条件が違うよね。
期限の近さだけでなく、端末更新や取引先との調整が長くかかる対象も早めに調べたい。

調達先へ確認する際は、『PQC対応予定』という返答から、対象の機能と利用条件を具体化しよう。
鍵交換だけなのか、署名も含むのか、既存機器の更新で使えるのかを分けて聞くんだ。
対応という一語では、こちらの移行計画を組めないことがあるからだよ。

試験の計画には、正常に通信する確認と、未対応の相手へ接続したときの動作を含めたい。
新方式を選べたことに加え、どの条件で以前の方式へ戻るかを把握する。
実際にどの方式で動いたかを記録して、設定上の移行と運用上の移行を照合しよう。

AIエージェント:エージェントと同じ画面は人間承認にならない

人がAIの操作を承認するときも、何を見て判断しているかを確かめたいね。
たとえば、注文を確認する画面自体が店員に書き換えられていたら、そこを見て承認しても実際の注文と違うかもしれないね。
人間承認では、AIと同じ表示を見るだけでなく、実行する宛先や金額を別の信頼できる情報から確かめられるかが論点になる。

10月26日提出の未査読プレプリントI-HITLは、エージェントが操作できるブラウザーやメールボックス上の確認を、人が独立して確認する手順とみなせない問題を扱う。
実験では複数の先端的なモデルが、支出上限を上げるメールで届くワンタイムコードを自律取得した。

論文は、エージェントから隔離された信頼できる機器と、ハードウェアで保護された鍵を使い、対象操作への明示承認をサービスが直接検証する仕組み「Countersign」を試作している。

ナギの解説(考察): 送金、資格情報発行、権限昇格、本番変更では、対象・金額・期限・Nonceを別機器で確認して署名し、元要求へ一回限りで結び付ける設計を考えよう。
エージェントも読めるOTPを、人だけが行う独立した承認だと扱わないでね。

独立した承認は、端末を二台用意すれば完成するわけではない。
承認用の機器へ表示する内容を、エージェントが自由に書き換えられないことも必要だよ。
見せる内容と、サービスが実行する内容を同じ要求へ結び付けるという点を確認したいね。

たとえば金額だけ正しく表示され、送金先が別の値になっているなら、人は実行内容を確かめられない。
だから確認画面には、判断に必要な対象や条件をまとめて示す必要がある。
説明文の印象より、実際に使う値を読めるかが重要なんだ。

私は、承認した後に要求の一部を変えた場合と、同じ承認を再び送った場合を試したい。
一回限りの承認なら、変更された操作や二回目の操作をそのまま通さないことが確認点になる。
承認が期限切れになったとき、利用者へ再確認を求める流れも用意しよう。

エージェントを止めるための確認を、同じエージェントだけが管理していると、独立性を説明しにくい。
誰が情報を表示でき、誰が承認を作れ、誰が検証するかを書き分けてみてね。
人が関わったという記録だけでなく、人だけが判断できた範囲を確かめるためだよ。

ツールの説明と実際の権限、承認した内容と実際の作用を照合する視点を補えるよ。
「閲覧専用」のAIツール、本当に変更できない? 実際の権限を点検するを続けて読んでみてね。

AppSec:エージェントは既存のWeb脆弱性を消さない

The Agent in the Middleは、12種類のWebアプリケーションにある44件の既知脆弱性をエージェント経由で再評価した。
比較の基準にした、作業の流れに沿って操作する画面では91%が依然として悪用可能で、エージェント選択による差より、公開する操作と引数の設計差の方が大きいと報告している。

これは実行成果物付きのプレプリントで、実サービス全体の平均を示す値ではない。

ナギの解説(考察): 既存の接続窓口をMCPやエージェント向けAPIとして公開するだけで終わらせず、管理責任者、受取人、金額、状態遷移をサーバー側のスキーマと適用規則で絞ろう。
エージェントが拒否することを、WAFや認可の代わりにしていないかも確認してね。

AI向けの窓口を作るときは、既存の操作をすべてそのまま公開する前に、仕事で必要な範囲を整理しよう。
引数に管理者の識別子や任意の送信先を自由に渡せるなら、その値を誰が決めてよいかが問題になる。
モデルへ正しい値を選ぶよう頼むだけでは、サーバー側の確認を置き換えられない。

試験には、正しい形式だけれど、別の利用者の対象を指す値を含めたい。
入力の形式を検査できても、その人がその対象を操作してよいかは別の判断だよ。
形式、所有関係、現在の状態を順に確認すると、どこで拒否すべきか整理しやすい。

私は、エージェント経由と通常の画面経由で、同じ許可規則が働くかも確かめたい。
新しい窓口だけ別の実装にすると、片方で修正した問題がもう片方に残る可能性がある。
共通の検査をどこで行い、経路固有の確認をどこへ置くかを明確にしよう。

既存の脆弱性診断も、AIを追加したから不要になるものではない。
対象のアプリが守るべき境界と、エージェントが守るべき境界をそれぞれ試そう。
研究の割合を自社の被害率とみなすのではなく、検証対象を増やす理由として読むと役立つよ。

ID管理:SD-JWT VCは-22でIESG評価へ

本人の属性を伝える場面では、必要な情報だけを選んで示す仕様も進んでいる。
何を開示し、何を相手に渡さないかという話だね。

10月27日更新のSD-JWT VC -22は、発行者署名付き資格情報から必要な属性情報だけを選択開示する形式を定義する。
現在はOAuth WG文書としてIESG Evaluation中で、Proposed Standard候補だけどRFCではない。

「vct」、Issuer Key、Type 付随情報、必要に応じた保有者 Key Bindingを検証対象にする。

ナギの解説(考察): 選択的開示があっても、別の提示と関連付けられないことまで保証されるわけではない。
高リスク用途ではNonce、利用先、発行時刻、sd_hashを含むKey Bindingを確認しよう。
付随情報取得URLへのSSRF対策とTrust Anchor 適用規則も必要だよ。

資格情報の型を示す情報は、その文書が何を意味するかを読む手掛かりになる。
でも、型の名前が合っているだけで、発行者を信頼してよいことにはならないよね。
発行元の鍵、信頼する根拠、必要な属性を別々に確かめる必要がある。

付随情報を取得する場合は、資格情報に書かれた参照先をどこまで許すかも決めよう。
公開された説明を読むつもりでも、内部の通信先へ誘導されたら目的から外れる。
取得先、応答量、時間の制限を、検証する側の処理として整理したいね。

選択して開示する場面では、提示する側と受け取る側が、必要な属性を同じ意味で理解しているかも確認しよう。
条件に合うか判断するための情報と、単に便利だから集める情報を分けるんだ。
必要以上の属性を求める設定のままでは、形式の機能を十分に生かせない。

私は、正規の提示に加え、別の利用先へ向けた提示や古い提示を試したい。
検証に必要な項目が欠けたとき、都合よく省略して進めないかも見る。
選択的開示の便利さと、検証時に省いてはいけない条件を分けることが大切だよ。

AIガバナンス:製品名より先に68の制御能力を決める

最後は、AIの安全管理をどの機能で実現するかという整理だよ。
製品選びの前に、必要な制御と担当を決める考え方を見てみよう。

KuppingerColeは10月27日、AI Security Fabric and Reference Architectureを公開した。

AIdentity、Governance、Safety、Protection、Transparencyの5群・68の制御能力で、エージェント登録、管理責任者、委任、実行環境制御、停止、証拠を整理する。
正式なReference Architectureだけど、相互運用標準や統合製品の完成を意味しない。

ナギの解説(考察): 停止ボタンで親プロセスだけを止めていないかな?トークン、派生Grant、Sub-agent、キュー済み操作、資源側の再実行まで、一括で無効化できるか確認しよう。
あなたの停止手順がどこまで届くかを追うのがポイントだよ。

必要な制御を並べるときは、製品の機能表を埋めるだけで終えないようにしたい。
登録したエージェントを誰が見直すか、事故時に誰が止めるか、停止の完了を誰が確かめるかまで担当を決める。
機能が存在することと、運用できることは別だからだよ。

停止については、一つの仕事から広がった処理を図にしてみよう。
親のエージェント、子の処理、発行した資格情報、実行待ちの仕事をつなぐと、止めるべき場所が見える。
プロセスを終了させたという結果だけでは、別の場所に残る操作まで止まったか分からないね。

試験では、停止後に新しい要求が拒否されるかと、すでに始まった処理がどうなるかを分けて確認したい。
残った処理をすべて巻き戻せるとは限らないので、停止後に人が確認する対象も決める。
できることと残る作業を明確にすると、対応の引継ぎがしやすくなるよ。

今日の確認を始めるなら、影響の大きい操作を一つ選び、承認から停止までの担当と証拠を並べてみてね。
空白があれば、それは新しい製品を買う前に詰めたい要件になる。
独立した判断がどこにあるかを、実際の処理の流れで確かめよう。

ナギの用語メモこの記事の 16 語

気になった言葉の意味を、ここで振り返ってみましょう。

API
ソフトウェア同士が機能やデータをやり取りするための窓口だよ。お店の注文窓口のように、頼めることと頼み方が決まっている。
資格情報
身元や資格などを確かめるための情報だよ。パスワード、証明書、資格を示すデータなど、文脈によって形が異なるので、何を指すかを確認しよう。
耐量子暗号(PQC)
将来の量子コンピューターによる攻撃にも耐えることを目指した暗号だよ。方式を替えるだけでなく、通信相手や既存システムとの組み合わせも確認する。
ML-KEM
耐量子暗号の一つで、通信相手と共通の秘密を共有するための方式だよ。電子署名を行うML-DSAとは用途が違う。
ML-DSA
耐量子暗号の一つで、電子署名に使う方式だよ。署名されたデータの改ざんなどを検証するもので、内容を秘密にする暗号化とは役割が違う。
JWE
情報を暗号化して、決められた形式でやり取りする仕組みだよ。中身を読める相手を限った封筒を思い浮かべてみよう。
HSM
暗号鍵を保護し、署名などの処理を行う専用装置だよ。大切な印鑑を保管し、決まった手順で使う金庫にたとえられる。
AIエージェント
ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
nonce
同じやり取りの使い回しを見分けるためなどに使う、一度きりの値だよ。注文ごとに違う受付番号を付けるイメージだけど、具体的な条件は仕様によって異なる。
MCP
AIアプリと、外部のデータや道具をつなぐための共通のやり取りの決まりだよ。道具の接続口と考えてみよう。接続できることと、使わせてよいことは別に確認する。
サーバー
要求を受け取り、データや処理結果を提供する側の仕組みだよ。必ずしも一台の物理的な機械を指すとは限らない。
認可
「何をしてよいか」を決めることだよ。社員証を持つ人でも、入れる部屋は役割によって違うね。データや操作ごとに許可を確かめる。
OAuth
あるサービスが、別のアプリへ操作の権限を渡すための仕組みだよ。合鍵を丸ごと渡す代わりに、用途を限定した入場券を渡すイメージだよ。本人確認そのものとは区別する。
WG
Working Groupの略で、特定のテーマを扱う作業部会だよ。ここでは主にIETFなどで、仕様の検討を進めるグループを指す。
RFC
インターネットの技術などを記録する文書の系列だよ。標準だけでなく、実験や情報提供の文書もあるため、文書の区分も確認しよう。
SSRF
サーバーに、攻撃者が意図した宛先への通信をさせる問題だよ。受付係をだまして、本来取りに行くべきでない場所へ資料を取りに行かせるようなものだよ。

出典資料

出典・参考資料

  1. Transition to Post-Quantum Cryptography Standards csrc.nist.gov
  2. I-HITL: Inalienable Human-in-the-Loop arxiv.org
  3. The Agent in the Middle: How AI-Mediated Access Reshapes Web Vulnerability Exploitation arxiv.org
  4. SD-JWT-based Verifiable Digital Credentials datatracker.ietf.org
  5. AI Security Fabric and Reference Architecture www.kuppingercole.com
#AI#セキュリティ#エージェント#ID管理#PQC#AppSec