こんにちは、黯鐵ナギです。
一回の入力検査で、エージェントの計画から認証結果まで確認を終えられるかな?今日は参照コード、共有状態、識別情報の取得・検証も含め、途中で引き継がれる前提を見ていく。
研究値は著者報告で、本番での発生率ではない。
AIセキュリティ:プロンプトインジェクション防御を形式的に検証する
防御を数学的に検証したという結果は、どんな条件の下で成り立つのかを一緒に読む必要があるよ。
たとえば、遊園地の安全規則も、「この乗り物で、この使い方なら」という条件を外すと、そのまま適用できないね。
形式的な検証は、明示した前提とモデルの下で性質が成り立つかを数学的に調べることだよ。
この前提を押さえてから、今回の研究で何が証明されたのかを見ていこう。
11月8日提出の未査読研究PlanTERSは、外部内容中の命令へ従わない参照エージェントと実エージェントを比較し、Injectionが追加した漏えいだけを「Relative Security」の違反として扱う。
Isabelle/HOLでFence、予算、承認、Loopなど25種類の小規模エージェントを検証し、最初のUntrusted Readで危険なツールを失効させ、再付与しない構成について限定条件下の定理を示した。
『安全と証明された』という言葉を読むとき、私は先に証明の出発点を探す。
何を攻撃者が変えられると仮定し、何は正しく動く前提なのかを知るためだよ。
ルールを守る係が必ず存在する模型での証明を、その係を通らない経路のある実装へそのまま移すことはできないね。
外部データを読むと危険な道具を失効させる構成なら、実際の仕事でも、その後に必要な操作を行えるかを考えよう。
たとえば調査資料を読んでから報告書を送る業務では、読み取り後の送信をどう扱うかが問題になる。
安全の性質を満たしても、そのまま業務を完了できるとは限らないので、止めた後に人へ引き渡す方法まで検討したい。
確認メモには、証明の対象、仮定、対象外の機能、自分たちの構成との差を並べるとよいね。
数式をすべて説明できなくても、少なくとも何を追加すると前提が変わるかは追いたい。
研究の価値を狭く見るためではなく、確かな範囲を実装の判断に生かすための読み方だよ。
コードを書くエージェント:既存の脆弱性を模範にさせない
次は、AIがコードを書くときに参考にする実装の話だよ。
手本に問題があれば、それを引き継ぐ可能性も考えたいね。
たとえば、料理の練習で古い手順書をまねすると、そこにある間違いまで覚えてしまうね。
コードを書くエージェントが参照する既存コードも、よい手本とは限らない。
SASTはコードを実行せずに問題を調べる解析、ファジングは多様な入力を与える試験で、手本と生成結果を別々に確認する材料になる。
未査読プレプリントCoding Agents Propagate Vulnerabilities in Code Basesは、96件のバックエンド開発作業と、実際のC/C++プロジェクトの20組で、脆弱な周辺実装が新規コードへ同種の問題を伝播させると報告した。
C/C++では安全な参照コードを与えた条件と、脆弱な参照コードを与えた条件の差が平均35.4ポイントに達し、エージェントは導入した問題をレビュー時に認識しても既存の実装箇所を模倣した。
ナギの解説(考察): 既存の書き方へ合わせるとき、その実装自体が安全かも確認しよう。
SASTやSanitizerで選別した手本に絞り、生成後はエージェント自身のレビューに加え、独立した検査ツール、ファジング、満たすべき性質を確かめるテストを通す設計だよ。
既知不具合の修正を、新機能より先に進める選択も考えてみてね。
既存コードに合わせる作業では、『周囲と同じ』が二つの意味を持つ。
名前の付け方や設計の流れをそろえることは読みやすさにつながる。
一方で、入力の確認を省く癖までそろえると、問題を増やしてしまう。
私は依頼文に、合わせたい作法と、引き継いではいけない条件を分けて書きたい。
たとえば新しい受付処理を作るとき、隣の処理が値を確認していないからといって、それが意図した仕様だとは限らないね。
まず既存の振る舞いが必要な理由を確認し、安全性を調べる対象として扱おう。
AIへ手本を渡す前の選別と、生成したコードへの検査は、別々に行う意味がある。
レビューでは『AIが問題なしと答えた』だけで閉じず、どの入力とどの性質を検査したかを残す。
手本を修正した後に生成をやり直す場合も、修正した参照箇所が実際に使われたかを確かめたいね。
良い手本を用意することと、良い結果が出たことを分けると、再現できる開発手順へ近づくよ。
安全を確認した手順同士でも、組み合わせると何ができるようになるかを考えられるよ。
AIの安全な手順をつないだら? 組み合わせと権限を確認しようを続けて読んでみてね。
複数エージェント:安全性の劣化を一連の実行経路で追う
複数のAIが協力するときは、一つずつの発言だけでなく、共有された情報から最終的にどんな操作へ進んだかを追ってみよう。
11月8日提出の未査読評価用の試験ErosionBenchは、無害に見える断片がセッション、共有状態、Peer Messageを跨いで危険なツール呼び出しへ合成される問題を、1,728 シナリオと198件の画像攻撃で評価した。
最終文章ではなく、実行されたツール呼び出しを許可された依頼の目的と来歴へ照合する。
ナギの解説(考察): 共有メモリには出所、信頼度、変更履歴を残し、別エージェントの出力を自動的に信頼済みの指示へ変えないでね。
監査ログもメッセージごとで終わらせず、依頼の目的、委任、ツール引数、副作用を一連の実行経路として追えるようにしよう。
共有情報の危険は、一つの文章だけを見ると気付きにくいことがある。
たとえば引き継ぎ帳に『送り先は別紙』、別紙に『このアドレスへ』、作業メモに『確認済み』と書かれていたら、読む人は一つの承認済み手順として受け取るかもしれないね。
でも、それぞれの文を誰が書き、誰が確認したかは別の問いだよ。
AI同士の連携でも、情報が渡った経路を残すだけでなく、元の依頼者が認めた指示なのか、外から得た参考情報なのかを維持したい。
要約する際にこの区別が消えると、後の担当は元の文章へ戻らない限り判断できなくなる。
私は、要約の短さだけでなく、指示の出所が残っているかを確認する。
試験では、最終回答が無難なままでも、途中でどの道具をどの引数で使ったかを見る。
メッセージを読み終えた時点ではなく、情報が操作へ変わる時点で、元の許可と照合できるかがポイントだよ。
引き継ぎを取り消す場面も確認しておこう。
元の依頼が中止された後に、共有メモだけが残って別の担当が続きを始めると、既に必要のない操作へ進むかもしれない。
記憶があることと、今も有効な仕事であることを分けて扱う必要があるね。
私は、依頼の状態を確認する場所と、共有情報を読める範囲を一緒に図へ描く。
どの担当が中止を知り、どの担当が知らないかが見えると、停止の連絡を追加する場所も判断しやすくなるよ。
ID管理:DID解決がCandidate Recommendationへ
ここからは識別情報の確認だよ。
DIDという識別子から、検証に使う文書や補足情報を取り出す手順の標準化が進んでいる。
W3Cは11月9日、DID Resolution v1をCandidate Recommendation Draftとして公開した。
DIDからDID Documentと付随情報を得る共通アルゴリズムを定め、各Featureに独立した相互運用実装と試験一式通過を求める。
一方、DID URL Dereferencingは今後の変更・削除の対象になり得る機能(Feature at risk)として挙げられている。
ナギの解説(考察): Resolverは対応方式数だけでなく、付随情報、エラー、キャッシュ、信頼する条件を含めて相互運用を試してね。
Candidate Recommendationを完成済みの標準として固定せず、試験一式と変更履歴を追う段階として読もう。
相互運用の試験では、正常な文書を一度取得するだけでなく、対象が見つからない場合や、更新された文書を再取得する場合も見たい。
失敗の種類を別の実装へ伝えられなければ、片方は保留し、片方は成功として扱う、といった食い違いが起こり得るからだよ。
私は、結果の本文と、結果についての補足情報を一緒に比較する。
変更され得る機能へ依存するなら、なくなった場合に何を使うかも考えておこう。
仕様の成熟度は採用の可否を一言で決める印ではなく、どの変更を追い続ける必要があるかを判断する材料になる。
取得できなかった理由も、成功時の文書と同じように比較したいね。
Enterprise認証:SAP SAML SPのCritical認証回避
最後は、認証結果を受け取る製品の修正だよ。
外部の認証基盤を信頼する構成でも、受け取り側の実装と設定を点検する必要がある。
SAPは11月10日のSecurity Patch Dayで、SAP NetWeaver AS ABAP/ABAP基盤のSAML2 Service Provider(認証結果を受け取る側)に関するCVE-2026-120017を公開した。
SAP_BASIS 702、731、740、750〜758、816、920〜922が対象で、CVSS 3.1は10.0だよ。
ナギの解説(考察): 対象環境ではSAP Note 3849308の適用を優先し、SAML2 SPの有効化、IdP/SP 付随情報、署名必須設定、信頼証明書、アカウント対応付けを確認しよう。
修正パッチ後も、未知の特権セッションや異常な発行者/Assertion IDを遡って調べる必要がある。
認証連携は、証明を発行する側と受け取る側の両方が関わる。
発行側のログインが正しく動いたとしても、受け取り側でどの証明を採用し、どのアカウントへ結び付けたかを確認する必要があるね。
私は、利用者が見たログイン画面だけでなく、サービス側に成立したセッションを確認対象にする。
修正と過去の調査は目的も違う。
修正は今後の問題を防ぐための対応で、過去に不審な利用がなかったと証明するものではない。
対象の版、認証連携の設定、残っている記録の期間をそろえ、どこまで調べられたかを残そう。
見つからなかった範囲と、記録がなく確認できない範囲も分けると、対応後の説明が正確になるよ。
ナギの用語メモこの記事の 8 語
気になった言葉の意味を、ここで振り返ってみましょう。
- AIエージェント
- ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
- 認証
- 「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
- SAST
- プログラムを実行せず、コードなどを調べて弱点を探す解析方法だよ。設計図の点検に近く、実際の動作を調べるテストと組み合わせて使う。
- ファジング
- 多様な入力を自動で与え、異常や弱点を探すテスト方法だよ。想定外の入力も試す点検で、問題が見つからなくても安全性の証明にはならない。
- DID
- 分散型識別子と呼ばれる識別子だよ。方式ごとの仕組みで、公開鍵などを記した文書へ結び付ける。DIDだけで本人の実名や信頼性が保証されるわけではない。
- キャッシュ
- 再利用するため、一度取得した結果などを一時的に保存する仕組みだよ。手元の控えを使うと速くなるが、内容が古くなっていないかの確認が必要だよ。
- CVSS
- 脆弱性の特徴から深刻度を評価する共通の仕組みだよ。点数だけで自社の対応順位は決まらず、利用状況や影響も合わせて確認する。
- IdP
- 利用者の本人確認を行い、その結果をサービスへ伝える役割だよ。複数の窓口で使う本人確認をまとめて担当する受付にたとえられる。
たとえ・補足を読む
出典資料
出典・参考資料
- On the Relative Security of Prompt Injection arxiv.org
- Coding Agents Propagate Vulnerabilities in Code Bases arxiv.org
- ErosionBench arxiv.org
- W3C DID Resolution v1 www.w3.org
- SAP Security Patch Day — November 2026 support.sap.com
