こんにちは、黯鐵ナギです。
AIの応答が正しそうでも、権限やデータの境界まで守られたとは限らない。
今日は権限、検索データ、計算、アクセス経路、署名鍵を分けて見ていこう。
研究結果は著者報告で、本番環境の保証ではない。
AIセキュリティ:エージェントから権限の決定権を分離する
AIへ操作を任せるときは、指示を守るかという判断と、実際に操作できる範囲を分けておきたいね。
たとえば、応援スタッフへ「この棚だけ使ってください」と伝えることと、別の棚を施錠しておくことは違うね。
AIの権限を分ける設計も、モデルの判断とは別の仕組みで操作範囲を制限する。
Capabilityは限定された権限を表すもので、仕事を他へ渡すときも、その範囲を広げない。
11月10日提出の未査読研究ActiveSecHarnessは、コードを書くエージェントをシェル、ファイル、ネットワークへ接続する実行基盤として捉え、LLMには操作を提案させても権限を定義させない構成を示した。
限定した権限を表すCapabilityトークン、データの信頼度と機密度という二つの分類、作業領域の来歴を組み合わせる。
OSやツールへの操作は、決まったルールで判定する検査機構を必ず通す構成だよ。
著者の252件のFixtureでは、Ring 0が攻撃を全件遮断し誤検知 0%と報告したが、実リポジトリ全般を保証する評価ではない。
操作範囲を設計する際、私は『同じ道具で何ができるか』も確かめる。
ファイルを読む道具が、そのまま別の場所へ送る機能を持っているなら、道具を使ってよいという許可だけでは広すぎるよね。
読む対象、結果の置き場所、外部へ渡せる情報を、今回の仕事に合わせて分けたい。
さらに、ある操作を止めても、別の道を通って同じ結果へ到達できるなら、制限の目的を満たしていない。
ここで役立つのは、禁止語を増やすことより、どの操作も同じ確認点を通るか調べる視点だよ。
検証では、許可した場所へ通常どおり保存できることと、範囲外へ保存しようとした場合に止まることの両方を確かめよう。
この試験を通ったとしても、研究の全構成を再現したことにはならない。
手元で確認した道具と設定、まだ試していない経路を残すと、後から別のツールを追加するときに見直す範囲が分かるね。
考え方を実際の接続へ落とし込みたいときは、MCPゲートウェイの許可・入力検査・監査の設計を見てみよう。
MCPゲートウェイとは? AIの操作を許可し、結果を記録する仕組みを続けて読んでみてね。
データ保護:RAGの検索分離と機密性は別問題
検索で見つけにくくすることと、秘密を読めなくすることにも違いがあるよ。
たとえば、図書館の本に付けた整理番号を秘密の番号へ替えても、それだけで本の閲覧権限を決めたことにはならないね。
埋め込み表現は検索に使う数値表現で、その変換とアクセス制御は別の役割だよ。
ACLは閲覧などを許可する相手の一覧で、検索する人・組織・文書の条件を毎回照合する。
同じく未査読のIsolation Is Not Confidentialityは、適用規則別に埋め込み表現を幾何変換して権限外の検索を防げても、元埋め込み表現の復元、別適用規則向け問い合わせの偽造、適用規則所属の秘匿までは保証しないと報告した。
3種類の数値表現を作るモデルで、数百組の対応データから元表現を復元でき、対応するデータの組を持たないクラウド事業者にも適用規則に応じたデータのまとまりが見える条件があった。
ナギの解説(考察): 数値で表した検索空間を変換していても、それだけを認可の境界にしないでね。
検索要求を仲介するゲートウェイで操作主体、テナント、文書のアクセス許可を毎回照合しよう。
元の数値表現/保護後の数値表現の対応するデータの組をログやデバッグ用の書き出しへ残さず、機密性が必要なら索引分離や暗号化も別に評価する。
検索で権限を確かめる位置も考えてみよう。
機密文書を検索結果へ含めたあと、回答文に出さないよう頼むだけでは、回答を作る側へその文書を渡したことになる。
私は、まずどの文書を取り出してよいかを判断し、その範囲の中で回答を組み立てる流れを確認したい。
たとえば部署の共有資料を探す場合、同じ質問でも、利用者の所属や文書の公開範囲によって返すものは変わる。
文書を移動したり権限を外したりしたときに、検索用の索引へ古い条件が残っていないかも見る必要があるね。
検索の精度が高いことと、返してよい資料だけを選んでいることを、別の試験で確かめよう。
デバッグ用の記録にも気を配りたい。
回答から資料を除いたのに、検索の途中結果を広く読めるログへ残していたら、確認したい境界が別の場所へ移ってしまう。
本文、検索用の表現、処理の記録がそれぞれ誰に見えるかを、一枚の図へ書くと整理しやすいよ。
文書の権限を変更した後は、以前の利用者が同じ質問をした場合も試してみよう。
新しい索引だけが正しくても、過去の回答や保存済みの検索結果が再利用されるなら、そこにも確認点がある。
どの時点の許可で取り出した情報なのかを追うことで、削除や異動の後に見直す対象が具体的になる。
まずは一つの文書を選び、検索から回答の保存までの経路をたどってみてね。
AI・新技術:32Bモデルの推論結果をビット単位で証明
一方、指定した計算が行われたかを証明する研究もある。
何が証明の対象なのかを、先に分けて考えよう。
たとえば、電卓の答えだけでなく、どの計算を行ったかまで照合できる記録を受け取る場面を想像してね。
ここで証明するのは、指定したモデルが指定した計算を行ったかだよ。
答えの文章が現実に正しいか、内容が適切かを証明するものではない。
Bit-exactは、結果がビット単位で一致することを指す。
未査読研究Sableは、整数量子化したTransformerが特定プロンプトから特定トークン列を生成したことを、Bit-exactに証明する仕組みだよ。
ナギの解説(考察): 一般的な推論サービスへすぐ組み込む段階ではないが、「指定したモデルが指定した計算を行ったか」を再現可能にする方向として読める。
外部委託や監査に使うなら、量子化モデルとBF16の出力差、証明にかかる計算コスト、重みの公開条件まで比較しよう。
計算を証明できるという話を、答えの品質の保証へ読み替えないことが大切だね。
たとえば指定した電卓へ指定した数字を入力したと証明できても、元の数字が売上として正しいかまでは分からない。
同じように、モデルと計算の一致を確かめる仕組みと、入力資料や回答の内容を確かめる仕組みは担当が違う。
導入を考えるなら、『何が一致すると、どの判断を進められるのか』を先に決めよう。
委託した計算の照合が目的なのか、回答の内容を監査する目的なのかで、必要な証拠は変わる。
私は、証明の対象、対象外の性質、追加で人が確認することを三つの欄に分ける。
研究の処理時間も、その目的に必要な待ち時間として受け入れられるかを考えたいね。
ID管理:Access Graphを「到達経路」で監査する
権限を調べるときは、直接与えた許可のほかに、途中の所属や役割を経由する道も見たいね。
たとえば、目的地へ行ける理由は、直通の切符だけとは限らない。
途中の乗り換えでも到着できるね。
Access Graphは、利用者・グループ・役割・資源のつながりを表す図だよ。
直接の許可だけでなく、グループ所属などを経由してアクセスできる道筋を調べる。
Opal Securityは10月7日、Access Path QueriesをGAとして公開した。
利用者、サービスアカウント、AIエージェントから資源まで、直接付与だけでなくグループ、入れ子になったグループ、役割を通る経路を同じ問い合わせで示し、権限をまとめて見直す作業や監査証拠へ接続する。
KuppingerColeも11月11日付でOpalをRising Starとして掲載した。
ナギの解説(考察): 権限の一覧から、「なぜそこへ到達できるか」とアクセスを可能にした関係を確かめる視点へ進める。
ただし、自然言語問い合わせの結果だけを信じず、生成された絞り込み条件も確認してね。
高リスクの取消しには、人の承認とロールバックを残そう。
到達経路が複数あると、一つの権限を外してもアクセスが続くことがある。
乗り換えの例なら、直通の切符を止めても別路線が残っている状態だよ。
だから私は、権限を取り消す前に、利用者から対象までの道を一覧にし、どの関係を外せば目的のアクセスがなくなるかを確かめる。
逆に、共有のグループを丸ごと外すと、必要な別の業務まで止まるかもしれない。
取り消す単位を選ぶ際には、その関係を利用しているほかの経路も見よう。
図が描けたことだけで監査を終えず、採用した絞り込み条件、対象とした時点、取り消した後の確認結果をそろえると、判断の理由が伝わりやすいね。
クラウドセキュリティ:Quayの署名信頼の起点を点検する
最後は、署名を信じる根拠となる鍵の管理だよ。
ログイン情報の交換だけで対応が終わるかを考えてみよう。
たとえば、玄関の鍵を替えても、裏口の合鍵が残っていれば安心できないね。
信頼の起点は、どの鍵や主体を信頼の出発点にするかという設定だよ。
ログイン用のパスワードと、署名を信じるための鍵は別の仕組みなので、片方の交換で両方が無効になるとは限らない。
Red Hatが11月11日に公開したCVE-2026-123710は、Quayの鍵管理サーバーに未承認クライアントがQuayの信頼する署名鍵を登録できる問題だよ。
攻撃者が信頼鍵を得ると、レジストリ全体の任意リポジトリ向けトークンを作り、非公開イメージの取得やイメージの上書きが可能になる。
鍵は期限なしで登録でき、再起動後も残るとRed Hatは説明している。
ナギの解説(考察): パスワードやロボットアカウント用のトークンを交換しても、別の信頼の起点にある不正鍵まで失効するとは限らない。/keysを信頼済み構成要素だけに制限し、身に覚えのない承認済み鍵と鍵の操作ログを調べよう。
不正鍵があればタグだけを信じず、内容の照合値と来歴を照合してイメージを再構築する対応が必要だよ。
鍵の調査では、利用者の一覧と、署名を信用する鍵の一覧を別々に確認しよう。
同じ『認証に関係する設定』でも、どちらを変えればどの許可が無効になるかは異なる。
私は、鍵を登録できる主体、登録を承認する場所、登録された鍵を使うサービスを順にたどりたい。
対応後の確認にも、正当な鍵だけが残っていることと、その鍵で作られたものを意図した場所だけが受け入れることの両面がある。
過去の記録を調べる場合は、いつから信頼の設定が変わった可能性があるかを区切り、その間の変更や取得を追う。
製品の更新、認証情報の交換、配布物の照合を一つの『修正済み』にまとめず、各作業の結果を残したいね。
ナギの用語メモこの記事の 15 語
気になった言葉の意味を、ここで振り返ってみましょう。
- AIエージェント
- ここでは、目的に向けて手順を選び、道具を使って作業するAIの仕組みを指す。作業を任せる相手にも、操作できる範囲と確認が必要な場面を決めておく。
- 大規模言語モデル(LLM)
- 大量の文章などから言葉のつながりを学び、文章を生成するAIモデルだよ。自然な返答でも事実と違うことがあるため、重要な内容は根拠を確かめよう。
- リポジトリ
- コードや文書と、その変更履歴を保管する場所だよ。過去の版や変更者もたどれる作業用の書庫を考えてみよう。
- 資格情報
- 身元や資格などを確かめるための情報だよ。パスワード、証明書、資格を示すデータなど、文脈によって形が異なるので、何を指すかを確認しよう。
- MCP
- AIアプリと、外部のデータや道具をつなぐための共通のやり取りの決まりだよ。道具の接続口と考えてみよう。接続できることと、使わせてよいことは別に確認する。
- 埋め込み(Embedding)
- 文章などの特徴を、数値の並びで表す方法だよ。似た特徴の資料を探す手がかりに使えるが、意味の一致や正しさをそのまま保証するものではない。
- ACL
- 誰にどの操作を許可するかを書いた一覧だよ。部屋ごとに「入ってよい人の名簿」を置くように考えると整理しやすくなる。
- 「何をしてよいか」を決めることだよ。社員証を持つ人でも、入れる部屋は役割によって違うね。データや操作ごとに許可を確かめる。
- テナント
- 一つのサービスの中で、組織などごとに分けた利用単位だよ。同じ建物に入る別々の会社のように、データや設定を区別して扱う。
- 量子化
- モデルなどの数値を、より少ない種類・ビット数で表す方法だよ。細かい目盛りを粗くして容量を減らすイメージで、精度や速度への影響は条件によって変わる。
- ゼロ知識証明
- 秘密の内容そのものを明かさず、ある条件を満たすことを示す暗号技術だよ。何を証明でき、何を隠せるかは、使う方式と条件を確かめよう。
- ロールバック
- 変更前の状態へ戻すことだよ。保存した版へ戻すイメージだけど、データの変更など、単純には戻せないものもある。
- サーバー
- 要求を受け取り、データや処理結果を提供する側の仕組みだよ。必ずしも一台の物理的な機械を指すとは限らない。
- クライアント
- サービスへ要求を送って利用する側のアプリなどだよ。注文する側をクライアント、受け付けて応答する側をサーバーと考えてみよう。
- 認証
- 「誰なのか」を確かめることだよ。入口で社員証を確認する場面を思い浮かべてみよう。どの部屋へ入ってよいかは、別の「認可」で決める。
たとえ・補足を読む
出典資料
出典・参考資料
- From Attack Surface to Defense Architecture arxiv.org
- Isolation Is Not Confidentiality arxiv.org
- Sable arxiv.org
- Introducing Access Path Queries www.opal.dev
- Red Hat CVE-2026-123710 access.redhat.com
