AIの脆弱性、Microsoftと研究者の論点

Bleeping Computerは、Microsoftとセキュリティ研究者の間でプロンプトインジェクションやサンドボックス周りの挙動を脆弱性と見るか否かで隔たりがあると報じました。Microsoftは公開基準に基づき多くを範囲外と判断しており、議論は定義と優先度の違いに収れんしていると伝えられています。

米メディアBleeping Computerは、Microsoftとセキュリティ研究者の間でAIの脆弱性に対する姿勢に隔たりがあると報じています。研究者側はプロンプトインジェクションやサンドボックス関連の挙動を脆弱性と評価する一方、Microsoftは同社の公開基準に照らして範囲外と判断したとしています。具体例として、Copilotのファイルアップロード制限をbase64エンコードで回避できるとする指摘が取り上げられています。報道は、問題の核心が「脆弱性の定義」と「対応の優先度」にあると結論づけています。 報じられている点： ・Microsoftは指摘の一部を公開基準に基づき範囲外と評価していると発表しています。範囲外の理由には、セキュリティ境界が侵害されていないことや、影響が発見者の実行環境に限定されること、低特権情報にとどまることなどが含まれるとしています。 ・研究者側は、制限回避などのリスクが確認されれば脆弱性と見る立場を示しています。 ・例として、Copilotのファイルアップロードタイプでのポリシーバイパス（base64エンコード経由）が取り上げられています。 ・Microsoftは具体的なエクスプロイトが提示されない場合にAIの特性上の挙動とみなす姿勢を示していると報じられています。 ・両者の主張は、定義の違いと限られた開発リソースの中での対応の優先付けに帰結しているとされています。 まとめ： 企業のAI導入が進むなか、脆弱性の定義や対応範囲をめぐる議論が続く見込みです。現時点ではMicrosoft側が公開基準に基づく扱いを示しており、個別の指摘すべてに即応する体制ではないと伝えられています。今後の公式な追加発表や基準の更新が注目される可能性があります。