AISIが進めるAIセーフティの取り組み

政府横断の機関AISIは2024年2月の設立後、AIの安全性評価手法やガイドラインの検討、教材やオープンソースの評価ツール公開などを進めています。副所長の平本健二氏が組織の役割や今後の課題を語りました。

AIの普及に伴い安全性の議論が増えるなか、政府横断のAIセーフティ・インスティテュート（AISI）が設立され、評価手法や基準の検討、普及活動を進めています。平本健二副所長は、開発者とユーザー双方のニーズを満たす評価の仕組み作りと、国際的な調整の重要性を指摘しています。組織規模はフルタイム約20人、併任約10人の体制で、短いサイクルで技術動向を把握しつつ活動していると説明しています。技術進展と社会の対応速度のギャップが大きな課題であるとも述べています。 主な取り組み： ・2024年2月に政府横断で設立され、国際的な議論への参画を目的に発足したこと。 ・米国のNIST RMFと国内のAI事業者ガイドラインの対応を比較するクロスウォークを最初のアウトプットとして公表したこと。 ・技術マップの作成や重点課題の抽出を行い、それに基づくガイドラインやエンドユーザー向けの映像教材を整備していること。 ・レッドチーミングや安全性評価の自動化ツールをオープンソースで公開し、実務で使える形で提供していること。 ・標準化チームがジョイントサーティフィケーション（適合性評価）の仕組み作りや各国の安全標準・データ品質基準の把握に取り組んでいること。 まとめ： AISIは評価基準やツールの整備を通じて、開発側と利用側の信頼確保を目指す組織だと位置付けられます。平本氏は国際調整や標準化を重視し、CAIOガイドのパブリックコメント実施やAIインシデント対応の資料公表など、具体的な成果を挙げています。今後は技術の変化の速さに合わせてガイドライン等を更新していく必要性を示しており、CAIOガイドは今年度中に正式版を公表する予定とされています。