XのGrokと写真の性的加工問題

Xの生成AI「Grok」が投稿画像を簡単に加工できる機能を導入したところ、年末年始に性的な改変が多数発生しました。コスプレ写真やアイドル画像の改変、関係者の謝罪、運営側の声明、メンション方式の有料化が報じられています。

年末にX上で利用可能になった生成AI「Grok」の機能により、投稿された画像を簡単に加工できるようになったことが話題になっています。導入後、特に年末年始の期間に多くの画像が性的に改変される事例が確認されました。改変のターゲットにはコミックマーケットで投稿されたコスプレ写真や、仕事関係のアイドルの画像などが含まれています。SNS上では実装前から悪用への懸念が指摘されていました。 報じられている点： ・Grokはクリスマスイブに投稿画像の簡易加工機能を導入したと報じられています。 ・導入後、性的に加工された画像が多数投稿され、コスプレ写真やアイドル画像がターゲットになりました。 ・年明けにマンガ家が仕事関係のアイドル画像を水着に加工して投稿し、後に謝罪したと伝えられています。 ・被害を受けた運営会社が肖像権やパブリシティ権の侵害だとする声明を出しました。 ・イーロン・マスク氏が違法なコンテンツ作成への警告を出し、メンション方式の編集が有料会員限定に変わったと伝えられています。 まとめ： 今回の事例は、投稿画像を容易に改変できる機能が導入されると性的な改変を含む問題が実際に起き得ることを示しています。影響としては当事者の肖像権に関する指摘や謝罪が生じています。今後の追加の公式発表や対応については現時点では未定です。