高3男子「中学生集めました。お願いします」 32歳男「うむ」→AIで裸画像に加工

女児の画像をAIで裸に　ディープフェイク投稿疑い　会社員逮捕
https://news.yahoo.co.jp/articles/2255999f1bcb6532f1cfb34578386f40bff27507

警視庁によると、2月に高校3年の男子生徒（17）＝鹿児島県垂水市＝がSNS上の掲示板に「中学生集めました。お願いします」として体操着姿の少女の画像を投稿。これを受けて、井元容疑者は画像の加工ができる有料版の生成AIを使って数分で裸に見えるように作り替え、数日後にその画像を投稿していたという。2人には直接の面識はなかった。警視庁は、この男子生徒も両容疑で書類送検した。

逮捕・書類送検容疑は、共謀して2月11日、当時12歳だった女子中学生の体操着姿の画像1枚を、裸や下半身を露出した姿の画像2枚に加工し、SNSに投稿したとしている。2人とも容疑を認めている。

警視庁は元画像に写った体操着に書かれた学校名から本人を特定。実在する人物が12歳だった時に撮影されたものと判明し、容疑者らは児童と認識できたはずと判断した。井元容疑者のスマートフォンには生成AIで作ったとみられる児童ポルノを含め、わいせつ画像や動画が3800件保存されていたという。

生成AIや加工アプリの発達に伴い、こうしたツールを悪用して作った画像や動画「ディープフェイクポルノ」の被害は増え続けている。警察庁によると、1～6月に全国で確認された18歳未満の画像が使われた被害は123件で、前年同期（60件）の倍以上に達している。被害者は95％に当たる117件が中高生（中学生79件、高校生38件）で、全体の67％が「同級生・同じ学校」の人物による被害だった。

児童の顔画像を使ったディープフェイクポルノは、身体の部分が実在しないAI生成物の場合に児童ポルノに当たるかどうかが課題だった。これについて、名古屋地裁は6月、「一般人が見れば実在する女児の裸と誤信する精巧」な画像が児童ポルノに当たるという判断を示している。