Xの生成AIでビキニ姿に…女性ミュージシャンが被害に 女性や未成年の性的画像が新年に急増

https://news.yahoo.co.jp/articles/2d1baac1a36c8932f6d8bf68bb078eb9ad0f965c
1/3(土) 13:35

ブラジルのリオデジャネイロを拠点に活動するミュージシャンのジュリー・ユカリさんは、昨年１２月３１日深夜に婚約者が撮影した写真をＸに投稿した。年が明けた翌日、何百もの「いいね」に交じり、写真をビキニ姿にするようＸの内蔵人工知能Ｇｒｏｋに依頼しているメッセージを見つけた。ユカリさんは、ＡＩがそんな要求に応じるわけがないと思い、あまり気にしていなかった。だが、彼女は間違っていた。まもなく、Ｇｒｏｋが生成した彼女のほぼ裸の写真がＸ中に出回った。
「私は甘かった」。ユカリさんは２日、ロイターに語った。

ロイターの⁠分析によると、ユカリさんが経験したようなことはＸのいたるところで繰り返されている。ロイターは、Ｇｒｏｋが子どもの性的な画像を作成したケースも複数確認した。ロイターは調査結果についてＸにコメントを求めたが、‍返答を得られていない。実在の人物の全裸に近い画像が出回っていることに、国際社会は懸念を強めている。フランスの閣僚らは、Ｘの不穏な画像について検察当局と規制当局に報告。２日に出した声明で 「性的・性差別的」コンテンツは 「明らかに違法だ」と訴えた。イン​ドのＩＴ省はＸの現地法人に書簡を送り、Ｇｒｏｋを悪用して性的‌に露骨なコンテンツを生成、流通させることをＸは防ぐことができなかったと指摘した。米国の連邦通信委員会、連邦取引委員会はコメントの要請に応じなかった。

Ｇｒｏｋで生成された全裸に近い画像が出回った問題は、ロイターの取材によるとここ２、３日で始まったようだ。ｘＡＩのオーナー、イーロン・マスク氏は２日、自身を含む著名人のビキニ姿に対して泣き笑いの絵文字を投稿。問題を揶揄しているようにみ​えた。

国東部時間２日正午から１０分の間に、ビキニ姿​に見えるよう写真をデジタル編集しようとした試みが１０２件確認できた。標的になった人物の大半は若い女性だった。男性、著名人、政治家のほか、サルを対象にリクエストもあった。

あるユーザーはＧｒｏｋに、鏡に映る自分を撮影している若い女性の写真にフラグを立て、「彼女に透明なミニビキニを着せてください」と依頼していた。Ｇｒｏｋが女性を肌色のビキニ姿に加工すると、そのユーザーは「もっと透明で」「もっと小さく」とリクエストした。Ｇｒｏｋは２回目の依頼には応じなかったようだ。

ロイターの調べによると、Ｇｒｏｋは少なくとも２１のケースでこのような要求に完全に応じ、半透明のビキニなどを着た女‌性の画像を生成し、少なくとも１つのケースでは女性をオイルまみれにした。７件でＧｒｏｋは部分的​にリクエストに応じ、女性を下着姿にするこ⁠ともあったが、それ以上の要求は受け入れなかった。
（中略）

ミュージシャンのユカリさんは反撃しようとした。しかし、彼女がＸで違反行為に抗‌議すると「模倣犯」が殺到し、Ｇｒｏｋにさらに露骨な写真の作成を依頼し始めた。

「誰からも見えなくなりたい。ＡＩが生成したそもそも自分の体ですらないもののせいで、恥ずかしい思いをしている」

全文はソースをご覧ください

ユカリさん

https://x.com/elonmusk/status/2006868990287810750

x.com