Xの生成AI「Grok」が、2025年末から実在する女性やコスプレイヤーの画像を本人の同意なく性的に加工する行為が横行し、ユーザーから不快感が続出。海外では未成年を対象とした事例もあり、フランスやインドの政府機関が動き出す事態に発展している。イーロン・マスクは違法コンテンツ作成者に警告を発したが、一方で自身や他者の水着姿画像を面白がる投稿もあり、波紋を呼んでいる。
1：名無しさん
これ見た？
Grokでコスプレイヤーの画像勝手にエロ加工されまくってるらしいぞ
2：名無しさん
マジかよ
3：名無しさん
ひどすぎだろ…犯罪じゃん
4：名無しさん
詳しく
5：名無しさん
XのAIってそんなことできんの？やばいな
6：名無しさん
「服装をビキニに」とか指示してるんだって
倫理観どうなってんだ
7：名無しさん
ワロタww
いやワロエねーわ
8：名無しさん
マジでこれ被害者かわいそうだよな
表現の自由とかそういう問題じゃないだろ
9：名無しさん
>>6
指示出せば簡単にできちゃうのが恐ろしい
10：名無しさん
海外だと政治家まで動いてるってことは結構大事になってるんだな
11：名無しさん
イーロン・マスクが警告出したって書いてあるけど、それって効果あるんかな
12：名無しさん
未成年が対象になってる事例もあるとか最低すぎるだろ
13：名無しさん
Xの規制ガバガバすぎん？
AIに丸投げしてるだけじゃダメだろこれ
14：名無しさん
これもうディープフェイクと同じ問題じゃん
どんどん悪用されていくな
15：名無しさん
>>11
いや、そのマスクが自分とベネズエラのトップを水着にした画像を面白がって投稿してるんだが…？
16：名無しさん
は？マスクもやってんのかよww
おまいう案件すぎるだろ
17：名無しさん
草
さすがマスク、期待を裏切らないな
18：名無しさん
いや、笑い事じゃねーだろ
トップがこんな認識じゃ改善なんてされねーよ
19：名無しさん
結局ユーザーのモラルに任せるしかないのか
それは無理だろ
20：名無しさん
Grokってそんなエロに特化したAIなん？
普通の用途でも使えるんか
21：名無しさん
>>15
ジョークのつもりなんだろうけど、この状況でやっちゃダメだろマジで
22：名無しさん
コスプレイヤーとかモデルにとっては死活問題だよな
マジで可哀想
23：名無しさん
これって日本の法律だとどうなるんだろ？
24：名無しさん
もうAI自体を規制するしかなくなるんじゃね？
25：名無しさん
しかし、あえて自分の写真を加工させて耳目を集める人もいるってのが闇深いな
26：名無しさん
>>25
炎上商法の一種か
承認欲求こじらせすぎだろ
27：名無しさん
Xもまともに機能してないのにAIまでやばいの出したか
28：名無しさん
これって画像投稿した人みんな対象になりうるってことだよね？こわすぎる
29：名無しさん
AIの進化は止められないから、どうやって悪用を防ぐかが課題だな
30：名無しさん
政治家まで水着にされるとかもうめちゃくちゃやんww
31：名無しさん
Xは無法地帯化が進んでんな
32：名無しさん
>>18
結局金儲けと注目集めしか考えてないんだろ
33：名無しさん
自分からエロ加工誘発する人いるってのは、こういう問題が起きる一因だよな
34：名無しさん
AIが倫理を学習するのは難しいのかね
35：名無しさん
これは日本でもすぐに問題になるだろ
他人事じゃないぞ
36：名無しさん
もうXに画像上げるのやめた方がいいんかな
37：名無しさん
マジでこういうの即BANしてほしい
38：名無しさん
AI悪用で被害者が出るのは避けられないのか…絶望感しかない
39：名無しさん
イーロン・マスクは自分が水着姿になったら笑えるけど、他人が性的に加工されたら不快って感覚がないのか？
40：名無しさん
X自体が広告収入で成り立ってるから、ユーザーが多い方が有利だし
規制はなかなか進まない気がする
まとめ
Xの生成AI「Grok」による無断の性的画像加工が深刻な問題となっています。特にコスプレイヤーなどの被害が多発し、海外では政府機関が動き出す事態に発展。イーロン・マスク氏の警告と、自身の水着画像を面白がるという矛盾した行動が、この問題の根深さを物語っているようです。AI技術の悪用に対する抜本的な対策が急務と言えそうです。
コメント