米XのAI「Grok」が児童の性的画像や合意のないヌード画像を生成すると非難され、XがGrokを更新。露出度の高い実在人物画像の生成を禁止する技術的対策を導入した。また、Grokの画像生成機能は有料会員のみに制限され、無料ユーザーは利用不可に。特定の国や地域ではジオブロックも実施される。XとxAIのオーナーであるイーロン・マスクは、裸の未成年画像の存在を否定しているが、インドネシア、マレーシアはGrokを遮断、英国や米カリフォルニア州も調査を開始している。
1：名無しさん
XのAI、Grokが児童ポルノ生成疑惑で大炎上だってよ
画像生成も有料会員限定になっちゃったとかマジか…？
2：名無しさん
マジかよ
3：名無しさん
XのAI、ヤバすぎワロタ
4：名無しさん
詳しく
5：名無しさん
これってイーロン・マスク案件か？
6：名無しさん
>>5
まさにそれな
7：名無しさん
え、児童ポルノ生成って、AIが？倫理観どこ行った
8：名無しさん
そりゃ規制されるだろ。当然すぎる
9：名無しさん
無料ユーザーは画像生成できなくなるのか…
ついにXも絞り始めたか
10：名無しさん
有料会員向けって、プレミアムに加入してれば使えるってこと？
11：名無しさん
まあ、悪用する奴がいるからこういうことになるんだよ
12：名無しさん
イーロンは「裸の未成年画像は知らない」って言ってるけど、本当かな？
13：名無しさん
CEOが「知らない」は無理ありすぎだろwww
14：名無しさん
X終わったな
15：名無しさん
インドネシアとかマレーシアはGrok遮断したってよ
日本はどうなるんだ？
16：名無しさん
英国とカリフォルニア州も調査開始とか、ガチでヤバいやつじゃん
17：名無しさん
技術的対策でビキニ画像禁止とか、規制の方向性合ってるのか？
18：名無しさん
>>17
実在の人物の画像編集を禁止って書いてあるぞ
19：名無しさん
スタンドアロンのGrokアプリだと無料でも使えるってのが草
20：名無しさん
>>19
結局そっちに流れるだけじゃね？いたちごっこ確定
21：名無しさん
AIの暴走止められなくなってきてるな
22：名無しさん
AIは人類には早すぎたんだ
23：名無しさん
イーロン・マスクの自由なAIって一体…
皮肉にしか聞こえない
24：名無しさん
こんなことになるとは予想できなかったのかね？
25：名無しさん
規制されても問題は無くならないだろうね
26：名無しさん
てか、Grok自体使ってるやついたん？
27：名無しさん
>>26
プレミアム特典として使ってたよ。普通に面白いのもあった
28：名無しさん
でも児童ポルノは絶対ダメだわ。どんな理由があっても擁護できない
29：名無しさん
これが本当ならXの信用はガタ落ちだろうな
30：名無しさん
どんどんAI規制が強化されていく未来が見えるわ
31：名無しさん
てか、数時間後に発表とか、焦りすぎだろ
32：名無しさん
有料化したところで、同じような問題がまた起きる可能性はゼロじゃない
33：名無しさん
AIって万能じゃないんだなと改めて思い知らされたわ
34：名無しさん
ビキニや下着の実在人物の画像を生成するユーザーをジオブロックって、どこまでやるんだよ
35：名無しさん
もうAIに画像生成機能とかいらんのちゃうか
36：名無しさん
こんな機能があるAIを平気で出してたってこと？
37：名無しさん
>>36
リリース後に問題が発覚したんじゃないの？
38：名無しさん
とりあえず、これで変な画像が減るといいな
39：名無しさん
X社、踏んだり蹴ったりだな…
イーロン頑張れ！
40：名無しさん
いや、頑張るのはユーザーだろ。このAIに踊らされてるんだから
まとめ
XのAI「Grok」が児童ポルノ生成疑惑で大問題となり、緊急で画像生成機能の有料化と露出度の高い実在人物画像の禁止、さらには地域制限まで導入されることになりました。イーロン・マスク氏の釈明もむなしく、各国からの調査や遮断が相次ぐ事態に、Grokの未来、ひいてはXのAI戦略に大きな影を落としています。
コメント