Xに搭載される生成AI「Grok（グロック）」 で
女性や子どもの性的な画像が加工できることが問題となっているようです
ロイターなどはグロックで作成された裸に近い画像がオンライン上で拡散していると報じました
また
ある漫画家が生成AI・Grokを使って
某アイドルの画像を「ビキニを着せて」と指示して改変した水着姿の画像を投稿したそうで
その画像は本人にまで伝わり
本人も不快感をあらわにしたことで漫画家は謝罪したそうです
そんな事件があったと聞いて
そういえばSNSで最近性的なショート動画が増えたなと思っていたその謎が今解けました
生成AIを使えば誰でも簡単にそういう画像や動画が作れてしまうわけですから
誰でも作るでしょう
しかもそれで再生数やいいねが増えれば収益化することも可能であればやる人も増えるでしょう
おすすめや関連に上がってきたものを
眺めているだけで自動的に地雷を踏んだ形になってクローラーが「興味あるもの」として判断してしまいおすすめや関連に増えてくるということもありそうです
興味があるならいいと思うのですが
本来見たいものが見れなくなってしまうのは気に入りません
しかもそういうのって安易に「エロ」を利用しているように思えてなりません
しかも今回の場合
実在する人を生成AIで加工して投稿するという何とも気持ちの悪いことで
完全に常軌を逸した行動です
こういうことをするから規制がかかりどんどんと面白いものが消えていく
ということがまだわからないのでしょうか
みんながマナーやルールを守ればとても楽しいサービスなのに
そういう人はごく一部だとは思うのですが
そのごく一部の人のために規制を掛けることになる
世の中そういうことが多いなと思います
仕事などでも誰か1人の問題が大きくなり
その1人を正すために周りの人が“連帯責任”というとても不愉快な理屈で犠牲になる
このSNSでの生成AIも規制が掛かり本来作りたかったものを作ることが困難になる
「あれめんどうだから使うのやめよう」
みたいな流れになりそうだなとか考えると本当に冷めてしまうというか
また新しいサービスができて
それが流行りだしみんながそっちに流れていく
するとそこでまた同じことが起こる
という繰り返しなのかなと思ったりもします
そう考えると
常に新しいビジネスチャンスは生まれるということになるのかなと
それがどれだけの経済効果を生み出しているのかは僕にはわかりませんが
少なくとも生産者と消費者がいるということはそこにビジネスというものは成立する可能性がある
とか考えると
なんか複雑な気持ちになりました
