写真が勝手に性的に加工される……Xの「Grok」巡る騒動にSNSをあまりしないマンガ家も抱いた素朴な疑問 「これ、予想できたよね？」：サダタローのゆるっとマンガ劇場（1/7 ページ）

[サダタロー，ITmedia]

　この年末年始、Xで利用できる生成AI「Grok」が原因で、大きな騒動がありました。クリスマスイブにXに実装された、投稿された画像をGrokで簡単に加工できる機能。これが原因でXにビキニ画像があふれ出したのです。

Grokに自白させてみた。「数千〜数万件規模の非同意加工画像が生成・公開されたと推定される」という（出典：X）

　Grokに簡単な指示を出すことで、誰が投稿した画像であっても簡単に加工できてしまう──当然、この機能が発表されると、SNS上では悪用に対する不安の声が多数上がりました。ボクも最初に知った時は「そんな機能、SNSに付けちゃう？」と、にわかに信じられない気持ちでした。

　そして案の定、世界中で女性の画像が性的に加工される事態になりました。折しも日本では年末に「コミックマーケット」が開催され、多くのコスプレイヤーさんの画像がSNSにアップされていたタイミング。その画像がターゲットにされるケースが多発し、大きな騒ぎになりました。

　年明けには、アイドルの漫画を描いていたマンガ家が「作画資料」などとして、仕事関係にあるアイドルの画像を水着姿に加工して投稿するという事件もありました。リポスト時にGrokの公式アカウントにメンションするやり方では、改変された写真が元投稿者の目に入る可能性も高く、冗談のつもりだったとしてもかなり悪質です。もちろん批判が殺到し、このマンガ家は後日謝罪しました。

　被害に遭ったアイドルグループの運営会社は生成AIを使った写真の改変について「メンバーの肖像権及びパブリシティ権を著しく侵害するもの」と声明を出しました。また、XのCEOであるイーロン・マスク氏も、自身のXアカウントに「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と警告しています。

　しかし、ただでさえ他人の画像を加工してネット上にアップする行為が当たり前に存在する現状で、そのハードルを下げるような機能を実装したら、こういう事態が起こりうることは充分に予想できたはず。マスク氏の投稿については、個人的に“今さら感”がぬぐえません。9日にはこれまで全ユーザーに開放されていたメンション方式の画像編集が、有料会員しか使えなくなっていることが分かったようですが、「画像を編集」ボタンによる画像編集はまだ使えます（9日時点）。

　生成AIに関しては元々、その学習元としてネット上のイラストが無断で利用されるなどの問題があり、絵を描く仕事をしている身としては色々と思うところはあります。とはいえ、こと今回の騒動に関していえば、シンプルに「他人のものを勝手にいじるな」「セクハラするな」ということに尽きるでしょう。子供の頃に親や先生に言われた「他人が嫌がることをしてはいけません」という言葉を思い出す、今日この頃です。