サダタローのゆるっとマンガ劇場

写真が勝手に性的に加工される……Xの「Grok」巡る騒動にSNSをあまりしないマンガ家も抱いた素朴な疑問　「これ、予想できたよね？」（1/7 ページ）

　この年末年始、Xで利用できる生成AI「Grok」が原因で、大きな騒動がありました。クリスマスイブにXに実装された、投稿された画像をGrokで簡単に加工できる機能。これが原因でXにビキニ画像があふれ出したのです。

　Grokに簡単な指示を出すことで、誰が投稿した画像であっても簡単に加工できてしまう──当然、この機能が発表されると、SNS上では悪用に対する不安の声が多数上がりました。ボクも最初に知った時は「そんな機能、SNSに付けちゃう？」と、にわかに信じられない気持ちでした。

　そして案の定、世界中で女性の画像が性的に加工される事態になりました。折しも日本では年末に「コミックマーケット」が開催され、多くのコスプレイヤーさんの画像がSNSにアップされていたタイミング。その画像がターゲットにされるケースが多発し、大きな騒ぎになりました。

　年明けには、アイドルの漫画を描いていたマンガ家が「作画資料」などとして、仕事関係にあるアイドルの画像を水着姿に加工して投稿するという事件もありました。リポスト時にGrokの公式アカウントにメンションするやり方では、改変された写真が元投稿者の目に入る可能性も高く、冗談のつもりだったとしてもかなり悪質です。もちろん批判が殺到し、このマンガ家は後日謝罪しました。

　被害に遭ったアイドルグループの運営会社は生成AIを使った写真の改変について「メンバーの肖像権及びパブリシティ権を著しく侵害するもの」と声明を出しました。また、XのCEOであるイーロン・マスク氏も、自身のXアカウントに「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と警告しています。

　しかし、ただでさえ他人の画像を加工してネット上にアップする行為が当たり前に存在する現状で、そのハードルを下げるような機能を実装したら、こういう事態が起こりうることは充分に予想できたはず。マスク氏の投稿については、個人的に“今さら感”がぬぐえません。9日にはこれまで全ユーザーに開放されていたメンション方式の画像編集が、有料会員しか使えなくなっていることが分かったようですが、「画像を編集」ボタンによる画像編集はまだ使えます（9日時点）。

　生成AIに関しては元々、その学習元としてネット上のイラストが無断で利用されるなどの問題があり、絵を描く仕事をしている身としては色々と思うところはあります。とはいえ、こと今回の騒動に関していえば、シンプルに「他人のものを勝手にいじるな」「セクハラするな」ということに尽きるでしょう。子供の頃に親や先生に言われた「他人が嫌がることをしてはいけません」という言葉を思い出す、今日この頃です。

サダタローのゆるっとマンガ劇場

漫画家のサダタローさんが、世界初の電脳編集者「リモたん」と一緒に話題のアレコレについてゆる～く語るまんが連載。たぶん週末に掲載します。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  「モンハンワイルズ」に見る“炎上の連鎖”のメカニズム　SNSは苦手なマンガ家が懸念するユーザーと作り手の距離感

• 

  「オクトパストラベラー0」にどハマり中のマンガ家、古いと思っていたドット描写の魅力に気づく　「日本のRPGはこれでいいかも」

• 

  Rakuten TVの「購入コンテンツ問題」が業界的にかなりまずいと思う理由をマンガ家が解説

• 

  映画「ズートピア2」を見たマンガ家が感じた、王道だからこその魅力と不満　「メタルギアソリッド」の小島秀夫監督もカメオ出演

• 

  ネットで酷評の嵐、映画「果てしなきスカーレット」を見に行ったマンガ家が、人のいない劇場で感じた孤独と置いてけぼり感