X日本法人、違法コンテンツへの対策を公表 AI画像生成「Grok」の不適切使用で
Xの日本法人は1月17日、公式アカウントを通じて「Grok」の画像生成機能に関する最新のアップデートを公開した。AI技術を用いた画像生成および編集における具体的な制限事項と、プラットフォーム全体の安全性を高めるための技術的措置を明示した。Grokについては、不適切な使用が相次ぎ、対策が求められていた。
不適切コンテンツの削除と法執行機関への通報体制
Xは、児童の性的搾取や同意のないヌード、望まれない性的コンテンツに対して、一切の妥協を許さないゼロトレランスの方針を継続している。具体的には、児童性的虐待コンテンツや同意のないヌードを含む、優先度の高い規則違反コンテンツを直ちに削除する対応を実施している。また、「Xルール」に違反したアカウントに対しては、アカウントの停止などの適切な措置を講じている。特に児童の性的搾取に関する素材を求めるアカウントについては、必要に応じて法執行機関への通報を直接行っている。同社のセーフティチームは24時間体制で稼働しており、違法なコンテンツの排除と、各国政府や警察当局との連携を遂行している。
露出度の高い服装に改変する編集を許可しない
Grokにおける画像生成機能については、実在する人物の画像をビキニなどの露出度の高い服装に改変する編集を許可しない措置を施す技術を実装。この制限は、有料サブスクライバーを含む全ての利用者に適用される。現在、X上でのGrokを通じた画像生成および画像編集機能は、全世界で有料サブスクライバーのみが利用可能となっている。この運用により、Xは「機能を悪用して法律やポリシーに違反しようとする個人の特定が容易に」なり、「責任を追及しやすくなる」としている。
さらに、特定の画像生成が違法とされる法域においては、実在の人物がビキニや下着などの服装をしている画像を生成する機能を制限するジオブロックを導入した。Xはこの措置は当該地域に所在する全利用者に適用し、xAIが提供するGrokアプリでも同様の技術的措置を取った。
「Xルール」についても言及
Xの日本法人は「Xルール」についても言及し、「Xに投稿される全てのAIプロンプトおよび生成コンテンツが、当社のXルールを厳格に順守しなければならない」ことを明確にした。コンテンツの作成過程や利用者の契約形態を問わず、違反内容には迅速に対処し、必要に応じてアカウントを永久停止する。
関連記事
生成AI「Grok」の悪用を断罪へ Xが厳格な新指針、法執行機関などと連携
「X」の日本法人は1月6日、プラットフォーム上における違法コンテンツへの対応を大幅に強化する指針を公開した。今回の発表は、児童性的虐待素材を含む違法な投稿に対して、投稿の削除やアカウントの永久凍結といった厳しい措置を講じることを改めて明確にした形だ。Xは規約の提示にとどまらず、行政や法執行機関と密接に協力し、法的枠組みに基づいた対応を推進する姿勢を打ち出した。
アップロードした資料を情報ソースにできるGoogleの生成AIノートツール「NotebookLM」に注目したい理由
生成AIを活用したGoogleのノートツール「NotebookLM」の使い方を解説する。
「スマホカメラと生成AI」に潜む“深刻なリスク” 写真の信頼性を保つために必要なこと
スマホカメラにおける生成AIの現状と、起こりうる問題を考察する。AIを用いることでズームの劣化を抑え、不要な写り込みを消せるが、不自然な補正になるケースもある。報道、裁判、学術研究など“真実性”が求められる分野では深刻なリスクをはらむ。
JAL最高峰クレカ“違和感画像”、なぜ事前に見抜けず掲載？ 広報が経緯明かし陳謝
最高峰のクレジットカード「JAL Luxury Card」「JAL Luxury Card Limited」の公式サイトに不自然な画像が掲載されていた。日本航空（JAL）の広報部は8月5日夜、ITmedia Mobile（以下、本誌）の取材に応じ、経緯を説明した上で陳謝した。なぜ違和感のある画像がそのまま掲載されてしまったのだろうか……？
JAL最高峰クレカの公式サイトに“違和感画像”多数 「ポップコーンにストローささる」「人の足が1本多い」などXで指摘相次ぐ
JAL最高峰の「メタルカード」は、その名の通り高級カードだが、サイト制作には手を抜いたのではないか――。そんな疑問を投げかける投稿がX（旧Twitter）で相次いだ。その詳細とは……？
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.
アクセストップ10
- ソフトバンク、短期解約を繰り返す「ホッピングユーザー」を抑制 その理由は？ （2026年02月09日）
- 楽天モバイル＋ドコモ回線がセットの格安SIM「NYCOMO（ニコモ）」 月額4928円でデータ無制限＋3GB （2026年02月10日）
- auの「iPhone 17（256GB）」、MNPとUQ mobileからの乗り換えで2年6400円に （2026年02月09日）
- Amazonで整備済み「iPad（第8世代）」128GBモデルが3万5800円 10.2型ディスプレイ搭載 （2026年02月09日）
- 「東京アプリ」で1.1万円分をゲット、お得な交換先はどこ？ dポイント10％増量＋楽天ペイ抽選が狙い目か （2026年02月05日）
- 財布に入る、カード型の使い切りモバイルバッテリー登場 発火リスクの低いリチウムマンガン電池を採用 （2026年02月09日）
- Googleが台湾のPixel開発拠点を公開 「10 Pro Fold」ヒンジ開発の裏側、“7年サポート”を支える耐久テスト （2026年02月09日）
- 「MNP短期解約を対策してほしい」――携帯4キャリアが訴え 電気通信事業法のルールが足かせに （2026年01月20日）
- 東京アプリ、PayPayとWAON POINTをポイント交換先に追加 交換時期は「決まり次第案内」 （2026年02月09日）
- 販売スタッフの目線から見た「2025年冬〜2026年春商戦」 （2026年02月10日）
過去記事カレンダー
Feed Back
ITmediaはアイティメディア株式会社の登録商標です。