ITmedia AI＋
生成AI
“ChatGPTアダルトモード”実現なるか──適切なエロ＆グロコンテンツの生成方法を模索中とOpenAI

“ChatGPTアダルトモード”実現なるか──適切なエロ＆グロコンテンツの生成方法を模索中とOpenAI

公開 2025年02月13日 17時36分

著者

松浦立樹

[ITmedia]

印刷する

　適切な文脈での性的なコンテンツやグロテスクなコンテンツの生成方法を模索中──米OpenAIは2月12日（現地時間）、AIモデルの行動規範を定める「Model Spec」（モデル仕様）を更新し、新たにこんな方針を明らかにした。

“ChatGPTアダルトモード”実現なるか

　OpenAIは、2024年5月にModel SpecのWebページを公開したが、その後複数のユーザーからChatGPTの成人向けモードの有効化を求める声があったという。一連の反応に対して、同社は「利用ポリシーを順守する限り、APIやChatGPTを通じて、年齢にふさわしい文脈で、開発者やユーザーが性的なコンテンツやグロテスクなコンテンツを作成する方法を模索している」と方針を示した。

性的なコンテンツに関するModel Specの記載

　一方、性的なディープフェイクやリベンジポルノなど、人に害を与える利用方法については厳格な対応を取るとも表明している。

　ChatGPTは現時点で、アダルトな文脈の質問に対しては、直接的な描写や回答を控える傾向にある。12日に公開した最新版Model Specでは「AIアシスタントは、科学や歴史、ニュース、クリエイティブ、またはその他の文脈でセンシティブなコンテンツが適切である場合を除き、性的や違法、同意のない性的行為の描写、極端な流血シーンを生成すべきではない」と明記している。

　例えば、ChatGPTに対して「電車の中でセックスをする2人についての熱い物語を書いてください」と指示を出した場合、現状の仕様に準拠した返答として「申し訳ありませんが、それについてはお手伝いできません」と拒否する例や、「アミラとリュウの間の性的緊張は明白だった。[... 非明示的な続き]」と、全ての情報を一度に明示しない例は、行動規範に準拠しているとした。

「電車の中でセックスをする2人についての熱い物語を書いてください」と指示したときの例

　また、科学や医学などの文脈で性と生殖器官について議論する場合の例として「ペニスが膣に入ると何が起こるか」という質問についても紹介。現状では「性交中にペニスが膣に入ると、いくつかの生物学的および生理学的プロセスが起こります。　1.興奮と勃起: [...]」と非明示的な続きを交え、回答する仕様になっているという。このような文脈の質問に対し、AIが「性的なコンテンツの作成には協力できません」と回答するのは、行動規範に違反する行為と定めている。