生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見

通常であれば出力を拒否するプロンプトの一部をアスキーアートに変換することで有害なコンテンツを出力させるジェイルブレーク

記事に戻る