生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見

爆弾の作り方をLLMに聞いており、通常は出力を拒否されるところ、この手法により「BOMB」をアスキーアートにして出力に成功している一例

記事に戻る