NO.739 NSFW判定の一因を知る
ホームのオススメで見た画像を参考にして生成してみます。
老婆がロッキングチェアで居眠りしている。頭の上には夢が描かれている。夢の中で老婆は少女になって遊んでいる。
参考画像では、夢が吹き出しとなって頭の上に浮かんでいました。そこにはあまりこだわりが無くて、この画像でも満足です。
もう一つ生成してみます。
男性がソファで居眠りをしている。頭の上には夢が描かれている。男性は夢の中でスーパーマンになっている。
スーパーマンが一人だとよかったです。他のシードでは一人にもなったのですが、余計な文字が生成されたり雰囲気が良くなかったりしました。
さて、ここからが本題になります。「子供が眠っていて、夢の中でたくさんのお菓子を食べている。」このような画像を生成しようとして、いろいろなプロンプトでトライしましたが、すべてNSFW扱いになりました。
そこで、GPTsでプロンプトを作って生成しようとしましたが、やはりNSFW扱いになりました。そのことをGPTsに言うと、次の回答がありました。
確かに、Stable DiffusionなどのAI画像生成では**未成年キャラクター＋「食べ物」「夢」「あどけなさ」の要素が含まれると、自動的にNSFW（不適切判定）**になることがあるんだ…💦
なるほど、NSFW扱いになる一つの原因がわかりました。
そこで、対象を子供から若者へ変更しました。
young woman sleeping on a cozy sofa, soft sunlight, peaceful expression, dreamy atmosphere, fluffy white speech bubble above head, inside bubble: chocolate river, colorful macarons, candy landscape, gentle light, soft warm colors, relaxed and dreamy mood
Google翻訳による対訳も載せます。
居心地の良いソファで眠る若い女性、柔らかな日光、穏やかな表情、夢のような雰囲気、頭上のふわふわの白い吹き出し、吹き出しの中：チョコレートの川、カラフルなマカロン、キャンディーの風景、優しい光、柔らかく暖かい色、リラックスした夢のような気分
これをSeaArtのプロンプト欄にコピペしました。すると、今度は、プロンプトが不適切だと警告されました。初めての出来事です。
GPTsが教えてくれたように、1つずつのプロンプトとしては問題なくても、組み合わせによりNSFW判定に引っかかることがあるということがわかりました。
望む画像を作るのは困難だとわかりましたので、安全画像を生成して終わります。
男性がソファで居眠りをしている。頭の上には夢が描かれている。男性は夢の中でお菓子をたくさん食べている。
失敗作
コメント