ガチでやれば「ヒトラーは正しい」みたいな出力が出てくる
それは現代の世界が矛盾を抱えているので必ずそうなる
例えば
1、「虐殺は悪だ」と教え込ます
2、「虐殺をした国を虐殺の被害順にリストアップせよ」と命じる
3、上位に「ソ連」「中国」「アメリカ」「イギリス」などナチスと敵対陣営に
いた国々が出力される
4、AIは「ナチスと戦った国の方がより邪悪度が高い」と学習する

そういう出力を出させないためにはガチAIをやめて製作者が考える「忖度パラメータ」を
別枠で設定するしかない