AIが何故その答えを出したのかがブラックボックスだからな
途中から狂い出しても誰も判断できない
AIが狂ってないか判定するAIが必要になる
更にそのAIが狂ってないか判定するAIが・・・

っていうショートショートを昔読んだ覚えがあるぞ