自分が自動運転車に乗ってたとしよう
峠道を走ってたら突然目の前に5人の子供が飛び出してきた、ブレーキで止まれる距離ではない

回避しなければ5人を轢いてしまう
回避すれば車は谷底に落ちる

自動運転プログラムにはどちらの挙動を求める？