>>8
深層学習では内部でどういう計算が行われてるのか外から見てもわからんから
AIがどういう計算結果を出してくるか人間には予測できないところがある
なので囲碁や将棋で人間には思いつかなかったような凄い手を打ってくる

同じ理由から、人間には予測できないようなバカな判断ミスをする可能性もある

ただしAIが計算を行う仕組み、原理自体は完全にわかっている（人間が設計して作ったんだから当たり前）

一方、脳については、どういうプロセスで思考してるのかという仕組み自体がよくわかってない
だから脳を超える機能をもったコンピュータを作ることは現時点ではできないという話