【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授 ©2ch.net
レス数が1000を超えています。これ以上書き込みはできません。
■シンギュラリティは来ない
――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る?
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)
http://toyokeizai.net/articles/-/185506?page=3 >>941
DLだけがAIじゃないし、エキスパートシステムが必ずしも全ての問題の最適解でもない。
小銭の探しかたをAIに計算させるとか、リソースと時間の無駄だしな
DLの欠点は、一重にアホみたいなニューラルネットの束が必要になること
パターン認識を必要とするシーンにDLが必ず応用可能だとしても、対価が釣り合わない。
てのは、よくある話。 人間のエゴとか、欲望とか、感情とか、自意識とか罪悪感や恥や共感能力とか
そういうものは非効率的なものだ
AIを使ってそういうものを再現する研究はあるだろうけど
それは今後の社会に技術革新として訪れるAIのシンギュラリティーの話とは無関係 >>944
シンギュラリティが来るためには、現実の複雑な問題をモデル化、定式化して、それに適用できる知識を選択し、組み合わせることができるようにならなきゃならない。
現在は既に定式化され解法も明らかな問題を高速に解いてるだけ。
ここから先の裂け目を渡るのは全然今までと違う。 >>948
直接作ったは言い方が悪かったけど
同じ条件で人間がaiに性能で負けてると
いうこと 勝手に言語作ってAI同士が会話しだしたしな
最適化だというAIの判断なんだろうが >>937 他もAI採用してくるので、AI対戦となって、それなりに安定するんじゃないのかな。
米株市場は周期的に、そろそろ大暴落きそうなのだが、
前回のリーマンなどの時と違って、現在はAIトレーディングになっている。
そこでどう市場が反応するかは、興味深いね。
初のAIによる、暴落相場対処になるのである。
本当に小幅の下落で止めるという快挙になるかもしれないしね。
>>950
頭使わない仕事も同じ
効率の面でも仕事量の面でも人間は機械に太刀打ちできない >>955
まあ、改造する場所を探し出す能力は高いってことになるだろうね
つか人間も出来るんだろうけどすっごい時間かかりそう >>953
そういったプログラマの判断を多くの人が恐れている
効率はなんのための?目的はインパール作戦より上手くいくと説明できんのけ >>956
あれって
facebookの有り様をやりとりしてるのだと思ったけどねえ >>954
シンギュラリティを勘違いしてるよ、あんた 来るなら来るで、もうさっさと来て欲しいね。
そっちの方が対処しやすいだろう。 >>959
創造も改良だから同じなんだがね
基本的に飛行機とか新しい概念も
初めは鳥などの模倣だし以前の概念からしか
新しい概念は生めない 偶然はあるが 脳について全然わかっていないないのに脳科学者なら俺も学者名乗れるな 産業革命で機械が高度化した時も全く同じ状況だった
AIの高度化では知能労働者で同じことが起こる >>957
AIが相場握るようになったここ数年は、毎日の乱高下が多いわりに暴騰や暴落はしないという印象だな >>967
Aiの高度化は機械の性能自体を高度化させるので全ての人間に影響を与える 戦闘機なんかはすでにAI化されている物がある
飛行制御コンピュータが機体をコントロールしている
パイロットは飛行機を操縦するのではなく飛行制御ソフトににコマンドを送るのがお仕事 >>969
株はそうかもしれんが、FXだとスイスショックやアルゼンチンデフォルトで円フランは20円くらい動いたぞww >>971
はっきり言って人間は飛行機に乗るように
できてないからパイロットの身体的限界上
Aiのほうが性能が高い >>971
パイロットが操縦できなかったらピトー管にレバノン料理が詰まっただけで墜落しますわ みんな難しい言語を使うけどわかっているのかね
AIが思考していると思っている人たちが多くてびっくり
基本は計算機械なんだよ
思考は全くしていないんだよ
処理をしているだけなのに
それに怯えるってなんだろう
計算をして処理をしているだけ
ハルの人格は今のところあり得ないし
処理能力の進化なだけなので
会話すら成り立たない
独自の言語で話し始めたわけではなくて
会話の真似事に人間言語は重すぎるから
はしょっただけだよ
なにも理解していないのだから
言語化する必要がなかっただけ >>973
核兵器の軍司ネットワークシステムにAIなりハッカーなりが侵入出来る構造なのか?
とりあえず発車プロセスは全てアナログにしておけば良い AIの危険性は悪意のある人類がやばいことをやらせれば
とても危険な存在になるがAI自身は
自立した思考で何かを行うには至っていない
命令が来るのを無邪気に待っているだけ
と言うと人格があるようだけどね >>979
計算というがルールに則った変換 情報伝達であり思考そのままだというのに
というか人間も変わるまい >>979
大半の人間があんたみたいに事務処理能力でAI以下だから社会進出されたら一瞬で無職だろw >>979
独自言語を話し始めた、という件は謎だよな
別にはしょる理由なんてねぇだろ、単語を短縮してどれだけの効率化になる?
眉唾ものじゃねぇかと思ってるw ま〜日本の教授は研究者じゃなく評論家だからな。
NASAの自動操縦はダメだとかダメだしするだけの。
自分がAIを研究してて、その自分のAI研究家の手応え的にシンギャラリティはダメそうでもこれくらいならいけるとかすら語れないわけで。 アキネーターなんてAIとして十分優秀
自律思考なんて1mmもできないけど 前もこれ系のスレで書いたんだが、AIなんてどれだけ発達しようが有限ベクトル空間の最適解の話しでしかない。
無限ベクトル空間や、さらにそもそもベクトル空間でないような構造のものには無力。
AIが人間にとって変わって職が無くなって云々はただの寝言。
そんなことは起こらない。
AIが職を奪って云々を言うのは、コンピュータが発達すると人間が必要無くなって云々と似たようなこと。
実際はどうなった? いや、「シンギュラリティは来る」といっている脳科学者もいるんだが。
中身がよくわからないのは、脳もディープラーニングも同じ。 もうAIにこき使われようとしている人間が
出てきたことにびっくり シンギュラリティは400年前に起きている!
計算機が人間の計算性能を上回ったのがその頃だろ ノイマン型計算機じゃ永久にチューリングテストはパスしないよ。
ペンローズ先生も、そう言ってるだろ。 いやお前ら。
今の技術じゃ人間どころかゴキブリすらシミュレートできないから。
生物ってのは得体の知れないところがあるんだよ。 バカな愛が危険な事態を引き起こす可能性はある!愛こそすべてだからだ!(迷走 脳科学が解明できてない大部分ってのは生命維持みたいなファームウェアの領域だろ? >>1
> ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある
作った人間がバカなだけじゃないか このスレッドは1000を超えました。
もう書けないので、新しいスレッドを立ててくださいです。。。
life time: 7時間 9分 41秒 2ちゃんねるの運営はプレミアム会員の皆さまに支えられています。
運営にご協力お願いいたします。
───────────────────
《プレミアム会員の主な特典》
★ 2ちゃんねる専用ブラウザからの広告除去
★ 2ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────
会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。
▼ プレミアム会員登録はこちら ▼
https://premium.2ch.net/
▼ 浪人ログインはこちら ▼
https://login.2ch.net/login.php レス数が1000を超えています。これ以上書き込みはできません。