【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>611
「人にとって」を関知しない判断をくだすプログラムしかできないのは想定できるってものよね
人間でもそんなのワンサカいるし研究者だって埒外じゃないから >>3
知能はまだ上回ってないぞバカw
データ量と速度が上回ってるにすぎない
そしてデータを与えたのは人間、データを作ったのは人間 >>34
＞シンギュラリティと脳云々は関係ないから
＞プログラム自身が自己より高性能な
＞プログラムを作るって話だろ
プログラムよりもそれが動くハードウェアの問題だろ。半導体でやってる限り限界はある。
AIに開発任せて物理学の基礎分野から量産化商業化まで全自動でやらせるにせよ、その最初の1台が作れない。
シミュレータ云々もそれに入れるデータを取ってくるのは現状人類しかできない。 >>596
疑問を作り出す能力は機械のほうが上
囲碁の人間に理解できない人間より効率の良い
作戦は人間がこうすれば良いという行動以外を
やった結果だからつまり人間の怠慢を機械は
越えてくる >>613
まぁダビンチも飛行機械作る時に鳥や虫を参考にしたし？
一番優秀な物を参考にするって発想は分からんでもない
というか進化したAIの知能を僕らが知能として判断できるかって話よな
マジで別次元の可能性もあるし >>628
ていうか、そもそも数学者ってコンピュータを信用してないんじゃなかったっけ >>628
数学が必要な具体的な理由を一切述べてないのが凄いね君 シンギュラリティなんぞ待たず
人間がAI戦争で滅ぼし合う未来が来そうじゃねえか >>629
いわゆるペーパークリップシンドロームやね 淘汰圧だと、共進化、エピジェネティクス、収斂進化、現実は弱肉強食になっていないことが
うまく説明付かん、あれは胡散臭い思想に基づいていると思う AIが思考することを人間のそれの代替物だと考えるから>>3みたいなアホが出てくる >>637
シンギュらる前に自滅しそうよね
少なくとも労働者階級は死滅してると思う そもそも最適な判断を正解か不正解かを判断することができない
人は不合理や欠点を愛する事もあるし >>478
あくまで特化したものを一つずつ作るって形だろうな
工業用、囲碁用などなど…
なんでもできまっせみたいなの作ってもコストの無駄だし >>55
でもそれで作られたのは鳥でも昆虫でもない「航空機」という工業製品であり、かつ鳥や昆虫のように判断できるわけでも種を保存できるわけでもない。 >>635 計算機作業部分を多く取り入れて証明された数学の有名問題があるぞ。 >>628
ロボット工学は演繹で社会学は帰納、どちらにも数学は使うとアシモフさんという方が
書いておられて。
できれば物理とはケンカせずすべて包容してくんなまし >>631
同じデータで学び人間以上の結果だせるなら
上回っている >>645
航空機は飛ぶのが目的で飛ぶことは生存の手段である鳥とは違うからね
ただ、人間だって思考は生きるための手段で目的ではないはず
今人類が目指しているのは考えることを目的とする機械
人間そのものではないんだよ AIが人間を超えるシンギュラリティは不可能というのが一般的な学者の考えなんだけど、
バカなメディアとかが愚かな連中の不安心理を煽ってスカイネットのようなものが誕生すると主張してる
もちろんAIの高性能化で自動化は進むけど、シンギュラリティは現在の技術進歩の延長線上に無いんだけどね >>636
正直言ってあんまこういう場所でアイデアを言いたくないというのはある
ただ、非線形の数学って本来死ぬほど難しいわけだから、大体察知するはずなんだけどね 将棋AIとか膨大な棋譜から最良手を判断しているだけで
人口無能に近いもん、いってみればグーグル検索みたいなもんだけど
うわーやっぱAIすごいわーみたいな評価されるじゃん
人間敵わねーとか持ち上げるじゃん
知能って文字通り知る能力であって
その知るって機能が今のAIを作る上でのボトルネックなわけで
いつか人間が云々は、AIの学習機能が人間を超えるか
ってか人間が人間以上の学習能力を持つ何かを作れるかって話なわけで
副産物として人口目玉、人口鼻、人口手などがバンバン作られる世の中になるまで
そんな心配してなくていいよとは思う >>619
イオン濃度で神経を発火させてる
電気的ではあるけどそれは例えの話だよ
脳は電子のやり取りで情報を書き換えている訳ではない >>648
その定義ならもう50年以上前から機械は人間を上回ってるだろｗ >>649
それはどうかな
たんぱく質と水のかたまりが
進歩しようずと相談するとこから不思議の始まりよね まあなんだかんだ言っても結局は人間から仕事を奪うこと
そして貧富の差が拡大すること
AIを発展させてもこの二つの結果しかもたらされない気がするけど >>69
実は今こうしてインターネットが普及している事自体自分には驚きなんだがなw
インターネットを初めて見た時、自分には暫く無縁だと思っていたしw >>617
茂木健一郎が脳科学の世界で異端なんでしょ
クオリアとか心身問題って、神経科科学というより心の哲学という分野だと思う >>652
ムーアの法則は常に更新されるからまだ終わらんよ
現象ではなく経営理念だから当たり前だよね 可能性あるのは攻殻機動隊のような脳の機能を爆発的に向上させる
融合タイプのAIだろうな >>656
ニューラルネットワークって昔の誤った脳への理解に基ずいて模倣したつもりになってたものが
何故かうまく機能してしまった、ってもんじゃなかったっけ？ 考える機械を作るか、人間の脳を機械化するか、どっちが良いんだろう。 >>236
答えられない質問を誤魔化すのって大変だねw >>92
スペースシャトルの開発理由のひとつは「高価なコンピュータの回収、再利用」だ。
スマホどころかガラケの性能も無いコンピュータのために翼つけて数十億円上乗せしてペイできると思ってた時代の見解を現代に持ち出す意味はない。 >>655
はっきり言ってインターネットとか衛星情報だけで得られる情報量は人間以上である どうして神様は何億年分のログをきちんと記録しておかなかったんだろうな
また数千年かけて一から作り直さなくてはいけなくなったじゃないか、この怠け神 >>655 ＞将棋AIとか膨大な棋譜から最良手を判断しているだけで
最初はそういう方法でやってたのだが、今やその全然先を行ってるよ。 >>653
彼らは離間計のように人の反応を先読みして罠をかけたりはできないのだけど
AIはできると思うのね。ネットワーク動かすわけだし >>1
原発事故はAIの問題じゃなくなくなくない？ イノベーションは庶民に厳しく、経営者や投資家には優しい >>102
＞そういう部分的、機能別のシンギュラリティはあり得ると思うよ
機能で区別とかなら、オリンピック選手だってチャリンコ使われたら勝てないけど、それ、シンギュラリティとなんか関係あるのか？ >>646
ケプラー問題と四色問題だろうけど、あれは分野が元々離散的だからね
もっとすっきりした証明があるのかっていうのは相変わらず重要な問題ではある
AIでも人間が解く方法とまだギャップがあるしな
大学受験の「図形と方程式」は解けるが、その応用である抽象代数幾何はまだ扱えないとか >>609
いやinputがあってアルゴリズムに従ってoutput出すなら
それはAIじゃなくてExcelの帳簿と同じ既存のアプリケーションの範疇じゃないかって話なんだけど
んで>>608はこの過程でAI（の深層学習？）が使われて、
人間では想像できない何か素晴らしいoutputをAIが捻り出すという
そんなワイルドカード言っちゃったら否定も肯定も出来ないんじゃ・・・ 学歴しか取り柄のない左翼ほど、気に入らないことがあると
「三流大卒」、２ちゃんでは「Fラン」、大卒でない相手には「低学歴」「底辺」と言うが
学歴と関係ないAIが相手だと「バカ」ですか。 >>674
いや、それは条件による
イノベーションって昨日まで野球やってたヤツに
ある日突然「明日からサッカーやれ」とせまるような理不尽さがあるから
今まで野球のノウハウで成功来てきた奴が
ある日突然そのノウハウが無価値になったりするからな >>671
後半世紀先くらいあれば何があってもおかしくないな。
自分はその頃死んでるけど… 将棋のAIは3つの評価値のラーニングの自動修正にあるな
人間の脳、思考を上回るとかとは別問題で、決められたルール上でゲームに勝つだけに特化させたものよ >>672
確かにそうだなぁ
あれだな、サイコパスに近い感じになるのか >>680
サッカーで反則してたら、ラグビーの始祖になってしまった的な？ 殺人ロボットが街を徘徊する日も近いんだろうな
テロリストも職を奪われるわ え、既にC4Iと作戦指揮官様で勝負有ったからC4Iが採用されてるんだろう業界無視？ まあ人間でも当たり前なはずの前提すら齟齬が発生してる
AIの方がすぐましになるでしょ
脳の配線がおかしいと情報の認識が明後日の方に行っちゃってんのにも気が付かないのが脳みそだしね 同じ東洋経済だったと思ったが、別の東大教授がインタビューに出てて、
「今の若者はAIと同程度に頭が悪い」って吠えてたなｗ >>656
電気的であると同時に、化学的に信号が伝わる
シナプス間での情報伝達は、神経伝達物質やホルモン、ペプチドによる化学的な方法 >>662
いや、IITだっけ？情報理論使ってクオリアは説明できるって仮説が今人気なんだよ
まあ個人的にこれは微妙に違うと思っているけど、最近の計算神経科学はあまりクオリアや
心をタブーだとは思っていない
IIT以外では理論的にはF.Varelaが状況を変えたから >>689
今の東大教授世代があの頭悪い学生運動してたかと思うとなぁ
多分変わってないんだろうなぁと 問題は社会がAIをどの部分まで許すか？
これに尽きるが、資本家集団のグローバルエリートはどんどん浸透させようとする
韓国は汚職政権が続いて政治の一部をAIに任せる事になるだろう
ユダヤの実験やな そもそも耐用年数80年で自己修復機能を備えた機械も開発されていないというのに >>692
今現役で働いてるのははしらけ世代じゃ？
団塊はもう70前後だからもうとっくに引退してるだろ >>682
決められたルール＝命令で人間以上の結果を
発揮できることが問題なのだ
というより人間の思考や行動自体決められた
ルールがあって初めて成り立つからでもあるが >>661
技術的な問題ってのは結局はユーザー数と値段に収斂する。
コンピュータが自分で稼いで自分に投資するならともかく、人間を超えるAIが大量に必要とされなければ開発費も能力も限定される。
世界がネットで繋がってコンピュータがいっぱいあっても、ニュージーランドにおける羊と立場が変わらないんじゃしょうがない。 AIがバカで事故を起こす例はとっくの昔にエアバスが名古屋空港で実現している。 感情まで把握したAIを作るには
作る人が死を正しく理解しないといけない
この命題が解けないと >>678
深層学習と人間のパターン認識は質的には大差ないと思う
深層学習が優位なのはあくまで情報処理の量
ただ、強いAIを構成するには深層学習に被せるメタレベルの理論が必要
これは客観的な意味で必要で、そこが未解決問題の部分 高級官僚の人たちは「推測」ができないという2chの書き込みは読んだわ
まあ法学部なら前例無いこと探求せん学問ではあるわな >>678 ＞いやinputがあってアルゴリズムに従ってoutput出すなら
＞それはAIじゃなくてExcelの帳簿と同じ既存のアプリケーションの範疇じゃないか
だったらなぜ画像判定や、レントゲン診断精度が、ここ最近のAI使用で向上してるんですか。
AIをただ単にアプリケーションと言い含めてしまえば、それで問題回避できるという思考なのでは？
程度問題というのを、範囲を間違えて適用しているのではないのですか。 >>684
サッカーしててある日突然バール持って走り出す奴が現れた
それが反則ではないとバレてみんなボールを腕で奪い合うようになり
サッカーの技術やノウハウは瞬く間にゴミになってしまった
みたいな感じかな？ >>698
森を裸にしてまで蒸気機関の力を必要としたのは製品が売れる植民地を手に入れたからだものな。 今更だがAIに受験させたら余裕で100点取れちゃうんだよな
果たして身に付いていると言って良いのだろうか？ >>686
C4Iの究極は「索敵ルールオフの大戦略で友軍ユニットも自分で直接操作」になるけど、それで戦争に勝てるかどうかは別問題。 >>696
そういや大学教授って65歳くらいが定年でしたね
申し訳ない
まぁそれにしても歴史はくりかえすのね… AIが出した答えの理由が説明できるならいいんだがな
現状って説明出来ないんだろ
確率的にはAIの出した答えの方が圧倒的に正答率高いんだろうが >>705 試合中にバール持って走り出した奴は、民家を襲うようになって、もう二度とスポーツなどしなくなったそうだ。ある意味実話であるのが哀しい。 極端な話、CPUが超絶進化して、将棋で500手以内に起こりうる盤面すべてを網羅できればまず負けないと思うが
それ知能か？ >>703
そういう判断基準は生い立ち、環境など、突き詰めていくと生存生殖本能から来るものなので
AIに必要かどうかは別として、その辺りも人工的に作れないと実現できんわな 若い世代はAIに夢を見る
年配になると人間の思考や個性を構成してる物が脳だけじゃなく魂を含んでるものまで考え出す
アストラル体や自己のハイヤーセルフのような存在があるのではないかと
そこをAIが超えるのは当分先だろうと考える >>712
そいつが将棋以外に手を出し始めたら知能だね すでにプロセッサーの設計には人間イラネ状態じゃなかったっけ？
その設計プロセスにどう干渉しうるか探すシステムぐらいは米情報機関あたりなら作るだろ、ぐらいに思ってるんだが ここまで書き込みした人達で実際にAIがどのように動いてるか試して理解している人達どれくらいいるの？
SFの話と想像じゃなくて >>708
人間の感情の部分だろうな。
そこをもし解決出来たら恐ろしい事になるかな。 >>712
知能じゃないのそれ
人間だって答え導く時にこれまでの経験から最適解を
出してるわけで
やってる規模と精度が桁違いなだけで >>715
網羅するしかできないから手なんて出せないよ 株の売買させたら人間の常識ではありえない取引が成立してたとかあったな >>698
人間を越えるaiが必要かといえば必要になるだろう 何故ならば人間に対してコストも性能も
優位となってしまうからだ
既に単純労働はそうなってしまっている >>717
ソニーが公開したやつばGUIで分かりやすそうだよ
まだ落としてないから使ったことないけど あんまり完璧に勝ちすぎたら最悪ぶっ壊されるから
ある程度苦戦感も出しつつ最後には勝つ
みたいな人間の感情を把握して行えるのを自動判断すると
ちょとAIっぽくなるかも 経産省はクールジャパンプロジェクトを終えて、第六世代コンピュータプロジェクトを立ち上げるべきだな 俺もシンギュラリティはまだ遠いと思う
五感を備えた体を持つまで、AIには事の本質を理解できないんじゃないかな
ルールの中で考えるゲームなら、人間を凌駕する事ができるけど、
科学技術を発展させるなら、実験したりする能力も必要だろ
コンピューターの中で与えられた情報を利用して学習しているだけでは、特異点は得られないんじゃないかな
与えられた情報が何を意味するのかを理解する事すら難しいと思うんだよな >>720
それは網羅のプロセスによるかな
将棋という将棋盤上のパターンなら割り出せるだろうけど、最適解を探す上で全く違う物を参考にし始めて網羅したらそれはもう別の事をし始めてる訳よ
それは知能だよ >>717
昔ゲーム作ってたSEだけど、将棋のAIは評価関数３つの調整がアルゴリズムの要で、後はディープラーニングで自己と数十億〜回って高速対戦のラーニングで強くなってるだけのモノだわ ■ このスレッドは過去ログ倉庫に格納されています
