【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る?
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)
http://toyokeizai.net/articles/-/185506?page=3 >>478
あくまで特化したものを一つずつ作るって形だろうな
工業用、囲碁用などなど…
なんでもできまっせみたいなの作ってもコストの無駄だし >>55
でもそれで作られたのは鳥でも昆虫でもない「航空機」という工業製品であり、かつ鳥や昆虫のように判断できるわけでも種を保存できるわけでもない。 >>635 計算機作業部分を多く取り入れて証明された数学の有名問題があるぞ。 >>628
ロボット工学は演繹で社会学は帰納、どちらにも数学は使うとアシモフさんという方が
書いておられて。
できれば物理とはケンカせずすべて包容してくんなまし >>631
同じデータで学び人間以上の結果だせるなら
上回っている >>645
航空機は飛ぶのが目的で飛ぶことは生存の手段である鳥とは違うからね
ただ、人間だって思考は生きるための手段で目的ではないはず
今人類が目指しているのは考えることを目的とする機械
人間そのものではないんだよ AIが人間を超えるシンギュラリティは不可能というのが一般的な学者の考えなんだけど、
バカなメディアとかが愚かな連中の不安心理を煽ってスカイネットのようなものが誕生すると主張してる
もちろんAIの高性能化で自動化は進むけど、シンギュラリティは現在の技術進歩の延長線上に無いんだけどね >>636
正直言ってあんまこういう場所でアイデアを言いたくないというのはある
ただ、非線形の数学って本来死ぬほど難しいわけだから、大体察知するはずなんだけどね 将棋AIとか膨大な棋譜から最良手を判断しているだけで
人口無能に近いもん、いってみればグーグル検索みたいなもんだけど
うわーやっぱAIすごいわーみたいな評価されるじゃん
人間敵わねーとか持ち上げるじゃん
知能って文字通り知る能力であって
その知るって機能が今のAIを作る上でのボトルネックなわけで
いつか人間が云々は、AIの学習機能が人間を超えるか
ってか人間が人間以上の学習能力を持つ何かを作れるかって話なわけで
副産物として人口目玉、人口鼻、人口手などがバンバン作られる世の中になるまで
そんな心配してなくていいよとは思う >>619
イオン濃度で神経を発火させてる
電気的ではあるけどそれは例えの話だよ
脳は電子のやり取りで情報を書き換えている訳ではない >>648
その定義ならもう50年以上前から機械は人間を上回ってるだろw >>649
それはどうかな
たんぱく質と水のかたまりが
進歩しようずと相談するとこから不思議の始まりよね まあなんだかんだ言っても結局は人間から仕事を奪うこと
そして貧富の差が拡大すること
AIを発展させてもこの二つの結果しかもたらされない気がするけど >>69
実は今こうしてインターネットが普及している事自体自分には驚きなんだがなw
インターネットを初めて見た時、自分には暫く無縁だと思っていたしw >>617
茂木健一郎が脳科学の世界で異端なんでしょ
クオリアとか心身問題って、神経科科学というより心の哲学という分野だと思う >>652
ムーアの法則は常に更新されるからまだ終わらんよ
現象ではなく経営理念だから当たり前だよね 可能性あるのは攻殻機動隊のような脳の機能を爆発的に向上させる
融合タイプのAIだろうな >>656
ニューラルネットワークって昔の誤った脳への理解に基ずいて模倣したつもりになってたものが
何故かうまく機能してしまった、ってもんじゃなかったっけ? 考える機械を作るか、人間の脳を機械化するか、どっちが良いんだろう。 >>236
答えられない質問を誤魔化すのって大変だねw >>92
スペースシャトルの開発理由のひとつは「高価なコンピュータの回収、再利用」だ。
スマホどころかガラケの性能も無いコンピュータのために翼つけて数十億円上乗せしてペイできると思ってた時代の見解を現代に持ち出す意味はない。 >>655
はっきり言ってインターネットとか衛星情報だけで得られる情報量は人間以上である どうして神様は何億年分のログをきちんと記録しておかなかったんだろうな
また数千年かけて一から作り直さなくてはいけなくなったじゃないか、この怠け神 >>655 >将棋AIとか膨大な棋譜から最良手を判断しているだけで
最初はそういう方法でやってたのだが、今やその全然先を行ってるよ。 >>653
彼らは離間計のように人の反応を先読みして罠をかけたりはできないのだけど
AIはできると思うのね。ネットワーク動かすわけだし >>1
原発事故はAIの問題じゃなくなくなくない? イノベーションは庶民に厳しく、経営者や投資家には優しい >>102
>そういう部分的、機能別のシンギュラリティはあり得ると思うよ
機能で区別とかなら、オリンピック選手だってチャリンコ使われたら勝てないけど、それ、シンギュラリティとなんか関係あるのか? >>646
ケプラー問題と四色問題だろうけど、あれは分野が元々離散的だからね
もっとすっきりした証明があるのかっていうのは相変わらず重要な問題ではある
AIでも人間が解く方法とまだギャップがあるしな
大学受験の「図形と方程式」は解けるが、その応用である抽象代数幾何はまだ扱えないとか >>609
いやinputがあってアルゴリズムに従ってoutput出すなら
それはAIじゃなくてExcelの帳簿と同じ既存のアプリケーションの範疇じゃないかって話なんだけど
んで>>608はこの過程でAI(の深層学習?)が使われて、
人間では想像できない何か素晴らしいoutputをAIが捻り出すという
そんなワイルドカード言っちゃったら否定も肯定も出来ないんじゃ・・・ 学歴しか取り柄のない左翼ほど、気に入らないことがあると
「三流大卒」、2ちゃんでは「Fラン」、大卒でない相手には「低学歴」「底辺」と言うが
学歴と関係ないAIが相手だと「バカ」ですか。 >>674
いや、それは条件による
イノベーションって昨日まで野球やってたヤツに
ある日突然「明日からサッカーやれ」とせまるような理不尽さがあるから
今まで野球のノウハウで成功来てきた奴が
ある日突然そのノウハウが無価値になったりするからな >>671
後半世紀先くらいあれば何があってもおかしくないな。
自分はその頃死んでるけど… 将棋のAIは3つの評価値のラーニングの自動修正にあるな
人間の脳、思考を上回るとかとは別問題で、決められたルール上でゲームに勝つだけに特化させたものよ >>672
確かにそうだなぁ
あれだな、サイコパスに近い感じになるのか >>680
サッカーで反則してたら、ラグビーの始祖になってしまった的な? 殺人ロボットが街を徘徊する日も近いんだろうな
テロリストも職を奪われるわ え、既にC4Iと作戦指揮官様で勝負有ったからC4Iが採用されてるんだろう業界無視? まあ人間でも当たり前なはずの前提すら齟齬が発生してる
AIの方がすぐましになるでしょ
脳の配線がおかしいと情報の認識が明後日の方に行っちゃってんのにも気が付かないのが脳みそだしね 同じ東洋経済だったと思ったが、別の東大教授がインタビューに出てて、
「今の若者はAIと同程度に頭が悪い」って吠えてたなw >>656
電気的であると同時に、化学的に信号が伝わる
シナプス間での情報伝達は、神経伝達物質やホルモン、ペプチドによる化学的な方法 >>662
いや、IITだっけ?情報理論使ってクオリアは説明できるって仮説が今人気なんだよ
まあ個人的にこれは微妙に違うと思っているけど、最近の計算神経科学はあまりクオリアや
心をタブーだとは思っていない
IIT以外では理論的にはF.Varelaが状況を変えたから >>689
今の東大教授世代があの頭悪い学生運動してたかと思うとなぁ
多分変わってないんだろうなぁと 問題は社会がAIをどの部分まで許すか?
これに尽きるが、資本家集団のグローバルエリートはどんどん浸透させようとする
韓国は汚職政権が続いて政治の一部をAIに任せる事になるだろう
ユダヤの実験やな そもそも耐用年数80年で自己修復機能を備えた機械も開発されていないというのに >>692
今現役で働いてるのははしらけ世代じゃ?
団塊はもう70前後だからもうとっくに引退してるだろ >>682
決められたルール=命令で人間以上の結果を
発揮できることが問題なのだ
というより人間の思考や行動自体決められた
ルールがあって初めて成り立つからでもあるが >>661
技術的な問題ってのは結局はユーザー数と値段に収斂する。
コンピュータが自分で稼いで自分に投資するならともかく、人間を超えるAIが大量に必要とされなければ開発費も能力も限定される。
世界がネットで繋がってコンピュータがいっぱいあっても、ニュージーランドにおける羊と立場が変わらないんじゃしょうがない。 AIがバカで事故を起こす例はとっくの昔にエアバスが名古屋空港で実現している。 感情まで把握したAIを作るには
作る人が死を正しく理解しないといけない
この命題が解けないと >>678
深層学習と人間のパターン認識は質的には大差ないと思う
深層学習が優位なのはあくまで情報処理の量
ただ、強いAIを構成するには深層学習に被せるメタレベルの理論が必要
これは客観的な意味で必要で、そこが未解決問題の部分 高級官僚の人たちは「推測」ができないという2chの書き込みは読んだわ
まあ法学部なら前例無いこと探求せん学問ではあるわな >>678 >いやinputがあってアルゴリズムに従ってoutput出すなら
>それはAIじゃなくてExcelの帳簿と同じ既存のアプリケーションの範疇じゃないか
だったらなぜ画像判定や、レントゲン診断精度が、ここ最近のAI使用で向上してるんですか。
AIをただ単にアプリケーションと言い含めてしまえば、それで問題回避できるという思考なのでは?
程度問題というのを、範囲を間違えて適用しているのではないのですか。 >>684
サッカーしててある日突然バール持って走り出す奴が現れた
それが反則ではないとバレてみんなボールを腕で奪い合うようになり
サッカーの技術やノウハウは瞬く間にゴミになってしまった
みたいな感じかな? >>698
森を裸にしてまで蒸気機関の力を必要としたのは製品が売れる植民地を手に入れたからだものな。 今更だがAIに受験させたら余裕で100点取れちゃうんだよな
果たして身に付いていると言って良いのだろうか? >>686
C4Iの究極は「索敵ルールオフの大戦略で友軍ユニットも自分で直接操作」になるけど、それで戦争に勝てるかどうかは別問題。 >>696
そういや大学教授って65歳くらいが定年でしたね
申し訳ない
まぁそれにしても歴史はくりかえすのね… AIが出した答えの理由が説明できるならいいんだがな
現状って説明出来ないんだろ
確率的にはAIの出した答えの方が圧倒的に正答率高いんだろうが >>705 試合中にバール持って走り出した奴は、民家を襲うようになって、もう二度とスポーツなどしなくなったそうだ。ある意味実話であるのが哀しい。 極端な話、CPUが超絶進化して、将棋で500手以内に起こりうる盤面すべてを網羅できればまず負けないと思うが
それ知能か? >>703
そういう判断基準は生い立ち、環境など、突き詰めていくと生存生殖本能から来るものなので
AIに必要かどうかは別として、その辺りも人工的に作れないと実現できんわな 若い世代はAIに夢を見る
年配になると人間の思考や個性を構成してる物が脳だけじゃなく魂を含んでるものまで考え出す
アストラル体や自己のハイヤーセルフのような存在があるのではないかと
そこをAIが超えるのは当分先だろうと考える >>712
そいつが将棋以外に手を出し始めたら知能だね すでにプロセッサーの設計には人間イラネ状態じゃなかったっけ?
その設計プロセスにどう干渉しうるか探すシステムぐらいは米情報機関あたりなら作るだろ、ぐらいに思ってるんだが ここまで書き込みした人達で実際にAIがどのように動いてるか試して理解している人達どれくらいいるの?
SFの話と想像じゃなくて >>708
人間の感情の部分だろうな。
そこをもし解決出来たら恐ろしい事になるかな。 >>712
知能じゃないのそれ
人間だって答え導く時にこれまでの経験から最適解を
出してるわけで
やってる規模と精度が桁違いなだけで >>715
網羅するしかできないから手なんて出せないよ 株の売買させたら人間の常識ではありえない取引が成立してたとかあったな >>698
人間を越えるaiが必要かといえば必要になるだろう 何故ならば人間に対してコストも性能も
優位となってしまうからだ
既に単純労働はそうなってしまっている >>717
ソニーが公開したやつばGUIで分かりやすそうだよ
まだ落としてないから使ったことないけど あんまり完璧に勝ちすぎたら最悪ぶっ壊されるから
ある程度苦戦感も出しつつ最後には勝つ
みたいな人間の感情を把握して行えるのを自動判断すると
ちょとAIっぽくなるかも 経産省はクールジャパンプロジェクトを終えて、第六世代コンピュータプロジェクトを立ち上げるべきだな 俺もシンギュラリティはまだ遠いと思う
五感を備えた体を持つまで、AIには事の本質を理解できないんじゃないかな
ルールの中で考えるゲームなら、人間を凌駕する事ができるけど、
科学技術を発展させるなら、実験したりする能力も必要だろ
コンピューターの中で与えられた情報を利用して学習しているだけでは、特異点は得られないんじゃないかな
与えられた情報が何を意味するのかを理解する事すら難しいと思うんだよな >>720
それは網羅のプロセスによるかな
将棋という将棋盤上のパターンなら割り出せるだろうけど、最適解を探す上で全く違う物を参考にし始めて網羅したらそれはもう別の事をし始めてる訳よ
それは知能だよ >>717
昔ゲーム作ってたSEだけど、将棋のAIは評価関数3つの調整がアルゴリズムの要で、後はディープラーニングで自己と数十億〜回って高速対戦のラーニングで強くなってるだけのモノだわ >>728
全通り書き出すだけだよ
でも多分これが最強だよ 日本のインテリはアホが多すぎるんだよ。
AIが、何も人間という動物のエゴや感情や欲望を理解するとこに進化の特異点があるわけではない
動物が形成した社会や政治経済とは関係ない
科学研究の分野では十分人間を超えることができる。 将棋の電脳戦の結果のように、AIは無数のシミュレーションで最適解を出す能力は人間をゆうに越えるようになった。
戦時作戦や政治、マーケティングでは人間よりも良いかも。
実際のところ、株の売買は大半がAI判断で、相場師なんて敵わないし。
商品開発みたいなもんは、いまだ人間だろ。
音楽、美術はそのうちパターンで作れるかもしれない。 シンギュラリティは完璧な翻訳ソフトが出てから議論しようや 山本五十六は将棋が好きだったそうだがそれが敗因とも言われている。
現実の戦争では駒自体が途中で学習や進化をするからだ。
将棋は現実の単純化に過ぎない。 >>712
むしろ網羅しなくても最適解を見つけられるようになったら、ソッチが知能じゃないの? >>704
そら既存のアプリケーションの範疇であるモノでも
AIというバズワードで予算が獲得できるからだよ
単なるオンラインストレージをクラウドと言い張るのと一緒w
俺だって15年ほど前に画像認識使ったシステムを作る仕事してたが
そん時はそれがAIだなんて一言も言わなかったぞ?
いま似たような仕事するなら絶対AIって言葉を絡めるねw 今のAIの不完全さを分かりやすく説明すると
クイズの早押しひっかけ問題で必ずひっかかるようなもん >>736
俺もそう思ってたわ
同僚の将棋の達人
仕事のクレーム多すぎw 禿げの悩みを理解させるためには禿げのロボットを作らなくてはならないから大変だな 生命、宇宙、そして万物についての究極の疑問の答えに42
とか答える高性能AI出来ても困るしなぁ
全くコミュニケーション出来ないのは恐怖しかないねw ■ このスレッドは過去ログ倉庫に格納されています