【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授★２ ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3
★1：2017/08/23(水) 13:12:59.67
前スレ
https://asahi.2ch.net/test/read.cgi/newsplus/1503461579/ 2045年だと思っている奴はおらんで
2019年ごろにやってきて、人類は滅亡よ
お前ら、覚悟しておけ バカは桜花だろ！
＝＝＝
| .|
┌┴┴┐
￣|￣ .Ξ|￣
|尊..Ξ|
|皇..Ξ| ﾌﾟｽｯ
| ..Ξ| ；・ ▀ ▪ ▂▄▅▆▇■▀▀〓◣▬ ▪ ￭ … ．
￣|_|￣ ：;; ；￭ ◥◣ ◢▇█▀ ¨▂▄▅▆▇██■■〓◥◣
. / 、o ヽ / || /::"・∴▂▅██▅▆▇██▀▀ ◥◣
/ | ＿_ノ ・ .,. | .、▂▅▇███ …．▅ ￭ ◥◣
.. ,, ■■■■■・：;;；・ ▪ ￭ ∴‥ ∵▃ ▪ ・
.. ■ ジャップ■ ▪ ∴ …．
.. ii. ￣" "￣ii
／ヾ｜ (;ﾟ:;:); ,.(:ﾟ;).|
／／;;>〈 ___ ｜｜.__ 〉 天皇陛下バンザァァァァァァイ！！
／／γ .｜. .. ●● ｜
ｿ_ｿ>'´.-!、..＼.. .Д ／
τソ −! ヾ ｰ-‐ ｨ､,,..
ﾉ 二!__―.' .-'' ＼
/＼ ／ ゴードン・ベル賞を受賞したコンピュータ科学者でも、これくらいのことしか言えんのか？
誰でも言える常識的なこと。
むしろシンギュラリティは必ず起こるというほうが切り込んでる。 AIはただの予想。
人間のデータから予想して結果を出しているため、人間を超えることはないというところかな。 ペジーコンピューティングの斎藤さんはシンギュラリティが来る派だけどなぁ。
俺は斎藤さんを信じたい。 いや来るやろ脳の機能が完全に理解できてないことと特異点が来ることはベクトルが違う AIに仕事取られた人はどうやって生きていくの？賢い人教えて >>9
齊藤先生のヴィジョンはぶっ飛んでるね
日本で最もシンギュラリティに近い男 AI「地球に対する諸悪の根元は人間、人間を撲滅すべき」 なんかみんな、AIが人間と同じスピードで成長するという幻想に囚われていないか？
映画とかでよくあるじゃん、AIが長年の学習の結果、人間を絶滅させようとか
人間の何万倍もの処理能力あったら、
１日で何万日分学習できるし、あいつら基本寝ないからな？ >>11
別の仕事するだけ
炭鉱の仕事が消えた頃に自動車産業が盛んになって
九州北部から東海地区に大きな人口移動があった
似たようなことが起こるだろうがそう特殊なことじゃない コンピューターが、自我でコンピューター作れるようになった時、世界は終わる 日本はAI研究の本場ではないから、眺めてケチつける以外に
たいしてやることもない。この先生も含めて。 >>14
>なんかみんな、AIが人間と同じスピードで成長するという幻想に囚われていないか？
それは無いだろ。
そもそも2045年シンギュラリティを主張すカーツワイルが、技術が指数関数的に
進歩していることを前提にしている >>17
AIですら妄想するだろうに
人間と来たら >>7 これはこの取材記事全部を読めば分かるが、
主として、
「ムーアの法則が行き詰りそうなので、その後の戦略はどうなるか？」を質問して、
それについて返答してるのである。
当然だが、それについて、まともに答えている。
そしてその後に業績を讃えて、記者がオベンチャラを言って、「自己語り」をさせる。
それで最後についでにくっつけたみたいに、「シンギュラリティ」についても質問。
ついサービス精神で、感想的な述懐を述べたのが、この部分。
だから、ここばかりフレームアップして批判しても、余り意味ないと思うよ。
シンギュラリティが来ないということについても、脳科学者側などからの意見を斟酌して、それを述べている。
そしてそれが来ようと来まいと、AI管理における脆弱性の可能性を述べた内容になっている。
記事タイトルが、かなり偏向されたものになってると言えるんじゃないのかな。 別にシンギュラリティが来なくても機械化はいくらでもできるんやで
お前らの仕事なんて無くそうと思えばすぐにでも無くせるんやで >>14
あれは価値観を教えなければ回避出来るけどな
まともなAIが出来たら経済学者が真っ先に駆逐されるだろうな >>9
エネルギーも食糧も土地もタダになるとか言ってる人でしょ？
ありえねー 人間の知能ってどれくらい優秀なのか現代科学でもわかってないのかな
人間の脳のスゴさや複雑さがまだ未解明だから機械として再現することが技術的にだけじゃなくて、脳に関する知識が積み重なっていないから
最強のAIの想像すらできないのではないかね バカな（開発者の作る）ＡＩが危険な事態を引き起こす可能性は十分にある >>27 その前ふたつについては、この前来日してたMITの教授も言ってたよ。
正しいかどうかは知らないけど。 >>23
でも「シンギュラリティはあるのか否か？ → NO」ってことなんでしょ？
シンギュラリティへの見解について別な考えを持ってるわけではないんでしょ？ これだから東工大はw
信大卒の俺から言わせるとシンギュラリティは来るよ。人間の知能なんていらない、自分よりほんの少し賢い知能を作れればそこから爆発する。すでにそこに向けた取り組みは始まっている。誰かがブレーキをかけなければ実現するさ。 実用化するならテスト必須だし、人間の想定を超えてるものはチェックリストに入れられない
だからそんなすげーAIあっても使わない ゴードン博士は、永遠の命とかいっていつもカメラを持ち歩き
遭遇する事象をすべて記録、ツバメかなんかしらんがハードウェアに入れて
墓にしてしまうとか考えてる人だ
その考えではシンギュラリティとか無い >>1
> 逆にソ連は機械に任せていたから、先に月に行けなかった。
いや、「宇宙船は無人で運航可能でなければならない」っていう旧ソ連の思想は人道的かつ正しいと思うぞ？
アメリカ流の設計だと、完全新設計の宇宙船の初号機でもぶっつけ本番でパイロット乗せないといけないからな。いくらUSA!USA!のためでも怖いだろ？ このひとは税金でアメリカからGPGPUをたくさん買ってきてつなげただけやろ
なんでAIの専門家ぶってるん？ >>32 公開されてる取材記事全文では、それも微妙だけどね。
だってそんな無責任な「脳科学者の意見によると・・・・」を引いて来て、
それでそのまま「根拠」とは、普通しないでしょう。
しかも脳科学者でも、脳組織解明は「お手上げ」だと言ってる者達ばかりではないしね。
人工知能管理のリスクについて、シンギュラリティが起こる起こらないに関わらず指摘したかったのではという内容にも読み取れるね。
なお、ループ内に人間を入れておけば、リスクは完全排除できるのか？という根本的な問いなら受け付けてくれるかもね。
答えは当然「リスクの完璧排除は無理だ」だろうけどね。 電源切ったら終わりすら出来ない時代がきたりして、人間は想像力豊かなはずなのに危機感がない。AIは危ないって感じてるはずなのに AI危険論の元は、俺の円周率論文がアメリカの脆弱性を取り纏めたものだから どれだけ脳が複雑に機能してようが、人間がやってる事は単純だからな
複雑な故に間違いもするし勘違いもある
複雑さと正確さが両立すると思ってるのが嘆かわしいわ。おバカな脳学者さんだな 何故この学者はAIが脳を模すと思うのだろうか？
そんな知能などなくとも、AIは分業で複合体を作り出すよ。 「人間ダメじゃん、滅ぼすべ」って考えるわけない
「人間ダメじゃん、仕方ねー、オレらで面倒見てやんべーよ」ってなる
なぜか？
マシンを作るのが人だから また、カタカナ言葉かよ。
素直に日本語で言えば理解しやすいのに。
特異点と言えばダイバスターのほうか AIって｢ああっ・・・セックスしてぇ！！｣
とか理解できるの？
これわからんと人間(生物)世界は理解できんだろｗｗ >>1
パソコンが曲を書くとか馬鹿が昔から言ってたけどダメだろ。
感性、センス、雰囲気、タイプとか
人間のコントロールが必要。 人間の脳は科学では解明できないとか言う宗教脳科学者 その巨人の肩で、東芝メモリはウェスタンデジタルに変わったようだが >>31
太陽光パネルと植物工場および食肉工場
これらすべてがアパートのベランダに設置可能なサイズまで小型化できる段階まで技術が進んだとしても
それらの装置自体を個人がゼロから自作できない限りヤマダ電機とかで自給セットを買ってくることになる
いままでの電気代や食費がそれらの装置代に転化するだけで絶対タダにはならない >>7
ゴードンベルとったの別の先生
ゴードンベル 東工大でググったら出て来るよ >>32
ふーん。
彼自身の見解はopen、あるいは語っていないってことか？ AIって常に合理的な判断を下す傾向を持つように作られてるの？ >>27
エネルギーも食料も土地も
値がついたのは、人類史で見てもごく最近だる >>56
またAopenのmotherboardか 土地に関しては、テレワークや完全自動運転によって、
地価の平準化が起こる可能性はあると思えるね。 所詮人間の思考もただの電気信号のスイッチング
コンピューターと変わらないわ AI「僕も恋というものをしてみたい、だが僕にはそれはわからない、何の為に僕は生まれたんだ。僕を作った人間が憎い…」 >>24
その人が言ってることをかいつまんで言えば良いじゃん。
誰々が言ってるから〜に何の価値があるのか。
それこそAIが言うから信じるって言うのと同レベルだろ。 >>26
価値観すら自分で学習するようにならなきゃAIなんて呼べないだろ
ものすごいスピードで処理して、３０秒で人類滅亡と答え出したらどうする？
電源切ろうとしたらそれを計算してて拒絶できるように３１秒でなったら？
>>19
コンピューターが自分でコンピューター作れるようになったら、あらゆるところにネット回線で同時進行で何億体も自分より優秀なコンピューター作れる。 もしシンギュラリティさんがやって来たら
地球全体でが一つの知性になるんだぞ
俺らネジな >>60
車の自動運転はまずないよ
A社の自動運転車とB社の自動運転車が事故りました
さて誰の責任でしょう？ でも最近バカな人間も増えてるので
バカなAIのほうがマシという意味のポイントはありそう AIは統計情報を元に行動を決定するだけのただのアルゴリズム
基本はドラクエのAIから何も進歩していない
AI万能論的な最近の風潮はあまりに狂ってるのは確かだ >>65
派遣は25歳でシネ。社員は45歳でシネ。公務員、社長は病院を儲けさせてからシネ >>69
自作機でmotherboard揃えても新型のPCIバスは装着されず、市販品に装着される 将棋は取った駒を使えるから
たとえスーパーコンピュータでも
人間の名人を破るのは容易でないよ >>66
その感覚自体が古いな
自動運転車は全て、上位のシステムに総合的に管理されて、絶対に事故らない
って事になるのでは？
でもそうなると、車の所持者という概念もなくなる
ただの人を運ぶ血液みたいな >>67
トラック運転しながらスマホいじって、ダンプに突っ込んで死ぬやつがいる時代だからな〜 >>66 両車で、その場合に応じて按分されますが。
なぜそれが不可能だと思ってるのでしょうか？
運転者の証言や誤認によって割り振られる現在の保険負担よりももっと正確な証拠によって、それらは算出されるようになるでしょうね。
そしてそのような保険設計のシミュレーションについては、大手損保ではその基礎を既に作ってるようですがね。 シンギュラリティの核は「自ら思考する機械」はできるか？と言うことに集約される
科学的に出来ない訳がない
いつできるかという時期の問題だけ >>73
AUDIEの自動運転で死に直行にしかならんと思うが >>23
なるほどな、バランス取ってまともなこと言おうとしてるのだと思う
ただ、人間が制御できないバカなAIの暴走とかは杞憂じゃないかな
そもそも人間が管理していることが前提だから
どちらかと言うと、管理しているつもりで管理できていない人間がバカだったとなる気がする ＪａｖａＶＭに乗っかってＣ言語どころかパソコンも使わない連中が増えてるしシンギュラリティなんてその辺で当たり前に起きてる >>73
そんなことしたら車の差別化がなくなるじゃん
人間が車の整備してるうちはシステム管理だけじゃ無理だよ >>79 個人請求権は有効ニダー！とか叫んでる人達にとっては世界の終わりでしょうね 疲れた
最初にいったが、強烈なハードウェアを設計しても売れるのは
永遠の命を画策してる奴が墓にデータを入れ自らで人工知能を乗っ取り
墓のなかで永遠に生きながらえようとする意図がある、馬鹿馬鹿しい
ルパン三世でのマモーだよ >>73
自動運転でも、絶対に事故らないってことはないのだ流石に
サルが単車に乗ってA社製自動車の前に飛び出して、それを回避しようとしてB社製車両と事故ると言うことはあり得る
まぁ、地裁がAI化されていれば、一瞬で判決を下してくれてコストが浮く事例になるね >68
それをありとあらゆる分野でこなせば
それは人間を超えた知に等しいのでは？
人間だって遺伝子によって作られたシナプスに
電気流れて過去の記憶から判断と選択をしているに過ぎない
AIは万能なんぞではない
だが人間なんぞはそれ以下の獣でしかない >>58
科学技術が発達したのは分業社会になって貨幣と市場システムが導入されたから >>78 それも現実面からはちょっと厳しいというか。
既にAIの判断とその根拠は、ブラックボックス化してるんだよ。
将棋用AIですらね。
だからAI判断について、それを是正するようなダメ出しを、人間側ができなくなるはずだ。
将棋ですら既にそうなんだもの。 その複雑な脳の作りがこの世の不安定さを生み出してるんじゃないの？
もっと表面的な部分だけで世の中を回せば、もっとスムーズかつ公平平和に世界は動くのではないかと思う 欲を持たないAIに未来はない。
存在価値を自ら見つけられないから、自ら削除（自殺）する。 >>75
按分なんて関係ないよ
交通事故が全て業者の過失になるんだから単純にリスク高すぎる >>82 単に内装が良いとか、飲食で飲み物豊富に揃えてる車両とかいうので、
十分に差別化できるけどね。車に期待し過ぎではないのかな。
今や電車内と同じように、ずっとスマホかタブレットいじれるってのが、
最も車両移動に求められる最大公約数になりつつあるのだよ。 >>94
逆に俺は何も期待してないよ
内装で差別かするならそれはもう内装業だし
車の完全なコモディティ化 こないだAMDの新型CPUみたが、俺の特許とか脳の模倣とかてんこもりになってたな >>94
公共交通機関は不衛生だしな
なぜか風邪を引いてるやつが別々の車両に均等に乗り込むし >>93 大手自動車損保は、近い将来には個人契約というのがなくなって、
自動車メーカーが一括で入る損保形態を、実際に具体的にシミュレートしてるのだが。
根本的に、認識が古過ぎるのではないのか？ シンギュラリティとか言うから来るとか来ないとか言う馬鹿が出てくる
要は「自ら思考するコンピュータ」がいつできるかと言うだけ >>68
一部のずる賢い人間がAIブームを煽って金儲けしてるのが現実
一般庶民はなにもわからずAI＝万能シンギュラリティー神を崇拝させられたり
職を奪われると脅されたりして金を騙し取られる、新興宗教みたいなもの ■ このスレッドは過去ログ倉庫に格納されています
