【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 AIはイレギュラーを起こす、人間は創意工夫で対処出来るって言うけど
生産性向上の大号令の下業務は増え人は減りで過労で判断は鈍り
創意工夫するどころか過去の経験に基づいた安全手順すら蔑ろにされてる現状
それを言った所でだから何だって話よ
結局どっちに転んでも進むは茨の道よこのご時勢 人工知能をやたらと過大評価している人間は、人間を含む生命が３６億年の進化の歴史で
どれほど精緻で驚異的な機能を獲得したかを理解できていないんだよ。
人間を含む生物はすべてその機能を種族の存続のために発達させてきた。
人間もそうだ。だから種の存続に直接関係ない極端なまでの記憶力や計算力は
獲得しなかった、あるいは潜在能力としては持っているがそれを顕在化させなかった。
生物はその機能のすべてを自己と仲間の生存のために使っているんだよ。
人間にメインテナンスされて電源につなげてもらって故障の有無をチェックされている
機械とはまったく異なるんだよ。
現在の普通の人間の脳だって、すべての生存のための機能を無視して計算や記憶に振り向ける
ことが出来たら、おそらく大型コンピューター並みの能力を発揮すると思うよ。 北朝鮮対策にはいいかもな
トランプが、「貴国の行動が世界の安全を脅かすとAIが判断したら
レーザーを含む自動一斉攻撃を始めるよう プログラムした、
後のことはAIに任せて俺は国政に専念する 以上」
って言ったらカリアゲどうしたらいいのかもうわからんだろねww >>566 手先の器用さについても、実際の手先を再現したロボットとAI制御の組合せで
その内に簡単に超えてくると思えるけどね。 人間を指標にするからそういう考えになる
全く別のプロセスで理解できない知能になる可能性は充分にありえる
効率的過ぎて僕らには理解できないレベルの 前も書いたけど
自動車運転専用とかそれにしか使えないプログラムを
「人工知能」言うな。
本当に知能があるならば
どんなインターフェイスに繋げようとも、時間をかけて自動的に学習するもの。
いまあるのはただの専用プログラムに過ぎない。 >>573
で、自然にサイコロふってできるものと、
その成果物が最適化した状態でサイコロ振るのとどっちが効率的だと思う？ 進化の歴史でメチル化はどうやって説明するんですか？
偶然ですか まず必要なのは大脳生理学的な人体実験だと思うな
多重人格の治療ができるような >>573
鳥の翼では同逆立ちしても金属内で数1000度の超高音ガスを作り出し
噴射して推進力を得るシステムには勝てんだろ 人間とAIは登山家とシェルパみたいな関係までにしかならないよ >>516
自動化が進むこと自体は否定してないよ？
俺はそれを超進化したAIが引き起こすってのを否定してるんだよ
衛星情報で畑のデンプン濃度を測定して収穫時期を決めるとして、
膨大なデータから○か×を表示するならそれはただのアプリケーションじゃん
AI関係ないし、それがAIならExcelで作った帳簿だってAI扱いだよｗ
結局AIの定義がおかしいって話に立ち戻っちゃう
ただ単に「自動化が進んで雇用が無くなる」ならそうだろうし、そんなの産業革命からずっとそうだよ というかある程度AIが発展した時点で人間の脳使えば完成するんじゃねぇかな >>570
その喩え全然伝わってこない
世界一高い金魚鉢に見せると言っても、金魚鉢に目はないぞ
世界一高い金魚にいまのスマホを見せたらおとぎ話だと言うだろう の間違いか？
それでも全然伝わってこない >>571
量子コンピュータは計算できるための数式化の過程が必要。現実の課題はそれほど式化できない。まー投機で語られるAI()よりは身のある発展に繋がる 「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」
この一言で十分じゃないか？
ほとんどの人間が想像してるシンギュラリティは高度に洗練されたバカなＡＩの事だと思うんだが？ >>562
脳みそって神経の固まりだから
それを書き換えるのは目茶目茶効率が悪いらしい
余計な回路は破壊して必要な配線をして強化してと
電子を使った方がはるかに効率はいいはず
その仕組みを構築中でPCのグラボメーカーが専用製品を作ったりしてるのが
いまのAIブームを支えてる
ソフトより今は専用ハードの部分で技術革新が激しい
汎用品と比べて千倍、一万倍って次元で革新が進んでる >>588
サイズを脳並みに小さくできたらの時点で発想がチンパンジー >>583
それはわからん。
ただ一つ言えることは生物がそのような機能を獲得する必要に迫られことが無かったということ。
そして進化のためには数千万年から数億年単位の時間が必要とされるということ。
だから、そのような高温に耐える必要に迫られた環境に生物が置かれたらその環境に
順応する生物になる可能性はある。 AIを守って身を呈した男が美談となって語り継がれるよ
愚かならいざ知らず、どうしようもなく滑稽で道化な世界ができるんだ >>566
創造性では負けてないから安心していい。これは問いを作り出す力。 >>534
話ズレてない？
遺伝的アルゴリズムが実際に応用されているのはAIの業績ではない
って話なんだけど バカでも学び増えると大変
共産から何も学んでないバカ教授ww 人間の感情が記憶や経験の蓄積で起こるものならば、AIにも起こり得る話かも知れないが
はてそれは技術革新を産むのかというと… >>590
ロボットには論理はあるけど「人にとっての」妥当性は無いってやつ まあうちの伴侶と比べると、Siriの方が会話が成り立つけどw >>590
むしろ人類の知能が低下して結果的にシンギュラリティが達成される状況が一番怖い >>594
進化論に幻想抱きすぎだよ、所詮は偶然だし、個体で考えると説明が付かないことが多い こいつシンギュラリティは来ない ってシンギュラリティが点 タイムスタンプであることを理解していない
来るとか来ないとかじゃなく2045年よりだいぶ先になるんじゃないか と言いたいのかも知れないが
シンギュラリティに向かう研究の全てをこの教授が知る由もなく
また実際にシンギュラリティを超えたかどうかの判断は超えられなかった人工知能が超えた人工知能を 超えた人工知能が越えられなかった人工知能を相互認識することで
初めて人間はシンギュラリティを超えたことを認識できるんじゃないの
シンギュラリティより先は人工知能だけでの進化になるはずで人間と人工知能は融合するか人間は消滅させられるかしかない
だって人知を超えてる存在に従わないわけにはいかない そこには死の概念もないだろうから >>3
専用機で単一な計算しかできないものでもAIと付ける風潮がおかしい。
電卓を指してAIというのと同じことなんだが。 量子コンピューターって今の一億倍の速さになるんだからもう想像つかないわ >>585
今のコンピュータとネットワークでは人間が長い時間をかけて計算したり
導き出したりすれば出せる答えしか出さない
その計算や抽出を自動化しているだけだからね
ここで言われているシンギュラリティ後のAIてのは、人間が導き出せない
答えを出すもの。導き出された答えの正誤も判断できないもの
何度も出ているけど、囲碁将棋や、音声判断でその成果が出てきちゃってる
それが他の分野に活用できる技術なのかってことだわね >>585 ＞AI関係ないし、それがAIならExcelで作った帳簿だってAI扱いだよｗ
じゃあ、実際にそれをエクセルでやってみせてよ。
衛星データサービスを実際に衛星打ち上げも含めて企画してるベンチャーは実在するのだが、
そこはそれらデータをAIで分析しようとしてるようだね。エクセルでやろうなんてのは発表されてないね。
農業については補助金などの国家保護政策もあって、忘れられているのかもしれないが、
結局は国際的なコスト競争にも晒されているんだよ。
つまりそれは即ち人間労働の「省力化」を傾向的に継続して強制されているということだ。
地球人口はますます増えるそうで、農産物コストの低減は、それによっても要請されるだろう。
究極の人力省力化であるAI管理に至ってもおかしくないと思うね。エクセルにはそれは出来ないけどね。 >>106
知らないならもうここに書き込まないほうがいいよ
それともお前がAIでいま学習してるとこなの？ ごめん、バカなAIが何なのかわからん。
プログラムに従うのだから馬鹿も賢いも無くね？ 人口光合成みたいなもん、
ＡＩが人間に限りなく近づく頃、
結局、人間が分子ＡＩの極致だった。 脳科学者ってバカなんだなあ
人間が走るメカニズムが解明されなければ自動車は作れない言ってるのと同じじゃないか AIが経験から学んで行くとして、ネットで学ばせたら超性格悪くなりそう どうせここの大半のやつは現代のＡＩの学習についてほとんど知らないんだろｗ 茂木のせいで脳科学というもの自体が胡散臭く見えてしまう。 人間と同じもの作る必要はないよな
ってかむしろ同じもの作ると一瞬で滅ぼされそうだし >>591
別に専門ではないんでけど、ニューラルネットワークって生物の神経細胞を模したものなんじゃなかったっけ
それに、シナプスの信号伝達は電気的だよ
何と比較して、どう効率が悪いが悪いという結論になるんだ
なにせ、人間の脳の情報処理にまさるコンピュータはまだ開発されてないはず >>590
ほとんどの人間がどう思おうがシンギュラリティじゃないものはシンギュラリティじゃないから >>607 それだけど、量子コンピュータはまだ使えねー！
というような内容を、>>1の学者は言ってるね。
インタビュー全文出てないので、かなり歪んだ印象の記事になってるね。
ムーアの法則がそろそろ行き詰りそうだが、その後はどうするの？
というのが、>>1の元記事前文の趣旨。 >>594
生物進化は万能ではないよ
生物はミクロレベルのモノを除いて回転機構、つまり車輪やプロペラという極めて効率的なシステムを
1度も獲得できなかった
身体の構造体として還元鉄を採用する事もしなかった
回転的駆動機構と金属などの無機物質の積極的利用が生物進化では少なくとも地球上では実現できなかった
生物進化には限界がある。数1000度の高温に耐えられるようには何百億年かけようとならん >>611
マニュアル人間過ぎて非常時に全く対応できない奴とか居るだろ >>609
AIがエクセルが不便になってAI用のエクセルを作り出すのは
シンギュラリティより早そう 脳科学者にはもっと脳の仕組みの解説や効果的な使い方を期待したのに
なんかありふれた社会論言うだけで全然脳と関係ないことが多くて失望した 人間の脳は謎だらけだからAIには負けないってのはよくわからんな
無限の空想の余地はあるかもしれないけど無限の可能性があるわけじゃないし
つかそもそも人に限らず生物の脳自体解明されてないことだらけじゃねえの >>593
チンパンジーじゃない君はどう発想するのかなｗ
ただ、俺のが賢いのマウンティングしたいだけの君とはレスしたくない
面倒くさいので 東大松尾と比較してバランス取れてるとは思うけど、脳科学に進展が依存するというのは
数学者からするとかなり疑問
言語知能が高くて認知科学に対する良いイメージを持っている数学者なら、脳科学を横目に
強いAIを作れる可能性は十分ある
脳も結局は数学的なシステムなんだから
あと、AIに高等数学がいらないとか言ってる奴は論外。むしろ滅茶苦茶数学使わないと無理 >>590
AIに農業やらせたら森が全部ミントになったとかかなｗ >>611
「人にとって」を関知しない判断をくだすプログラムしかできないのは想定できるってものよね
人間でもそんなのワンサカいるし研究者だって埒外じゃないから >>3
知能はまだ上回ってないぞバカw
データ量と速度が上回ってるにすぎない
そしてデータを与えたのは人間、データを作ったのは人間 >>34
＞シンギュラリティと脳云々は関係ないから
＞プログラム自身が自己より高性能な
＞プログラムを作るって話だろ
プログラムよりもそれが動くハードウェアの問題だろ。半導体でやってる限り限界はある。
AIに開発任せて物理学の基礎分野から量産化商業化まで全自動でやらせるにせよ、その最初の1台が作れない。
シミュレータ云々もそれに入れるデータを取ってくるのは現状人類しかできない。 >>596
疑問を作り出す能力は機械のほうが上
囲碁の人間に理解できない人間より効率の良い
作戦は人間がこうすれば良いという行動以外を
やった結果だからつまり人間の怠慢を機械は
越えてくる >>613
まぁダビンチも飛行機械作る時に鳥や虫を参考にしたし？
一番優秀な物を参考にするって発想は分からんでもない
というか進化したAIの知能を僕らが知能として判断できるかって話よな
マジで別次元の可能性もあるし >>628
ていうか、そもそも数学者ってコンピュータを信用してないんじゃなかったっけ >>628
数学が必要な具体的な理由を一切述べてないのが凄いね君 シンギュラリティなんぞ待たず
人間がAI戦争で滅ぼし合う未来が来そうじゃねえか >>629
いわゆるペーパークリップシンドロームやね 淘汰圧だと、共進化、エピジェネティクス、収斂進化、現実は弱肉強食になっていないことが
うまく説明付かん、あれは胡散臭い思想に基づいていると思う AIが思考することを人間のそれの代替物だと考えるから>>3みたいなアホが出てくる >>637
シンギュらる前に自滅しそうよね
少なくとも労働者階級は死滅してると思う そもそも最適な判断を正解か不正解かを判断することができない
人は不合理や欠点を愛する事もあるし >>478
あくまで特化したものを一つずつ作るって形だろうな
工業用、囲碁用などなど…
なんでもできまっせみたいなの作ってもコストの無駄だし >>55
でもそれで作られたのは鳥でも昆虫でもない「航空機」という工業製品であり、かつ鳥や昆虫のように判断できるわけでも種を保存できるわけでもない。 >>635 計算機作業部分を多く取り入れて証明された数学の有名問題があるぞ。 >>628
ロボット工学は演繹で社会学は帰納、どちらにも数学は使うとアシモフさんという方が
書いておられて。
できれば物理とはケンカせずすべて包容してくんなまし >>631
同じデータで学び人間以上の結果だせるなら
上回っている >>645
航空機は飛ぶのが目的で飛ぶことは生存の手段である鳥とは違うからね
ただ、人間だって思考は生きるための手段で目的ではないはず
今人類が目指しているのは考えることを目的とする機械
人間そのものではないんだよ AIが人間を超えるシンギュラリティは不可能というのが一般的な学者の考えなんだけど、
バカなメディアとかが愚かな連中の不安心理を煽ってスカイネットのようなものが誕生すると主張してる
もちろんAIの高性能化で自動化は進むけど、シンギュラリティは現在の技術進歩の延長線上に無いんだけどね >>636
正直言ってあんまこういう場所でアイデアを言いたくないというのはある
ただ、非線形の数学って本来死ぬほど難しいわけだから、大体察知するはずなんだけどね 将棋AIとか膨大な棋譜から最良手を判断しているだけで
人口無能に近いもん、いってみればグーグル検索みたいなもんだけど
うわーやっぱAIすごいわーみたいな評価されるじゃん
人間敵わねーとか持ち上げるじゃん
知能って文字通り知る能力であって
その知るって機能が今のAIを作る上でのボトルネックなわけで
いつか人間が云々は、AIの学習機能が人間を超えるか
ってか人間が人間以上の学習能力を持つ何かを作れるかって話なわけで
副産物として人口目玉、人口鼻、人口手などがバンバン作られる世の中になるまで
そんな心配してなくていいよとは思う >>619
イオン濃度で神経を発火させてる
電気的ではあるけどそれは例えの話だよ
脳は電子のやり取りで情報を書き換えている訳ではない >>648
その定義ならもう50年以上前から機械は人間を上回ってるだろｗ >>649
それはどうかな
たんぱく質と水のかたまりが
進歩しようずと相談するとこから不思議の始まりよね まあなんだかんだ言っても結局は人間から仕事を奪うこと
そして貧富の差が拡大すること
AIを発展させてもこの二つの結果しかもたらされない気がするけど >>69
実は今こうしてインターネットが普及している事自体自分には驚きなんだがなw
インターネットを初めて見た時、自分には暫く無縁だと思っていたしw >>617
茂木健一郎が脳科学の世界で異端なんでしょ
クオリアとか心身問題って、神経科科学というより心の哲学という分野だと思う >>652
ムーアの法則は常に更新されるからまだ終わらんよ
現象ではなく経営理念だから当たり前だよね 可能性あるのは攻殻機動隊のような脳の機能を爆発的に向上させる
融合タイプのAIだろうな >>656
ニューラルネットワークって昔の誤った脳への理解に基ずいて模倣したつもりになってたものが
何故かうまく機能してしまった、ってもんじゃなかったっけ？ 考える機械を作るか、人間の脳を機械化するか、どっちが良いんだろう。 >>236
答えられない質問を誤魔化すのって大変だねw >>92
スペースシャトルの開発理由のひとつは「高価なコンピュータの回収、再利用」だ。
スマホどころかガラケの性能も無いコンピュータのために翼つけて数十億円上乗せしてペイできると思ってた時代の見解を現代に持ち出す意味はない。 >>655
はっきり言ってインターネットとか衛星情報だけで得られる情報量は人間以上である どうして神様は何億年分のログをきちんと記録しておかなかったんだろうな
また数千年かけて一から作り直さなくてはいけなくなったじゃないか、この怠け神 >>655 ＞将棋AIとか膨大な棋譜から最良手を判断しているだけで
最初はそういう方法でやってたのだが、今やその全然先を行ってるよ。 ■ このスレッドは過去ログ倉庫に格納されています
