【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る?
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)
http://toyokeizai.net/articles/-/185506?page=3 出来ない事を話し合ってもツマランよね(´-ω-`) >>496
悪の凡庸さってやつね
ここで陣取りするなら5000人殺してイけますとか
なんとか氏を潰せば資産を乗っ取れますとか
淡々と進める 逆に言うと、もう人間はアーミッシュみたいになっちゃうかもしれないな。
動物の立場に戻って、なんか知的なことはAIがになってて
人間はノータッチになってしまうかもしれない。 それよりエピジェネティクス制御してバカから天才生まれさせたり
チビからノッポを作るようにしてもらえないか >>504
化学って意外と単純なんだぜ
ノーベル賞とかも論文たどると意外と単純
学校でなんであんな複雑なことやってるかというと
選別と権威主義だろうね
あたまよけりゃ簡単に説明できるものばかり >>491
専門家もグーグルの囲碁ブログラムの力量知らなかったんだよ。いま表に見えてるだけの情報で判断するのはかなり危険 シンギュラリティはニューロン数と微細化技術の進展を直線外挿してヒトのニューロン数を上回る時点を言ってるにすぎないからな
中身はゼロな議論だけどまあ、数十年したら海馬も辺縁系もかなり分かってきてエミュレーションできるかもな >>521
来る派というよりもう越えられてるから悲しい
何で越えられてるかもわかるから余計に まぁ自動運転の車が事故ってAIのせいだー訴訟にはなるだろうな >>519
日本のAI学会って研究材料として人と材料物性の区別できてないみたい >>493
AIの自己学習によって、と大雑把に言った方が正確かな?シンギュラリティって結局
そういう話だし。 最終決定権をAIが持ったとき
人間は消えるだろうな
どんなことがあったとしても最終決定権だけは渡してはいけない
でも早晩渡すことになると思う >>501
出来ると思うならそう思う側が出来る根拠を示してくれ AIはバカなのか
バカならシンギュラリティが来るわけがないな >>517
AMDがインテルに迫って来てるけど
あれ設計の自動化が進んだかららしいな
シンプルな設計だから体積とコスト面で有利になった分たくさんコアを増やせる >>484
無限とかについては誰かが定義して証明してたと思う
無理数とか素数の法則性も研究してる人は結構居るんでないかな
フェルマーの最終定理って本一冊読めば、その辺の数学の歴史は
大体わかった気になれるよ
読みやすいし >>529
海馬はGoogleが現在進行形でモデル化中だな ほぼ人間ってレベルのAIでとどめておくのが
一番人間としては楽しいかもしれん >>1
人間は人間の脳が至高と考えてるんじゃない?
もっと効率的な考えで結論出しちゃう可能性の方がたかそう この世には実はシナリオがあるからな
AIに支配される時代
宇宙人が侵略してくる時代
時が進めばちゃんと出演者は現れる >>490
「お前を消す方法は?」
「こんにちは♪いい天気ですね」
「お前を消す方法」
「明日は遠い親戚の誕生日ですよ♪彼女は今スイーツにはまって」
「お前を消す方法は?」
「自爆装置を起動しますがいいですか?」 >>535
アルファコンプレックスがなんとかしてくれて
幸福な未来が確定しているから安心しろ 30年前ってpcはx68kとかpc9801で
ゲームはdq2でpcエンジンが最先端
想像以上に進むもんだ >>509
知性の一つの側面だけ取り出すなら、とっくに超えてる。 >>535
なんとなく、映画のアイロボットみたいな
人間の身体能力を超越したサイボーグができないと
人間が消える事はなさそうな気がする 複雑なのは良いこととは限らない
決められた目的を達成する為には、
AIの方がより合理的で効率的な判断をするようになるのだろう
そうなった時に人間が排除されないような仕組み作りが要るのでは? 天才に関しては芥川は晩年、麻薬中毒だったらしいけど
でももともと麻薬に頼ってしまうような気質があったんじゃないか。 動物の脳を組み込むほうが可能性高い気がするな。完全に部品扱いの有機ニューラルネットワークとして 総合力で人間に勝たなくても
自己改良ができるってだけでかなりの脅威になりそう >>538
AMDは以前もIntelに迫ったぞ
その後Intelに巻き返された
全部DECの人物の仕業だが
ちなみに、8008時代のAMD市場は
Intelを軽く凌駕していたんで
今回で3度目だ >>538 インテルは、ハードよりもソフトに舵を切るという決断をしたみたいね。
だから例年の実質インテル主催のハードとしての半導体の展示会みたいなのをやめちゃってたはず。
企業公式発言でも、ソフトへの展開を重点化するみたいに言ってたし。 >>528
シンギュラリティてのは量の拡大が質に転化するか?って話だからね。 >>553
より優位を得ることだけを教えると人は要らないとなるのが見えてるよね 京みたいなスパコンが、人間の脳サイズに圧縮出来たら初めてそのシンギュなんとかを考えてもいいと思うわ
それまでは、おとぎばなしの世界だから考えるだけ無駄 つかAIを無駄に凄いもの最先端技術の集約とか考えてる人がたまにいる
特に経営者多そうな60代ぐらい
なんなんだろこれ
AIなんて条件分岐の塊なだけだってのに 一人の優秀な人間の判断は尊重するが、
そんな優秀な人ばかりの組織でもめちゃくちゃな判断を下すんだよ。
しかも誰も止められない。歴史が証明してるがなw
そのぐらい人間の脳は複雑だってことだろう。ばーかじゃねえのwwwww >>543
実際、今のニューラルネットワークにしても、人間は数層なのに、コンピューターは何十階層とか構築してるからな
神経細胞で何十層も作ると、レイテンシが大きくなりすぎて使い物にならないのだ >>551
一つというか 愚直性と創造性と計算速度で
負けてるなら全ての分野で大体負けるよね
後勝ってるの脳のエネルギー効率と手先の
器用さぐらい >>541
基数と順序数を認識できたらすごいと思うが
ただ、ヒトも指が生まれつきない人は順序数の認識が遅れるという
仕組みが分かってないものを帰納的にモデリングしても失敗するだろう
実は脳の奥には小人がいて脳全体を操っているのかもしれない >>548
その頃に発表されたパトレイバーMOVIE1の設定では
2000年の時点でコンピューターウィルスとネットワークについては現状並みになってた 夫の鉄道模型を捨てたら何故おかしくなるのか説明できるようにしときなさいよ >>562
世界一高い金魚鉢にいまのスマホを見せたらおとぎ話だと言うだろう 量子コンピュータなんて人間の脳とは全く異質なシステムで
これは人の足に対する車輪のようなものだから
これが本格的に実用化されてくると
瞬時に人間の知性を圧倒するんじゃないか? AIはイレギュラーを起こす、人間は創意工夫で対処出来るって言うけど
生産性向上の大号令の下業務は増え人は減りで過労で判断は鈍り
創意工夫するどころか過去の経験に基づいた安全手順すら蔑ろにされてる現状
それを言った所でだから何だって話よ
結局どっちに転んでも進むは茨の道よこのご時勢 人工知能をやたらと過大評価している人間は、人間を含む生命が36億年の進化の歴史で
どれほど精緻で驚異的な機能を獲得したかを理解できていないんだよ。
人間を含む生物はすべてその機能を種族の存続のために発達させてきた。
人間もそうだ。だから種の存続に直接関係ない極端なまでの記憶力や計算力は
獲得しなかった、あるいは潜在能力としては持っているがそれを顕在化させなかった。
生物はその機能のすべてを自己と仲間の生存のために使っているんだよ。
人間にメインテナンスされて電源につなげてもらって故障の有無をチェックされている
機械とはまったく異なるんだよ。
現在の普通の人間の脳だって、すべての生存のための機能を無視して計算や記憶に振り向ける
ことが出来たら、おそらく大型コンピューター並みの能力を発揮すると思うよ。 北朝鮮対策にはいいかもな
トランプが、「貴国の行動が世界の安全を脅かすとAIが判断したら
レーザーを含む自動一斉攻撃を始めるよう プログラムした、
後のことはAIに任せて俺は国政に専念する 以上」
って言ったらカリアゲどうしたらいいのかもうわからんだろねww >>566 手先の器用さについても、実際の手先を再現したロボットとAI制御の組合せで
その内に簡単に超えてくると思えるけどね。 人間を指標にするからそういう考えになる
全く別のプロセスで理解できない知能になる可能性は充分にありえる
効率的過ぎて僕らには理解できないレベルの 前も書いたけど
自動車運転専用とかそれにしか使えないプログラムを
「人工知能」言うな。
本当に知能があるならば
どんなインターフェイスに繋げようとも、時間をかけて自動的に学習するもの。
いまあるのはただの専用プログラムに過ぎない。 >>573
で、自然にサイコロふってできるものと、
その成果物が最適化した状態でサイコロ振るのとどっちが効率的だと思う? 進化の歴史でメチル化はどうやって説明するんですか?
偶然ですか まず必要なのは大脳生理学的な人体実験だと思うな
多重人格の治療ができるような >>573
鳥の翼では同逆立ちしても金属内で数1000度の超高音ガスを作り出し
噴射して推進力を得るシステムには勝てんだろ 人間とAIは登山家とシェルパみたいな関係までにしかならないよ >>516
自動化が進むこと自体は否定してないよ?
俺はそれを超進化したAIが引き起こすってのを否定してるんだよ
衛星情報で畑のデンプン濃度を測定して収穫時期を決めるとして、
膨大なデータから○か×を表示するならそれはただのアプリケーションじゃん
AI関係ないし、それがAIならExcelで作った帳簿だってAI扱いだよw
結局AIの定義がおかしいって話に立ち戻っちゃう
ただ単に「自動化が進んで雇用が無くなる」ならそうだろうし、そんなの産業革命からずっとそうだよ というかある程度AIが発展した時点で人間の脳使えば完成するんじゃねぇかな >>570
その喩え全然伝わってこない
世界一高い金魚鉢に見せると言っても、金魚鉢に目はないぞ
世界一高い金魚にいまのスマホを見せたらおとぎ話だと言うだろう の間違いか?
それでも全然伝わってこない >>571
量子コンピュータは計算できるための数式化の過程が必要。現実の課題はそれほど式化できない。まー投機で語られるAI()よりは身のある発展に繋がる 「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」
この一言で十分じゃないか?
ほとんどの人間が想像してるシンギュラリティは高度に洗練されたバカなAIの事だと思うんだが? >>562
脳みそって神経の固まりだから
それを書き換えるのは目茶目茶効率が悪いらしい
余計な回路は破壊して必要な配線をして強化してと
電子を使った方がはるかに効率はいいはず
その仕組みを構築中でPCのグラボメーカーが専用製品を作ったりしてるのが
いまのAIブームを支えてる
ソフトより今は専用ハードの部分で技術革新が激しい
汎用品と比べて千倍、一万倍って次元で革新が進んでる >>588
サイズを脳並みに小さくできたらの時点で発想がチンパンジー >>583
それはわからん。
ただ一つ言えることは生物がそのような機能を獲得する必要に迫られことが無かったということ。
そして進化のためには数千万年から数億年単位の時間が必要とされるということ。
だから、そのような高温に耐える必要に迫られた環境に生物が置かれたらその環境に
順応する生物になる可能性はある。 AIを守って身を呈した男が美談となって語り継がれるよ
愚かならいざ知らず、どうしようもなく滑稽で道化な世界ができるんだ >>566
創造性では負けてないから安心していい。これは問いを作り出す力。 >>534
話ズレてない?
遺伝的アルゴリズムが実際に応用されているのはAIの業績ではない
って話なんだけど バカでも学び増えると大変
共産から何も学んでないバカ教授ww 人間の感情が記憶や経験の蓄積で起こるものならば、AIにも起こり得る話かも知れないが
はてそれは技術革新を産むのかというと… >>590
ロボットには論理はあるけど「人にとっての」妥当性は無いってやつ まあうちの伴侶と比べると、Siriの方が会話が成り立つけどw >>590
むしろ人類の知能が低下して結果的にシンギュラリティが達成される状況が一番怖い >>594
進化論に幻想抱きすぎだよ、所詮は偶然だし、個体で考えると説明が付かないことが多い こいつシンギュラリティは来ない ってシンギュラリティが点 タイムスタンプであることを理解していない
来るとか来ないとかじゃなく2045年よりだいぶ先になるんじゃないか と言いたいのかも知れないが
シンギュラリティに向かう研究の全てをこの教授が知る由もなく
また実際にシンギュラリティを超えたかどうかの判断は超えられなかった人工知能が超えた人工知能を 超えた人工知能が越えられなかった人工知能を相互認識することで
初めて人間はシンギュラリティを超えたことを認識できるんじゃないの
シンギュラリティより先は人工知能だけでの進化になるはずで人間と人工知能は融合するか人間は消滅させられるかしかない
だって人知を超えてる存在に従わないわけにはいかない そこには死の概念もないだろうから >>3
専用機で単一な計算しかできないものでもAIと付ける風潮がおかしい。
電卓を指してAIというのと同じことなんだが。 量子コンピューターって今の一億倍の速さになるんだからもう想像つかないわ >>585
今のコンピュータとネットワークでは人間が長い時間をかけて計算したり
導き出したりすれば出せる答えしか出さない
その計算や抽出を自動化しているだけだからね
ここで言われているシンギュラリティ後のAIてのは、人間が導き出せない
答えを出すもの。導き出された答えの正誤も判断できないもの
何度も出ているけど、囲碁将棋や、音声判断でその成果が出てきちゃってる
それが他の分野に活用できる技術なのかってことだわね >>585 >AI関係ないし、それがAIならExcelで作った帳簿だってAI扱いだよw
じゃあ、実際にそれをエクセルでやってみせてよ。
衛星データサービスを実際に衛星打ち上げも含めて企画してるベンチャーは実在するのだが、
そこはそれらデータをAIで分析しようとしてるようだね。エクセルでやろうなんてのは発表されてないね。
農業については補助金などの国家保護政策もあって、忘れられているのかもしれないが、
結局は国際的なコスト競争にも晒されているんだよ。
つまりそれは即ち人間労働の「省力化」を傾向的に継続して強制されているということだ。
地球人口はますます増えるそうで、農産物コストの低減は、それによっても要請されるだろう。
究極の人力省力化であるAI管理に至ってもおかしくないと思うね。エクセルにはそれは出来ないけどね。 >>106
知らないならもうここに書き込まないほうがいいよ
それともお前がAIでいま学習してるとこなの? ごめん、バカなAIが何なのかわからん。
プログラムに従うのだから馬鹿も賢いも無くね? 人口光合成みたいなもん、
AIが人間に限りなく近づく頃、
結局、人間が分子AIの極致だった。 脳科学者ってバカなんだなあ
人間が走るメカニズムが解明されなければ自動車は作れない言ってるのと同じじゃないか AIが経験から学んで行くとして、ネットで学ばせたら超性格悪くなりそう どうせここの大半のやつは現代のAIの学習についてほとんど知らないんだろw 茂木のせいで脳科学というもの自体が胡散臭く見えてしまう。 人間と同じもの作る必要はないよな
ってかむしろ同じもの作ると一瞬で滅ぼされそうだし >>591
別に専門ではないんでけど、ニューラルネットワークって生物の神経細胞を模したものなんじゃなかったっけ
それに、シナプスの信号伝達は電気的だよ
何と比較して、どう効率が悪いが悪いという結論になるんだ
なにせ、人間の脳の情報処理にまさるコンピュータはまだ開発されてないはず >>590
ほとんどの人間がどう思おうがシンギュラリティじゃないものはシンギュラリティじゃないから >>607 それだけど、量子コンピュータはまだ使えねー!
というような内容を、>>1の学者は言ってるね。
インタビュー全文出てないので、かなり歪んだ印象の記事になってるね。
ムーアの法則がそろそろ行き詰りそうだが、その後はどうするの?
というのが、>>1の元記事前文の趣旨。 ■ このスレッドは過去ログ倉庫に格納されています