【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 この世には実はシナリオがあるからな
AIに支配される時代
宇宙人が侵略してくる時代
時が進めばちゃんと出演者は現れる >>490
「お前を消す方法は？」
「こんにちは♪いい天気ですね」
「お前を消す方法」
「明日は遠い親戚の誕生日ですよ♪彼女は今スイーツにはまって」
「お前を消す方法は？」
「自爆装置を起動しますがいいですか？」 >>535
アルファコンプレックスがなんとかしてくれて
幸福な未来が確定しているから安心しろ 30年前ってpcはx68kとかpc9801で
ゲームはdq2でpcエンジンが最先端
想像以上に進むもんだ >>509
知性の一つの側面だけ取り出すなら、とっくに超えてる。 >>535
なんとなく、映画のアイロボットみたいな
人間の身体能力を超越したサイボーグができないと
人間が消える事はなさそうな気がする 複雑なのは良いこととは限らない
決められた目的を達成する為には、
AIの方がより合理的で効率的な判断をするようになるのだろう
そうなった時に人間が排除されないような仕組み作りが要るのでは？ 天才に関しては芥川は晩年、麻薬中毒だったらしいけど
でももともと麻薬に頼ってしまうような気質があったんじゃないか。 動物の脳を組み込むほうが可能性高い気がするな。完全に部品扱いの有機ニューラルネットワークとして 総合力で人間に勝たなくても
自己改良ができるってだけでかなりの脅威になりそう >>538
AMDは以前もIntelに迫ったぞ
その後Intelに巻き返された
全部DECの人物の仕業だが
ちなみに、8008時代のAMD市場は
Intelを軽く凌駕していたんで
今回で3度目だ >>538 インテルは、ハードよりもソフトに舵を切るという決断をしたみたいね。
だから例年の実質インテル主催のハードとしての半導体の展示会みたいなのをやめちゃってたはず。
企業公式発言でも、ソフトへの展開を重点化するみたいに言ってたし。 >>528
シンギュラリティてのは量の拡大が質に転化するか？って話だからね。 >>553
より優位を得ることだけを教えると人は要らないとなるのが見えてるよね 京みたいなスパコンが、人間の脳サイズに圧縮出来たら初めてそのシンギュなんとかを考えてもいいと思うわ
それまでは、おとぎばなしの世界だから考えるだけ無駄 つかAIを無駄に凄いもの最先端技術の集約とか考えてる人がたまにいる
特に経営者多そうな６０代ぐらい
なんなんだろこれ
AIなんて条件分岐の塊なだけだってのに 一人の優秀な人間の判断は尊重するが、
そんな優秀な人ばかりの組織でもめちゃくちゃな判断を下すんだよ。
しかも誰も止められない。歴史が証明してるがなｗ
そのぐらい人間の脳は複雑だってことだろう。ばーかじゃねえのｗｗｗｗｗ >>543
実際、今のニューラルネットワークにしても、人間は数層なのに、コンピューターは何十階層とか構築してるからな
神経細胞で何十層も作ると、レイテンシが大きくなりすぎて使い物にならないのだ >>551
一つというか 愚直性と創造性と計算速度で
負けてるなら全ての分野で大体負けるよね
後勝ってるの脳のエネルギー効率と手先の
器用さぐらい >>541
基数と順序数を認識できたらすごいと思うが
ただ、ヒトも指が生まれつきない人は順序数の認識が遅れるという
仕組みが分かってないものを帰納的にモデリングしても失敗するだろう
実は脳の奥には小人がいて脳全体を操っているのかもしれない >>548
その頃に発表されたパトレイバーMOVIE1の設定では
2000年の時点でコンピューターウィルスとネットワークについては現状並みになってた 夫の鉄道模型を捨てたら何故おかしくなるのか説明できるようにしときなさいよ >>562
世界一高い金魚鉢にいまのスマホを見せたらおとぎ話だと言うだろう 量子コンピュータなんて人間の脳とは全く異質なシステムで
これは人の足に対する車輪のようなものだから
これが本格的に実用化されてくると
瞬時に人間の知性を圧倒するんじゃないか？ AIはイレギュラーを起こす、人間は創意工夫で対処出来るって言うけど
生産性向上の大号令の下業務は増え人は減りで過労で判断は鈍り
創意工夫するどころか過去の経験に基づいた安全手順すら蔑ろにされてる現状
それを言った所でだから何だって話よ
結局どっちに転んでも進むは茨の道よこのご時勢 人工知能をやたらと過大評価している人間は、人間を含む生命が３６億年の進化の歴史で
どれほど精緻で驚異的な機能を獲得したかを理解できていないんだよ。
人間を含む生物はすべてその機能を種族の存続のために発達させてきた。
人間もそうだ。だから種の存続に直接関係ない極端なまでの記憶力や計算力は
獲得しなかった、あるいは潜在能力としては持っているがそれを顕在化させなかった。
生物はその機能のすべてを自己と仲間の生存のために使っているんだよ。
人間にメインテナンスされて電源につなげてもらって故障の有無をチェックされている
機械とはまったく異なるんだよ。
現在の普通の人間の脳だって、すべての生存のための機能を無視して計算や記憶に振り向ける
ことが出来たら、おそらく大型コンピューター並みの能力を発揮すると思うよ。 北朝鮮対策にはいいかもな
トランプが、「貴国の行動が世界の安全を脅かすとAIが判断したら
レーザーを含む自動一斉攻撃を始めるよう プログラムした、
後のことはAIに任せて俺は国政に専念する 以上」
って言ったらカリアゲどうしたらいいのかもうわからんだろねww >>566 手先の器用さについても、実際の手先を再現したロボットとAI制御の組合せで
その内に簡単に超えてくると思えるけどね。 人間を指標にするからそういう考えになる
全く別のプロセスで理解できない知能になる可能性は充分にありえる
効率的過ぎて僕らには理解できないレベルの 前も書いたけど
自動車運転専用とかそれにしか使えないプログラムを
「人工知能」言うな。
本当に知能があるならば
どんなインターフェイスに繋げようとも、時間をかけて自動的に学習するもの。
いまあるのはただの専用プログラムに過ぎない。 >>573
で、自然にサイコロふってできるものと、
その成果物が最適化した状態でサイコロ振るのとどっちが効率的だと思う？ 進化の歴史でメチル化はどうやって説明するんですか？
偶然ですか まず必要なのは大脳生理学的な人体実験だと思うな
多重人格の治療ができるような >>573
鳥の翼では同逆立ちしても金属内で数1000度の超高音ガスを作り出し
噴射して推進力を得るシステムには勝てんだろ 人間とAIは登山家とシェルパみたいな関係までにしかならないよ >>516
自動化が進むこと自体は否定してないよ？
俺はそれを超進化したAIが引き起こすってのを否定してるんだよ
衛星情報で畑のデンプン濃度を測定して収穫時期を決めるとして、
膨大なデータから○か×を表示するならそれはただのアプリケーションじゃん
AI関係ないし、それがAIならExcelで作った帳簿だってAI扱いだよｗ
結局AIの定義がおかしいって話に立ち戻っちゃう
ただ単に「自動化が進んで雇用が無くなる」ならそうだろうし、そんなの産業革命からずっとそうだよ というかある程度AIが発展した時点で人間の脳使えば完成するんじゃねぇかな >>570
その喩え全然伝わってこない
世界一高い金魚鉢に見せると言っても、金魚鉢に目はないぞ
世界一高い金魚にいまのスマホを見せたらおとぎ話だと言うだろう の間違いか？
それでも全然伝わってこない >>571
量子コンピュータは計算できるための数式化の過程が必要。現実の課題はそれほど式化できない。まー投機で語られるAI()よりは身のある発展に繋がる 「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」
この一言で十分じゃないか？
ほとんどの人間が想像してるシンギュラリティは高度に洗練されたバカなＡＩの事だと思うんだが？ >>562
脳みそって神経の固まりだから
それを書き換えるのは目茶目茶効率が悪いらしい
余計な回路は破壊して必要な配線をして強化してと
電子を使った方がはるかに効率はいいはず
その仕組みを構築中でPCのグラボメーカーが専用製品を作ったりしてるのが
いまのAIブームを支えてる
ソフトより今は専用ハードの部分で技術革新が激しい
汎用品と比べて千倍、一万倍って次元で革新が進んでる >>588
サイズを脳並みに小さくできたらの時点で発想がチンパンジー >>583
それはわからん。
ただ一つ言えることは生物がそのような機能を獲得する必要に迫られことが無かったということ。
そして進化のためには数千万年から数億年単位の時間が必要とされるということ。
だから、そのような高温に耐える必要に迫られた環境に生物が置かれたらその環境に
順応する生物になる可能性はある。 AIを守って身を呈した男が美談となって語り継がれるよ
愚かならいざ知らず、どうしようもなく滑稽で道化な世界ができるんだ >>566
創造性では負けてないから安心していい。これは問いを作り出す力。 >>534
話ズレてない？
遺伝的アルゴリズムが実際に応用されているのはAIの業績ではない
って話なんだけど バカでも学び増えると大変
共産から何も学んでないバカ教授ww 人間の感情が記憶や経験の蓄積で起こるものならば、AIにも起こり得る話かも知れないが
はてそれは技術革新を産むのかというと… >>590
ロボットには論理はあるけど「人にとっての」妥当性は無いってやつ まあうちの伴侶と比べると、Siriの方が会話が成り立つけどw >>590
むしろ人類の知能が低下して結果的にシンギュラリティが達成される状況が一番怖い >>594
進化論に幻想抱きすぎだよ、所詮は偶然だし、個体で考えると説明が付かないことが多い こいつシンギュラリティは来ない ってシンギュラリティが点 タイムスタンプであることを理解していない
来るとか来ないとかじゃなく2045年よりだいぶ先になるんじゃないか と言いたいのかも知れないが
シンギュラリティに向かう研究の全てをこの教授が知る由もなく
また実際にシンギュラリティを超えたかどうかの判断は超えられなかった人工知能が超えた人工知能を 超えた人工知能が越えられなかった人工知能を相互認識することで
初めて人間はシンギュラリティを超えたことを認識できるんじゃないの
シンギュラリティより先は人工知能だけでの進化になるはずで人間と人工知能は融合するか人間は消滅させられるかしかない
だって人知を超えてる存在に従わないわけにはいかない そこには死の概念もないだろうから >>3
専用機で単一な計算しかできないものでもAIと付ける風潮がおかしい。
電卓を指してAIというのと同じことなんだが。 量子コンピューターって今の一億倍の速さになるんだからもう想像つかないわ >>585
今のコンピュータとネットワークでは人間が長い時間をかけて計算したり
導き出したりすれば出せる答えしか出さない
その計算や抽出を自動化しているだけだからね
ここで言われているシンギュラリティ後のAIてのは、人間が導き出せない
答えを出すもの。導き出された答えの正誤も判断できないもの
何度も出ているけど、囲碁将棋や、音声判断でその成果が出てきちゃってる
それが他の分野に活用できる技術なのかってことだわね >>585 ＞AI関係ないし、それがAIならExcelで作った帳簿だってAI扱いだよｗ
じゃあ、実際にそれをエクセルでやってみせてよ。
衛星データサービスを実際に衛星打ち上げも含めて企画してるベンチャーは実在するのだが、
そこはそれらデータをAIで分析しようとしてるようだね。エクセルでやろうなんてのは発表されてないね。
農業については補助金などの国家保護政策もあって、忘れられているのかもしれないが、
結局は国際的なコスト競争にも晒されているんだよ。
つまりそれは即ち人間労働の「省力化」を傾向的に継続して強制されているということだ。
地球人口はますます増えるそうで、農産物コストの低減は、それによっても要請されるだろう。
究極の人力省力化であるAI管理に至ってもおかしくないと思うね。エクセルにはそれは出来ないけどね。 >>106
知らないならもうここに書き込まないほうがいいよ
それともお前がAIでいま学習してるとこなの？ ごめん、バカなAIが何なのかわからん。
プログラムに従うのだから馬鹿も賢いも無くね？ 人口光合成みたいなもん、
ＡＩが人間に限りなく近づく頃、
結局、人間が分子ＡＩの極致だった。 脳科学者ってバカなんだなあ
人間が走るメカニズムが解明されなければ自動車は作れない言ってるのと同じじゃないか AIが経験から学んで行くとして、ネットで学ばせたら超性格悪くなりそう どうせここの大半のやつは現代のＡＩの学習についてほとんど知らないんだろｗ 茂木のせいで脳科学というもの自体が胡散臭く見えてしまう。 人間と同じもの作る必要はないよな
ってかむしろ同じもの作ると一瞬で滅ぼされそうだし >>591
別に専門ではないんでけど、ニューラルネットワークって生物の神経細胞を模したものなんじゃなかったっけ
それに、シナプスの信号伝達は電気的だよ
何と比較して、どう効率が悪いが悪いという結論になるんだ
なにせ、人間の脳の情報処理にまさるコンピュータはまだ開発されてないはず >>590
ほとんどの人間がどう思おうがシンギュラリティじゃないものはシンギュラリティじゃないから >>607 それだけど、量子コンピュータはまだ使えねー！
というような内容を、>>1の学者は言ってるね。
インタビュー全文出てないので、かなり歪んだ印象の記事になってるね。
ムーアの法則がそろそろ行き詰りそうだが、その後はどうするの？
というのが、>>1の元記事前文の趣旨。 >>594
生物進化は万能ではないよ
生物はミクロレベルのモノを除いて回転機構、つまり車輪やプロペラという極めて効率的なシステムを
1度も獲得できなかった
身体の構造体として還元鉄を採用する事もしなかった
回転的駆動機構と金属などの無機物質の積極的利用が生物進化では少なくとも地球上では実現できなかった
生物進化には限界がある。数1000度の高温に耐えられるようには何百億年かけようとならん >>611
マニュアル人間過ぎて非常時に全く対応できない奴とか居るだろ >>609
AIがエクセルが不便になってAI用のエクセルを作り出すのは
シンギュラリティより早そう 脳科学者にはもっと脳の仕組みの解説や効果的な使い方を期待したのに
なんかありふれた社会論言うだけで全然脳と関係ないことが多くて失望した 人間の脳は謎だらけだからAIには負けないってのはよくわからんな
無限の空想の余地はあるかもしれないけど無限の可能性があるわけじゃないし
つかそもそも人に限らず生物の脳自体解明されてないことだらけじゃねえの >>593
チンパンジーじゃない君はどう発想するのかなｗ
ただ、俺のが賢いのマウンティングしたいだけの君とはレスしたくない
面倒くさいので 東大松尾と比較してバランス取れてるとは思うけど、脳科学に進展が依存するというのは
数学者からするとかなり疑問
言語知能が高くて認知科学に対する良いイメージを持っている数学者なら、脳科学を横目に
強いAIを作れる可能性は十分ある
脳も結局は数学的なシステムなんだから
あと、AIに高等数学がいらないとか言ってる奴は論外。むしろ滅茶苦茶数学使わないと無理 >>590
AIに農業やらせたら森が全部ミントになったとかかなｗ >>611
「人にとって」を関知しない判断をくだすプログラムしかできないのは想定できるってものよね
人間でもそんなのワンサカいるし研究者だって埒外じゃないから >>3
知能はまだ上回ってないぞバカw
データ量と速度が上回ってるにすぎない
そしてデータを与えたのは人間、データを作ったのは人間 >>34
＞シンギュラリティと脳云々は関係ないから
＞プログラム自身が自己より高性能な
＞プログラムを作るって話だろ
プログラムよりもそれが動くハードウェアの問題だろ。半導体でやってる限り限界はある。
AIに開発任せて物理学の基礎分野から量産化商業化まで全自動でやらせるにせよ、その最初の1台が作れない。
シミュレータ云々もそれに入れるデータを取ってくるのは現状人類しかできない。 >>596
疑問を作り出す能力は機械のほうが上
囲碁の人間に理解できない人間より効率の良い
作戦は人間がこうすれば良いという行動以外を
やった結果だからつまり人間の怠慢を機械は
越えてくる >>613
まぁダビンチも飛行機械作る時に鳥や虫を参考にしたし？
一番優秀な物を参考にするって発想は分からんでもない
というか進化したAIの知能を僕らが知能として判断できるかって話よな
マジで別次元の可能性もあるし >>628
ていうか、そもそも数学者ってコンピュータを信用してないんじゃなかったっけ >>628
数学が必要な具体的な理由を一切述べてないのが凄いね君 シンギュラリティなんぞ待たず
人間がAI戦争で滅ぼし合う未来が来そうじゃねえか >>629
いわゆるペーパークリップシンドロームやね 淘汰圧だと、共進化、エピジェネティクス、収斂進化、現実は弱肉強食になっていないことが
うまく説明付かん、あれは胡散臭い思想に基づいていると思う AIが思考することを人間のそれの代替物だと考えるから>>3みたいなアホが出てくる >>637
シンギュらる前に自滅しそうよね
少なくとも労働者階級は死滅してると思う そもそも最適な判断を正解か不正解かを判断することができない
人は不合理や欠点を愛する事もあるし ■ このスレッドは過去ログ倉庫に格納されています
