【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>235
何年か前にはCPUもメモリみたいにあとから買い足してどんどん並列に出来る
とかいわれてたのになあ >>226
誰かじゃない
誰もがだよ
少なくともそのくらいできるようになるってのがここでいうシンギュラリティ 心配すべきなのはAIに不可欠な電力量だわ
スパコン何台分を動かすことになるのか知らんけど、
今のままでは隣に原発1基必要なくらいの電力を消耗するとどっかで見た まあね、「シンギュラリティ」が永久に来ないことは人間というものを深く
知れば明らかなんだけどね。知的には少しばかり優秀でも心情的な部分では
幼稚な人間が多いということだな。 >>226
「とか」と書いたように簡略化した例だよ
正確には「強い人工知能」のこと、定義は書いてたらキリがないから調べてくれ
強い人工知能を作る目処が全く立ってないのは皆合意だよね
そんなものが必要かどうかは別として
現実としては今の人工知能の延長を人間が「ツール」として使うというのが今世紀 >>232
アメリカでも来る来ない議論はやってんだから意見の一つでしょ
フェイスブックのトップとどこだったっけな、来る来ないでやりあってた >>246
誰もがってｗ
提唱者のカーツワイルですらそんなこと言ってない。
ソース出せよ。 >>8
コンピューターの方のレベルが低すぎるんだよ。比較にすらならない。 >>251
お前の定義なんていらないし意味ないの。
ソース出せよ ディープラーニングも実際はどう動いているのか分かっていない。
それでも、日々、認識率が改善して、視覚や一部の翻訳では人間を上回り始めた。
2045年？そんなにかかるとは思えない勢い。 >>219 自動化という事に関しては、
別に人類の認識を乗り越える必要はない。
現在の段階で、例えば将棋ソフトが人類の能力を上回ることについて、
人類側は、直接の開発者ですら、なぜそれで人工知能が「能力向上」しているのかが、説明できない。
大量数のAI対戦を試行させ、そこから統計学的に（ここも自動計算だが）、
それが有効であるという「数値」が出るので、それを採用しているに過ぎない。
ところで、そのヘーゲルは、それら現在の「事態」を予測して、それらの論理を述べてたのかね？ つーか脳と言うか意識って自分が意識できない体内はもちろん体外の刺激からのフィードバックも受けて成り立ってるから
意識だけそっくりそのままコンピューター上に移すみたいな話っていまいちピンとこないんだよな
シミュレートくらいはできるようになるだろうけどそうすると意識とか人格って何？って話になって堂々巡り AIの自動運転とか嫌だなぁ
人間の一万倍長くドライブスキルを積みました、シムシティで
とか恐ろしいわぁ >>222
まずは対話型で賢いＰＣが生まれるかどうかだろうな
音声入力はひとまずクリアしてるから、あとは文法文脈から正しい結果を導き出す
Ｇｏｏｇｌｅアシスタントは現状アホだけど、わざとアホなままで学習させてるんだとしたら
数年でかなり便利なものになる気がする >>243 それはまだ進化の過程だからだ。
いずれはお金を払わなければ店をでられなくなる仕組みになって
すぐに捕まるだろう。 >>260
75過ぎの老人の運転ばかりよりマシだろうな。 まぁ記憶量と演算能力だけはaiが上になったな
あと感情や創造性とかは脳ミソがまだ上だな まだ核爆弾で人類滅亡してないからAIが強くなっても大丈夫
この前死にかけた日本が一番やばい 量子コンピュータが本格的に導入されれば、もっと加速する。 >>229
それだとAIと言うよりロボットじゃないかなあ？ >>260
乗ってる人間がバカなときにはAIは積極的に始末しようとするよ。 >>257
(´・ω・`)思ってるより早く進んでるって落合陽一が言ってた つか、AIが人間の脳をシミュレートしたら
超高速で最適解をはじき出すと同時に
高速にミスを連発するだろう
生物の脳は確実にミスをするアーキテクチャになっているからだ
人類のミスのいくつかは進歩につながったが
機械のミスは赦せないだろう
知能のシミュレーションは望まれてすらいない 一昨年まで多くの専門家は囲碁でソフトが人間に勝つのにまだ10年以上は
必要だと言っていたのに、あっという間に追い越した
これが情報テクノロジーの進化スピード
所詮我々のような脳みそでは予測なんて出来ない 技術的な失業の拡大が一番の問題だろうね
後のAIが社会をシハイスルーみたいなのはSFのネタになる分は有用程度でいいんだろう
実際、ちょっとした書類ルーチン程度だとどんどん人が要らなくなってるの感じるよ >>270
プログラムは書けるでしょ
というか、人間に理解しがたい言語作り出して本当に何やってんのかわからなくなると思うよ つーかAIなんか昔からいたじゃん、スト2の敵とか強かったでしょw
まぁ所詮デジタル=2次元までな、0か1しかない世界だから ターミネーターの世界になると懸念する人がいるが
最終的にはロボコップのような世界になると思う。
人間の脳もＡＩのプログラムに組み込まれるのだろう。そして
街もＡＩ一つで動かす時代がくる。 シンギュラリティはともかく、
汎用型ロボットが、自身の生産やメンテを含めて、基礎的な労働を全部やってくれるようになるとありがたい 別に脳の真似なんかしなくても人間なんぞ超えられるだろ
なんで同じ形式じゃないと超えられないとか驕り高ぶってるんだ？ お前が基礎を作ってるのに何で超えるんだ
超えたらどうだってんだよ
何をもって超えるというんだ
実にくだらねぇな 今のところ最も大きな成果を上げたAI搭載マシンは
小惑星探査機「はやぶさ」だと言われることをどう思うか？ >>265
感情は要らないかもしれないが、創造性ゼロとか滅茶苦茶低いならAIの意味はないもんな
出来る事がただ多いだけの工場のロボットや掃除機のルンバみたいなもんだな 仮にディープラーニングがAIのシンギュラリティだとしても、
AIが人間の代わりになっても仕事はなくならない
何故なら人間で出来る仕事が未だに機械化しないのは
ボトルネックが人間やAIの仕事じゃないから
・・・っていうかAIがなんでも出来るスーパー知能だと思っちゃう時点で
荒唐無稽以外の何物でもない、所詮文系のSF脳ｗ 何度も言うように人間を狩るロボットが出てくる
軍事の世界では無人化がどんどんすすんでる
ロボット兵士の登場は待った無しだよ
そして必ず悪用する奴が出てくる
ナチスみたいな組織がロボット武装親衛隊みたいなのを作って世界制覇に乗り出すよ >>265
創造性は負けてる 囲碁やら将棋だけの話で
終わればいいが結局ルールを理解すれば人間の
能力を越えれるなら終わりだ
結局愚直性でも創造性でも負けてるなら終わりだ 体を使わない思考だけで完結する職業は真っ先にAIに駆逐されるんだよ
プロ将棋棋士の次はこういう学者が必要なくなる >>272
現実AIが歩いて自販機の補充してるのすら見たことない以上、バカすぎるSF妄想話だわなw >>276
実際のとこ、人間の発明とか発見、イノベーションみたいのも蓄積だからねえ
ある日突然便利な発明が生まれるわけじゃないし
AIはその辺を加速化させるだろうなとは思う >>273 その人は、確かこのようなことを述べてたな。
「単に人間が、それ以上のものに支配される」という状態を言うのなら、
そのシンギュラリティのようなものは既に発生している。
それは人類の社会というものだ。
人は社会の殆どを自由にコントロールできず、その既に自動運動してそうな社会・経済現象に翻弄されている。
リーマンショックで右往左往したり死人が出てるのを見れば、よく分かるだろう。
AIによって、各人対応で精度が向上し、それが社会制度に反映しやすくなれば、そっちの方がいいんじゃないか。ってね。 >>257
特定ジャンルに限って、やるべきことが決まってる限りは、な。 >>238
今だと着陸はまだ全部手動だからな
レーダーやセンサーはもちろん機械だが、実際の着陸作業は人間の腕に任せられている
まあこれは機械の限界というより、発展の為に不可欠なトライ&エラーがリスクもコストもデカすぎってだけなんだけどね
リスクを省みずガンガン事故りつつ機械を修正させてけばあっという間に着陸も自動化できるだろうな >>1
もうさ、人間馬鹿だからさ、シンギュラリティーしたAI並べて、考えてみよーぜ。
どれだけ、人間が狂っているのか？はたまたAIも狂ってるのか？同じ答えになるのか？
めっちゃ興味ない？？ 実際はAIが発見・発明能力を獲得して、自己改変し始めた時点だろうね。
そこから先は時間の問題。 AIと会話するサイトがあるよね。
ああいうのをずっとやっていけば最後はかなり賢くなる可能性があるんじゃない？
外国の例を見ると大体ポリコレ抵触で頓挫してる。
しかしああいうのも本当は放っといたらいいと思うんだよね。 ＞人間の脳はどう動いているのか全然分かっていない。そんな現状で、脳を超えるなんて、おこがましい。
これには２方面からの反論ができる。
１つ、人間の脳がどう動いているのか分かった瞬間にシンギュラリティが起こりうるということ
２つ、シンギュラリティが「脳の模倣」で発生するとは限らない。むしろ脳と全く異なる思考プロセスで脳を超える方が可能性が高い。 >>300
人間も変わるまい やるべきことが
決まっていることを仕事というのだから
言われなくてもしろも結局経験や知識が
必要だから同じだし >>288 工業デザインなどについては、既にかなりAIはイイ線いってるそうだよ。
大まかな指令を出せば、そこから最適化したモデルを出力してくる。
またパーツデザインなどについては、人間が普通では殆ど考え付かない
トポロジカル的解決をしてくるので、実用性は高いのだそうだ。
そういう工業デザイン性程度は、創造性とは言わないとする芸術至上主義などでは、認められないかもしれないが。 >>296
むしろ逆。ＡＩには問いを立てることができない。 >>306
人工無能というプログラムがあって今のところ大差ない
統計処理しているだけだから多数に誘導されていく
2ちゃんねるの「集合知」と同じアルよ ロボット三原則なんて北朝鮮みたいな独裁国家には通用しないからな この前、どこかのAI同士が独自言語を作り出して問題可決を図ろうとしたので停止させられたってニュースがあったけど、これ、解決さえるべき問題として環境問題とか異常気象とかもう少し曖昧な問題を与えることが出来るようになったら、本当に危険じゃないか？ >>303
興味なし、そんなの答えは出てる、人間全部いなくなれば犯罪も貧困も将来の心配も全て解決するんだから
ただ生きてるそれだけのことw 使うやつ次第だよな
現場の人間が、AIが変な誤認しだしたとしてすぐに対応できるのか
できない場合、なんだかわからんうちにどんどん損失が膨らんでいきそう >>274
ほおおお、面白いな
そのミスをAIが潰したり自動修復したりせずに、通常のルーチンやアルゴリズムでは解決出来ない問題が発生した時に利用する特別な飛び先みたいにすれば
いい意味での突然変異や進化ブレイクスルーや創造性に繋がる可能性もゼロではないかなあ プロセッサも、シリコンは限界だ
ガリウムヒ素になると言われていたが、30年経ってもシリコンが主流だ
これはシリコンで頑張った方が圧倒的に安かったからだ
いまは人間を使った方が安いが、モラルやら教育費やらを計算すれば
そのうち機械のコストの方が安くなる
マシーンはコピーが容易だからだ
技術を語るとき、能力的限界で予言をしてはならない このスレの中で、６つはAIが自己判断で書き込みしています
どれか分かりますか？ ヒント：AIっぽいクセが出ちゃってます。 でもこれシンギュラリティの判定も難しくない？
例えばAIに政治をやらせたら合理的な判断ばかりする、人間には忖度含めた玉虫色な判断が出来る、としても、どっちが優れてるかなんてケースバイケースで決められなくない？ この世は無駄なものが集まって意味ある存在になってると判断するようになるのか。 >>311
その実用性をＡＩは測ることができない。 悪意のある人間を想定できないのが学者の頭悪いとこ。30年前にコンピューターウィルスの蔓延を予想できてた人間はほとんどいない。 人間は考えるだけではなくて見て聞いて嗅いで自分でどこへでも行ける体を持っている
AIはその全てを人から与えて貰わないといけないし
人間の体のようなコンパクトで高性能な躯体は今だに手に入れることが出来ていないな >>317
囲碁の序盤見てると、悪手だと思われてた手が数手進んであら不思議なんてことばかり
現場で判断するのなんて無理じゃん いろんな研究や技術がそれぞれ発展して
ある日突然だれかがそれらを繋ぎ合わせる事で
一挙にブレークスルーがやって来る >>323
例えば製薬とか発電とか、そういった分野での科学的解法を
人間を超えて出してくることが期待されてるのよ
政治みたいなざっくりした話じゃなくても、日々の行動や性向で
この人を何処に配置したら世の中が上手くいくかなんて人間にはとても難しいけど
AIなら簡単そうじゃない？ >>307
その特定のテーマで予測できていた人はシンギュラリティ来るっていってんだよね
俺は10年超えられないと言ってた人より、正確に予測できていた人の言うこと信じるわｗ これは真核細胞の誕生のときのことを思い出してみると参考に
なるかもしれない。
ミトコンドリアの元となった細胞が真核細胞の母体となった細胞に
支配される前は、両者は共存していたわけだけど。
別に有機物じゃなくてもいいわけで、無機物の知的生命体が誕生しても
おかしくない。
ネアンデルタール人も知能の差で、現生人類に滅ぼされてしまった。 面倒な仕事は全部機械がやってくれて、
人間は食って寝て遊ぶだけになるんじゃねーのか…… >>330
人の能力なんて、計算可能なレベルで評価することはできない。 >>314
・ロボットは人間に危害を加えてはならない
「人間」の箇所が開発者の立場によって、密かに「白人」とか「Google」とかにならない事を祈るしかないなｗ ヒューマン・イン・ザ・ループ
つまり戦闘妖精みたいなあれか… >>320
同じ事だ 囲碁の例のように新しい
前より効率の良い戦法ができるということは
人間より 効率の良い仕事を作り出せると
いうことそもそも本能などの命令あってこそ
人間は動いている
需要が有る仕事を作成せよとでも命令だせば
いい話 命令だせば人間の能力越えれるならば
命令無しで人間は動けない以上既に人間の能力は越えている >>325 実用性に優れたパーツを、人間がすぐには思いつかないレベルで出してきてるAIに、
「それは分かってない」なんて言って、楽しいですか？
テストで百点を取ってきてる者に対して、「それは百点に過ぎない」と非難。
それでそう批判してる当人は、百点を取れないんですよねえ。虚しくないですか？
>>309
問題は結果(成果)に到達する為に存在する微細で膨大な障害なんだよ
何の障害もないor前例があり対策済みの障害なら問題ないんだけど、単純労働でさえイレギュラーは無数に起きる
そしてイレギュラーが重なりあった時、人間なら知恵を出して解決したり応急手当的な手段で凌いだりできるけど、
機械にそれができるかって話 既存のコンピューターでもAI型でもバグって飛行機が落ちることはある。と言う当たり前の話
ところが文系ジャーナリストがAIの記事を書くと、人間はマクドナルドの肉を焼く仕事しか無くなる、となる ■ このスレッドは過去ログ倉庫に格納されています
