【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 まあ未知の課題については今の手法では難しそうな気がする
今んところどうすれば良い点が付くかという問題にしか使えない >>194
提唱者は去年2029年に来ると訂正したな。
2045年ってのは2005年時点でのカーツワイルの予想。 >>197
欲求がない限りは無理
災害レベルのシンギュラリティは起きようがない >>35
>>55
その喩えも何か違うんだよな
昆虫や鳥の飛行と人間が作った飛行機はたしかに見た目の機構はかなり違うが
同じ力学法則にしたがって飛んでいるという意味では同じものといっていい
人間が飛行機の技術を発達させることができたのは航空力学の原理を解明したからと言える
人間の脳、意識、知能といった分野では飛行機における航空力学に相当するような
普遍的な原理が解明されていない 評価の仕方が定まってる問題
囲碁なら勝てばいいと明白 >>1
悪者都合によるAI屈指に生み出される犯罪の方がAI自身の意志っぽい独走より脅威でしょ ブラックボックスは中が空っぽかも知れないからこそブラックボックスなんだぜ
俺今めっちゃかっこいいこと言った >>188
そんなもん定義できるなら最初から質問すらしてないわ
自分の中であれは知能かそうじゃないか納得して終わり まぁ、いくら否定しようが世界中のIT企業はAI開発進めてるからな >>193
深層学習だと、正解不正解ではなくＡＩの判断に点数を与えた方が効率がいいらしい
正解ではなく、より高い点数をとなるんだとか
その為なら不正解も選択する
それが欲求と呼べるものなのかはわからんが 囲碁将棋という閉じた領域でコンピュータが人間を越えたからって当たり前やん
手計算よりも電卓を使った方が早くて正確に計算できると言ってるだけの話
知性とはなんの関係もない
問題はその先の話 ＡＩがっていうより、それをコントロールする人間の問題じゃね？
例えば間違った判断をしたＡＩを『間違ってる』とちゃんと識別できるか？とかさ。 >>197 ＞googleのAI 囲碁では人を超えが 黒人とゴリラを間違えるレベルだよｗ
それ時系列を大きく間違ってないか？
ゴリラと間違えた頃は、まだ囲碁では人に勝てなかったはずだ。
また分野が異なるので、現在の専用AIの段階では、余り比較に意味はない。
そして画像認識についても、その後に大きく精度上がってるよ。
急速に成長してる技術に対して、過去のある到達点を持ち出して批判しても意味ないだろう。 >>211
学者の予測よりも実業家の予測のが当たるのよねえ
結果論ではあるけども、学者で大富豪になったやつは知らんからなあ ヘーゲル論理学によれば、同一と区別は現実において同一である。
区別を認識しても認識の対象であるという共通部分があることは否定できない。
結局のところ、誰の認識が基準になるか問題になるわけよ。
全人類？
具体的個人の感情を切り捨てるカント的理性？
社会常識？
人間の認識だけが区別の基準になる間は、AIが人間を決定的に上回ることはない。
みんなが地動説を信じている間、天動説を唱えてもキチガイ扱いされる時代があった。
その時代において区別の基準をつくることができるのは基本的に多数者の人間で、
少数者にはチャンスが少ない。
AIはもっと駄目だろう。 結論ありきでAIのプログラムを改変してるの聞かされてAIに幻滅したわ
結局AIを育てた人の思想に染まる（染められる）わけじゃん 未熟なAIを悪用するバカ人間はもっと危険だけどなw >>178
報酬を適切に与えながら試行錯誤させるとニューラルネットなどの学習機が解き方を覚える、というのが知性ならば
20年以上前からそういうのはあったよ
台に乗った棒を落とさないように台を微妙に動かすことを覚えるロボットとかね
今話題のシンギュラリティで登場するとされてる知性はそういうのじゃなくて、
巨大な人工ニューラルネットにカメラとマイク、スピーカーをつなげて「母親役」の人間があやしたり話しかけたりして育てると
いつの間にか人間の言葉を真似するようになり、論理を理解するようになり、
知的好奇心が芽生えて人間と共に（あるいは乗り越えて）知的活動をするとか
そういうSFの世界みたいな話で、そりゃー2045年に来るとは到底思えんわ 技術的な事は時間をかけていずれ解決出来るとしても、徳とか倫理とかどうするんだろうなあ
データの入力の仕方で偏ったりしちゃ意味ないし、ヒトラーは正しいなんて事になるわけだしなあ まあこの件に関してはシンギュラリティの提唱者であるカールワルツ氏とも楽しく議論したいから
さっさとアメリカに行かせろと私は何度も言ったはずです。
こいつら東大OBの勘違い野郎たちがそれを妨害してたんだろうに、何を言ってるのか？
本当にこいつらは日本人じゃないんでしょう。
日本人だったら私をこんな目に遭わせて申し訳ない、そういう気持ちになって快く協力してくれるはずですから。
こいつらなりすましの朝鮮人たちにはそういう感情はないんですよ。
まあ、アメリカにもしっかり話が通っているから俺はこうやって自由に書き込めるわけですし、
お前らが何をしようがもう出ていくから、覚悟しとけよという話です。
本当に腹がたつからね、こいつらクズの犯罪朝鮮人たちは。
後はお仲間の東大OBで現東工大の大隅とかいう人間にでもアドバイスしてもらえよｗ >>219
一神教の教義の執行者くらいにはなれるだろうな
AIなんてきっとそれだけのものだ >>218 学者の定義にもよるが、博士号持ちで大富豪なんか沢山いるよ。
それからアルゴリズム投資の最前線は、そのまま市場投資の学問分野の最前線みたいなものなのだが、
クオンツ所属やクオンツ主宰で、ほぼ大富豪ってのは存在するけどね。 どんなにハードが優れたとしても、なぜAIは出来ないかというと、それ自体は石と同じだから ＡＩは修正と学習を繰り返す訳だから、コンピュータの性能が進めば進む程
成果もスピードも速まる。
あと２０年もすれば無人の店、無人宅配、無人工場（食料も含む）すべてが
機械化されてほとんどの職業はいらなくなる。 どう見ても2045年よりは早く来るだろう
ただそれがどういう形でどんな意味を持つのかが良く分からん
そもそも人間を超える思考力を持つに至ったとしても人間とまともに
コミュニケート出来るのかどうかは疑問
人間の心的システムをわざわざシミュレートする方向に進化する圧があるのかどうか 飛行機のオートパイロットがそうじゃん
完全に機械に任せられるのならパイロットや管制塔の中の人なんざ
不要になってるはずが、いまだに多くの人間の介入が不可欠どころか
人間が足りなくて困ってるくらいじゃん またこんな事言ってる間に海外勢にボコられるの目に見えてるわ.... 本当に腹がたちますね、こいつら乞食たちには。
お前の仲間の東大理学部OBの高野という男にもコメントするように伝えとけよ、おい。
本当に洒落にならない事を理解しとけよ、冗談抜きで全て歴史に残すからな。
清算の日は来たのです。そして、それがどのような結末を迎えるか、それは知りません。
とにかく私は全ての事実を告発し、そして私の人生を妨害した人間とその一族には合法的に報復する。
まずは私の名誉回復からです。 クソの東京大学のみなさんたちには全くご協力いただけませんでしたがね。 >>233
演算装置なら、並列化すりゃ良いだけやで >>210
知能とよべるかどうかなんて
結局意義のせんびきを争うことになるだけだから
計算できればそれは知能だっていうのを知能であるという根拠というやつがでてきたら
それは意義の話になってるだけなわけで
意義が人それぞれというならじゃあ知能だねとしか言わざるを得ない
バカなやつが「それ」が知能に該当するかどうかを教えて欲しいなら
バカな奴が自分で知能の意義を定義してもらわんと議論が空転するだけ
バカな奴は知能がないからそんなことも分からんのだろうが
バカな奴はバカな質問するなってことだなｗ つか、電卓が登場した時点でシンギュラリティは来てるだろ >>231 それはまだ進化の過程という事なんだろう。
今は多くの人間が必要だが、いずれはそれも段々減るという事。 今流行の深層学習とかは超簡単に言うと
多数のデータをどう統計処理して役に立つ情報を取り出すかというお話
多数のデータを持ってるGoogleがやりたい方向ではある
シナが我々の方が多数のデータを持ってるからすぐGoogleを抜くと息巻いてる
けれどもこの方向はAIのごく限られた領域でありAI研究はもっと広い
Googleの株価対策に引きずられすぎるとなにかを見失う >>220
計算以外に使い道がないのは初めからわかりきってたことやん
複雑な事象の答えを導きださせても
それが本当に正解なのかどうかを誰も証明できないしw >>207
そこだよなあ
フェイク無しに本当に何を目的としてるAIなのかちゃんとしていないと、知らない間に有色人種は排除されていたりとかあり得る >>229
それができないんだよねぇw無人のコンビニなんか中国で閉店したよね、窃盗が多くてw >>235
何年か前にはCPUもメモリみたいにあとから買い足してどんどん並列に出来る
とかいわれてたのになあ >>226
誰かじゃない
誰もがだよ
少なくともそのくらいできるようになるってのがここでいうシンギュラリティ 心配すべきなのはAIに不可欠な電力量だわ
スパコン何台分を動かすことになるのか知らんけど、
今のままでは隣に原発1基必要なくらいの電力を消耗するとどっかで見た まあね、「シンギュラリティ」が永久に来ないことは人間というものを深く
知れば明らかなんだけどね。知的には少しばかり優秀でも心情的な部分では
幼稚な人間が多いということだな。 >>226
「とか」と書いたように簡略化した例だよ
正確には「強い人工知能」のこと、定義は書いてたらキリがないから調べてくれ
強い人工知能を作る目処が全く立ってないのは皆合意だよね
そんなものが必要かどうかは別として
現実としては今の人工知能の延長を人間が「ツール」として使うというのが今世紀 >>232
アメリカでも来る来ない議論はやってんだから意見の一つでしょ
フェイスブックのトップとどこだったっけな、来る来ないでやりあってた >>246
誰もがってｗ
提唱者のカーツワイルですらそんなこと言ってない。
ソース出せよ。 >>8
コンピューターの方のレベルが低すぎるんだよ。比較にすらならない。 >>251
お前の定義なんていらないし意味ないの。
ソース出せよ ディープラーニングも実際はどう動いているのか分かっていない。
それでも、日々、認識率が改善して、視覚や一部の翻訳では人間を上回り始めた。
2045年？そんなにかかるとは思えない勢い。 >>219 自動化という事に関しては、
別に人類の認識を乗り越える必要はない。
現在の段階で、例えば将棋ソフトが人類の能力を上回ることについて、
人類側は、直接の開発者ですら、なぜそれで人工知能が「能力向上」しているのかが、説明できない。
大量数のAI対戦を試行させ、そこから統計学的に（ここも自動計算だが）、
それが有効であるという「数値」が出るので、それを採用しているに過ぎない。
ところで、そのヘーゲルは、それら現在の「事態」を予測して、それらの論理を述べてたのかね？ つーか脳と言うか意識って自分が意識できない体内はもちろん体外の刺激からのフィードバックも受けて成り立ってるから
意識だけそっくりそのままコンピューター上に移すみたいな話っていまいちピンとこないんだよな
シミュレートくらいはできるようになるだろうけどそうすると意識とか人格って何？って話になって堂々巡り AIの自動運転とか嫌だなぁ
人間の一万倍長くドライブスキルを積みました、シムシティで
とか恐ろしいわぁ >>222
まずは対話型で賢いＰＣが生まれるかどうかだろうな
音声入力はひとまずクリアしてるから、あとは文法文脈から正しい結果を導き出す
Ｇｏｏｇｌｅアシスタントは現状アホだけど、わざとアホなままで学習させてるんだとしたら
数年でかなり便利なものになる気がする >>243 それはまだ進化の過程だからだ。
いずれはお金を払わなければ店をでられなくなる仕組みになって
すぐに捕まるだろう。 >>260
75過ぎの老人の運転ばかりよりマシだろうな。 まぁ記憶量と演算能力だけはaiが上になったな
あと感情や創造性とかは脳ミソがまだ上だな まだ核爆弾で人類滅亡してないからAIが強くなっても大丈夫
この前死にかけた日本が一番やばい 量子コンピュータが本格的に導入されれば、もっと加速する。 >>229
それだとAIと言うよりロボットじゃないかなあ？ >>260
乗ってる人間がバカなときにはAIは積極的に始末しようとするよ。 >>257
(´・ω・`)思ってるより早く進んでるって落合陽一が言ってた つか、AIが人間の脳をシミュレートしたら
超高速で最適解をはじき出すと同時に
高速にミスを連発するだろう
生物の脳は確実にミスをするアーキテクチャになっているからだ
人類のミスのいくつかは進歩につながったが
機械のミスは赦せないだろう
知能のシミュレーションは望まれてすらいない 一昨年まで多くの専門家は囲碁でソフトが人間に勝つのにまだ10年以上は
必要だと言っていたのに、あっという間に追い越した
これが情報テクノロジーの進化スピード
所詮我々のような脳みそでは予測なんて出来ない 技術的な失業の拡大が一番の問題だろうね
後のAIが社会をシハイスルーみたいなのはSFのネタになる分は有用程度でいいんだろう
実際、ちょっとした書類ルーチン程度だとどんどん人が要らなくなってるの感じるよ >>270
プログラムは書けるでしょ
というか、人間に理解しがたい言語作り出して本当に何やってんのかわからなくなると思うよ つーかAIなんか昔からいたじゃん、スト2の敵とか強かったでしょw
まぁ所詮デジタル=2次元までな、0か1しかない世界だから ターミネーターの世界になると懸念する人がいるが
最終的にはロボコップのような世界になると思う。
人間の脳もＡＩのプログラムに組み込まれるのだろう。そして
街もＡＩ一つで動かす時代がくる。 シンギュラリティはともかく、
汎用型ロボットが、自身の生産やメンテを含めて、基礎的な労働を全部やってくれるようになるとありがたい 別に脳の真似なんかしなくても人間なんぞ超えられるだろ
なんで同じ形式じゃないと超えられないとか驕り高ぶってるんだ？ お前が基礎を作ってるのに何で超えるんだ
超えたらどうだってんだよ
何をもって超えるというんだ
実にくだらねぇな 今のところ最も大きな成果を上げたAI搭載マシンは
小惑星探査機「はやぶさ」だと言われることをどう思うか？ >>265
感情は要らないかもしれないが、創造性ゼロとか滅茶苦茶低いならAIの意味はないもんな
出来る事がただ多いだけの工場のロボットや掃除機のルンバみたいなもんだな 仮にディープラーニングがAIのシンギュラリティだとしても、
AIが人間の代わりになっても仕事はなくならない
何故なら人間で出来る仕事が未だに機械化しないのは
ボトルネックが人間やAIの仕事じゃないから
・・・っていうかAIがなんでも出来るスーパー知能だと思っちゃう時点で
荒唐無稽以外の何物でもない、所詮文系のSF脳ｗ 何度も言うように人間を狩るロボットが出てくる
軍事の世界では無人化がどんどんすすんでる
ロボット兵士の登場は待った無しだよ
そして必ず悪用する奴が出てくる
ナチスみたいな組織がロボット武装親衛隊みたいなのを作って世界制覇に乗り出すよ >>265
創造性は負けてる 囲碁やら将棋だけの話で
終わればいいが結局ルールを理解すれば人間の
能力を越えれるなら終わりだ
結局愚直性でも創造性でも負けてるなら終わりだ 体を使わない思考だけで完結する職業は真っ先にAIに駆逐されるんだよ
プロ将棋棋士の次はこういう学者が必要なくなる >>272
現実AIが歩いて自販機の補充してるのすら見たことない以上、バカすぎるSF妄想話だわなw >>276
実際のとこ、人間の発明とか発見、イノベーションみたいのも蓄積だからねえ
ある日突然便利な発明が生まれるわけじゃないし
AIはその辺を加速化させるだろうなとは思う >>273 その人は、確かこのようなことを述べてたな。
「単に人間が、それ以上のものに支配される」という状態を言うのなら、
そのシンギュラリティのようなものは既に発生している。
それは人類の社会というものだ。
人は社会の殆どを自由にコントロールできず、その既に自動運動してそうな社会・経済現象に翻弄されている。
リーマンショックで右往左往したり死人が出てるのを見れば、よく分かるだろう。
AIによって、各人対応で精度が向上し、それが社会制度に反映しやすくなれば、そっちの方がいいんじゃないか。ってね。 >>257
特定ジャンルに限って、やるべきことが決まってる限りは、な。 >>238
今だと着陸はまだ全部手動だからな
レーダーやセンサーはもちろん機械だが、実際の着陸作業は人間の腕に任せられている
まあこれは機械の限界というより、発展の為に不可欠なトライ&エラーがリスクもコストもデカすぎってだけなんだけどね
リスクを省みずガンガン事故りつつ機械を修正させてけばあっという間に着陸も自動化できるだろうな >>1
もうさ、人間馬鹿だからさ、シンギュラリティーしたAI並べて、考えてみよーぜ。
どれだけ、人間が狂っているのか？はたまたAIも狂ってるのか？同じ答えになるのか？
めっちゃ興味ない？？ ■ このスレッドは過去ログ倉庫に格納されています
