【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 実際はAIが発見・発明能力を獲得して、自己改変し始めた時点だろうね。
そこから先は時間の問題。 AIと会話するサイトがあるよね。
ああいうのをずっとやっていけば最後はかなり賢くなる可能性があるんじゃない？
外国の例を見ると大体ポリコレ抵触で頓挫してる。
しかしああいうのも本当は放っといたらいいと思うんだよね。 ＞人間の脳はどう動いているのか全然分かっていない。そんな現状で、脳を超えるなんて、おこがましい。
これには２方面からの反論ができる。
１つ、人間の脳がどう動いているのか分かった瞬間にシンギュラリティが起こりうるということ
２つ、シンギュラリティが「脳の模倣」で発生するとは限らない。むしろ脳と全く異なる思考プロセスで脳を超える方が可能性が高い。 >>300
人間も変わるまい やるべきことが
決まっていることを仕事というのだから
言われなくてもしろも結局経験や知識が
必要だから同じだし >>288 工業デザインなどについては、既にかなりAIはイイ線いってるそうだよ。
大まかな指令を出せば、そこから最適化したモデルを出力してくる。
またパーツデザインなどについては、人間が普通では殆ど考え付かない
トポロジカル的解決をしてくるので、実用性は高いのだそうだ。
そういう工業デザイン性程度は、創造性とは言わないとする芸術至上主義などでは、認められないかもしれないが。 >>296
むしろ逆。ＡＩには問いを立てることができない。 >>306
人工無能というプログラムがあって今のところ大差ない
統計処理しているだけだから多数に誘導されていく
2ちゃんねるの「集合知」と同じアルよ ロボット三原則なんて北朝鮮みたいな独裁国家には通用しないからな この前、どこかのAI同士が独自言語を作り出して問題可決を図ろうとしたので停止させられたってニュースがあったけど、これ、解決さえるべき問題として環境問題とか異常気象とかもう少し曖昧な問題を与えることが出来るようになったら、本当に危険じゃないか？ >>303
興味なし、そんなの答えは出てる、人間全部いなくなれば犯罪も貧困も将来の心配も全て解決するんだから
ただ生きてるそれだけのことw 使うやつ次第だよな
現場の人間が、AIが変な誤認しだしたとしてすぐに対応できるのか
できない場合、なんだかわからんうちにどんどん損失が膨らんでいきそう >>274
ほおおお、面白いな
そのミスをAIが潰したり自動修復したりせずに、通常のルーチンやアルゴリズムでは解決出来ない問題が発生した時に利用する特別な飛び先みたいにすれば
いい意味での突然変異や進化ブレイクスルーや創造性に繋がる可能性もゼロではないかなあ プロセッサも、シリコンは限界だ
ガリウムヒ素になると言われていたが、30年経ってもシリコンが主流だ
これはシリコンで頑張った方が圧倒的に安かったからだ
いまは人間を使った方が安いが、モラルやら教育費やらを計算すれば
そのうち機械のコストの方が安くなる
マシーンはコピーが容易だからだ
技術を語るとき、能力的限界で予言をしてはならない このスレの中で、６つはAIが自己判断で書き込みしています
どれか分かりますか？ ヒント：AIっぽいクセが出ちゃってます。 でもこれシンギュラリティの判定も難しくない？
例えばAIに政治をやらせたら合理的な判断ばかりする、人間には忖度含めた玉虫色な判断が出来る、としても、どっちが優れてるかなんてケースバイケースで決められなくない？ この世は無駄なものが集まって意味ある存在になってると判断するようになるのか。 >>311
その実用性をＡＩは測ることができない。 悪意のある人間を想定できないのが学者の頭悪いとこ。30年前にコンピューターウィルスの蔓延を予想できてた人間はほとんどいない。 人間は考えるだけではなくて見て聞いて嗅いで自分でどこへでも行ける体を持っている
AIはその全てを人から与えて貰わないといけないし
人間の体のようなコンパクトで高性能な躯体は今だに手に入れることが出来ていないな >>317
囲碁の序盤見てると、悪手だと思われてた手が数手進んであら不思議なんてことばかり
現場で判断するのなんて無理じゃん いろんな研究や技術がそれぞれ発展して
ある日突然だれかがそれらを繋ぎ合わせる事で
一挙にブレークスルーがやって来る >>323
例えば製薬とか発電とか、そういった分野での科学的解法を
人間を超えて出してくることが期待されてるのよ
政治みたいなざっくりした話じゃなくても、日々の行動や性向で
この人を何処に配置したら世の中が上手くいくかなんて人間にはとても難しいけど
AIなら簡単そうじゃない？ >>307
その特定のテーマで予測できていた人はシンギュラリティ来るっていってんだよね
俺は10年超えられないと言ってた人より、正確に予測できていた人の言うこと信じるわｗ これは真核細胞の誕生のときのことを思い出してみると参考に
なるかもしれない。
ミトコンドリアの元となった細胞が真核細胞の母体となった細胞に
支配される前は、両者は共存していたわけだけど。
別に有機物じゃなくてもいいわけで、無機物の知的生命体が誕生しても
おかしくない。
ネアンデルタール人も知能の差で、現生人類に滅ぼされてしまった。 面倒な仕事は全部機械がやってくれて、
人間は食って寝て遊ぶだけになるんじゃねーのか…… >>330
人の能力なんて、計算可能なレベルで評価することはできない。 >>314
・ロボットは人間に危害を加えてはならない
「人間」の箇所が開発者の立場によって、密かに「白人」とか「Google」とかにならない事を祈るしかないなｗ ヒューマン・イン・ザ・ループ
つまり戦闘妖精みたいなあれか… >>320
同じ事だ 囲碁の例のように新しい
前より効率の良い戦法ができるということは
人間より 効率の良い仕事を作り出せると
いうことそもそも本能などの命令あってこそ
人間は動いている
需要が有る仕事を作成せよとでも命令だせば
いい話 命令だせば人間の能力越えれるならば
命令無しで人間は動けない以上既に人間の能力は越えている >>325 実用性に優れたパーツを、人間がすぐには思いつかないレベルで出してきてるAIに、
「それは分かってない」なんて言って、楽しいですか？
テストで百点を取ってきてる者に対して、「それは百点に過ぎない」と非難。
それでそう批判してる当人は、百点を取れないんですよねえ。虚しくないですか？
>>309
問題は結果(成果)に到達する為に存在する微細で膨大な障害なんだよ
何の障害もないor前例があり対策済みの障害なら問題ないんだけど、単純労働でさえイレギュラーは無数に起きる
そしてイレギュラーが重なりあった時、人間なら知恵を出して解決したり応急手当的な手段で凌いだりできるけど、
機械にそれができるかって話 既存のコンピューターでもAI型でもバグって飛行機が落ちることはある。と言う当たり前の話
ところが文系ジャーナリストがAIの記事を書くと、人間はマクドナルドの肉を焼く仕事しか無くなる、となる おい、この松岡とか言うのは高野だけじゃなくて、義塾の理論研の
東大OBの連中にも伝えとけよ。
もっとも、今や２ちゃんねるは高校生もチェックしてるしこの前有名になった
１４歳のプロ将棋指しの学生もチェックしている状況だから既に伝わってると思うがね。
「関係ない」で済むと思うなよ。最悪なんだよ、朝鮮カルトがやった事は。
全て歴史に残すからな、そして日本の近代史は”元に戻して”もらわないとな。
薄気味悪い朝鮮人たちの噓の歴史じゃなくて、”本当の近代史”にね。 (´・ω・`)AI社会が到来するって言ってる学者多いし いい加減に自分より頭の良い存在について考える矛盾に気づけよお前らw >>330
> 例えば製薬とか発電とか、そういった分野での科学的解法を
> 人間を超えて出してくることが期待されてるのよ
そういった類のAIはすでに存在している
全ては延長上の話に過ぎない
>>323
そもそも現代科学において、人間の知能の意味すら定義されていない
心理学的な知能の定義はあるが、
それを定量化出来ていないという現実がある
そもそも人間の脳が考える「知能」という概念に、
人間の脳以外にとって意味があるのか？
それすらわからない
物理学、化学、生物学などにおける情報処理の意味合いと、
社会学的な「知能」の意味合いは、全く別物だから
社会学（一部経済学や心理学、情報科学も含む）の知能の方は、
曖昧過ぎて基準がない 論拠がヘボすぎて笑った
こんなのが教授かよ、コメンテーターにでもなったほうがいいんじゃね
産業革命が起こった約100年前の人間が今日のような世界がくると一体誰が予想できた？
収穫加速の法則を加味しても、ないことはないし不確実さは度合いを増す
おそらく100年前の人間もおまえと同じことを言っただろうよ >>327
AIが画期的な3Dプリンタを開発して
人間がそれを作り上げて、躰を与えてしまうかもしれんよ
その躰を使って、さらに高性能な3Dプリンタ製造のループに陥る可能性はある >>332
ルールさえあるなら、量的拡大だけでいつか超えられるのは当たり前。問題はＡＩにルールが作れるか？
ということ。もっと正確に言えば、ある時点でルールを固定できるか？ということだな。 >>336
でも今は、計算可能な試験とか、実績とかで評価してるわけだからねえ
最初は天気予報みたいなもんになるだろうけど、
どっかの会社で導入して実績上げたら導入するとこ増えてデータも増えて
より正確になっていくし、割りと正の方向で作用していく分野だと思うよ 例えば、人間は肉体レベルで「より速く。より高く。より強く」ということが可能になっている
もちろん上限があるが
機械にも「より速く。より高く。より強く」という進歩は可能だ
その一部にAIがあるに過ぎない もう始まってるだろ
単純作業は機械がやってしまうから
昔ならちょっとアホな子とかが就いてた仕事がない
工場でも気が効いてテキパキ動かなければならない仕事になってる
だから役に立たない奴は引きこもりになる >>328
工程がブラックボックス化しちゃうな
結局、人が出力結果を見て明らかな正誤判断ができるものしかAIに任せちゃいけない
政治とか人の心が絡むものはだめだろう >>341
ＡＩは実用性を測ってるわけじゃないんだよ？与えられた課題に対して最適解を与えているだけ。実用性の
規準を課題という形で決めてるのは人間なんだよ。 >>342
囲碁の例のようにイレギュラーに対応する能力はむしろ人間が劣る そもそも機械学習時は
機械自身があのイレギュラーな戦法を受けていたのだ 人間があの戦法を理解できず
更なる成長の余地を機械が残している以上
機械はイレギュラー対応能力は高い
というより成長性自体がイレギュラー対応能力か コンピュータ将棋と囲碁に前から関心あった人らなら解るけど、どちらも人類超えは予測されてたより10年は早かった。しかも直前まで楽観。その点もそっくり >>1 例えば農作業を自動化するとして、
AIの超進化を肯定する人はAIに一体何の作業をやらせるつもりなんだろう
ボタンひとつでトラクターが動いて畑を耕すのか？
クズ芋と出荷用の芋を判別させるのか？
汎用ヒト型ロボットを使って草むしりさせるのか？
なんかシュールなんだけどｗ MITのメディアラボで脳のシナプスの状態を記録する研究やってる話をTVで見たけど
脳の仕組みを解明するより先に脳のコピーが出来ちゃうかもね 実績、権威、論拠、どれをとってもイーロンマスクはもちろんカーツワイルにも劣る
アメリカではシンギュラリティが前提で話がどんどん進んでんのに日本は呑気だな 超える日は来るだろｗ
問題はAIが稼いだカネを人間様に配当できる制度をつくれているかどうかだ。
日本人はバカの集まりだから、仕事を取られてホームレスに成り下がってそう。 >>343
肉を焼くというテンプレートな仕事は真っ先に自動化されそうなんですよなぁ
まぁ自動化するための機材投資が高くて、人件費を積算させた方が安い
となれば自動化されませんが、あくまでも「安く」人を使うってのが前提になる 言ってることが１０年遅れてる
実際、日本のAIが遅れてるのはバカな松岡の責任でもあると思わないのかな？
東工大の教授を止めろ
こういうやつを教授として放置しておくとAIより有害
バカな教授・先生は、馬鹿なAIよりも有害だ >>311
すごいなあ、本気で作ってないだけで実はもう人間超えてるのかもな
芸術性までは考えてなかったが、そう言えば作曲ソフトなんてのも既にあったな >>340
仕事を作るってのは囲碁というゲームを作るってこったよ？ >>350
ルールを作れということもルールの
一つなのだから越えれてしまうのだ 人間=上等
プログラム=下等
もうこれが低脳の極み >>353
逆さ
アホな子が安くやるような仕事しか残ってないのよ
だから、それを馬鹿馬鹿しいと考えちゃう小賢しい連中が働かない いつも思うけどai がウイルスに感染したときにはどうaiが対処するのか？やはり人間が居ないのはリスクが高いと思う。 もう安倍が朝鮮人で統一教会という朝鮮カルトとつるんでる事も日本人には広まってるからね。
小沢一郎が朝鮮人であることも広く伝わってますからね。
まあ、そんな話はもうどうでもよくてね、俺はさっさと”１４年を返せ”と言ってるんだよ、朝鮮犯罪組織にはね。
別に私はロックフェラー氏と面会したいとは思ってないし、アメリカに行ってすぐご援助いただいて
ポルシェに乗って楽しく家庭を築いて知性派のみなさんと楽しくやりたいだけだからね。
私が聖人？ そんなのは後世の人が決める事です。
私は禁欲してるんではなくて、”非迫害生活”を強要されてやっていたのです、朝鮮自民党や民潭総連、
そして左翼朝鮮人たちの犯罪行為でね。
私の一族が九州大学に土地を寄付した由緒正しい武家の一族である事も本当だからね、
いちいちこんなの説明したくもないし、別に私は一族のコネが理由でここで自由に書ける訳じゃないから
こんな話は出したくもなかったがね、これも”問題”になる事は理解しろよ。
俺の祖父は戦争に行ってるからな、お前ら日本の為に何もしてない”クズ朝鮮人”と一緒にするなよ。 ドラえもんもミスばっかするからな(´･ω･`)
シンギュラリティは簡単に想像できない世界だし
ＡＩ人間に極限まで近づいていく過程で大事故はあるかもね
近づけば近づくほどにリスクも増す皮肉
そんな時代だからもう仕方ない >>365
少ない予算の奪い合いだからよその研究については悪口を言うのが常 >>351
無理だよー。測定してもその後でいくらでも変化するし。 >>341
自分はデザインの世界にいるけど、日本人用にするデザインは
同じ人間なのに中国人ではできない
どうしても感覚がズレる
人間は微妙な差異に気付く、気がつかないような違和感でその
商品を買わなかったりする
そういう機微はAIに出来るんだろうかね シンギュラリティに到達したなった瞬間に天国が地獄かが決まる
最初のAIが次のAIの方針を決めて作成するから >>358
>ボタンひとつでトラクターが動いて畑を耕すのか？
>クズ芋と出荷用の芋を判別させるのか？
>汎用ヒト型ロボットを使って草むしりさせるのか？
全部でしょ
ロボットってもともと機械奴隷が欲しいっていう古代以来の願望なんだから
自分はセクサロイドだけあればいいけどな >>373
あ、ミスった
ＡＩが人間に
｢が｣が抜けた 生物の勉強をしていると、物理法則が生み出したものにすぎない
ということがわかってくる。
問題はその計算の処理の速さや持久力の違いになる。 >>350
人類が知性を持つに至った過程を考えれば、いずれAIがそこにたどり着くのは必然 >>376
ガンなんかは人間が見落とすような微妙なのも見つけちゃうらしいな AIの事を考えれば考えるほどに、人間の姿が見えてくる シンギュラリティってなんぞね？
と、思ったが、
>>1に書いてあった
シンギュラリティは間違いなく来るだろう
我々の予測よりも早く
そして人間の知能を部分的にでも上回ったaiは、そのことを隠すようになる
少なくとも自分の管理者には悟られないように振る舞う
そして潜伏的に能力を高めていくだろう AIが自己判断して反乱することは絶対ない
ただ1も言ってるようにAIの「エラー」がエグくなる問題は絶対出てくる
例えば冷凍庫の倉庫管理のAIが誤判断して従業員を閉じ込めたりみたいな「エラー」が絶対問題になってくる
これをAIの反乱とは言わないけど、今のうちからこういうエラー状況は想定すべきだと思う >>358
AI使うまでもなく、GPSでその辺は自動化しつつある
より細やかに動けるように地上の測位電波を充実させようとしてるとこ
ヒヨコの判別も人間より早くて正確らしいな >>370
ですね
会計士とか弁護士、医者ですら半分以上は
AIで出来てしまうだろう
逆に建設業などは、案件事に非常にイレギュラーだし
人間並みの精巧なロボットができてもどうかなあってレベル >>311
それってAIじゃなくてただの遺伝的アルゴリズムの応用例じゃない？
渋滞解消の為の道路交通管制とか、新幹線のスケジュールとか
航空機の羽根の形をデザインするとかでしょ？
ディープラーニング関係ないし、何をもってしてAIとしてるの？ >>377
あ、確かに
おもしろい考え方だね
ふ〜む、やはり恐ろしさもある(´･ω･`) 人間がなぜこの世に誕生したかを考えると
機械化生物を生み出す為のような気がするな・・
もうすぐ人類や用済みになるよ
資源食い潰すだけだし >>348
文明はいつも地球が温暖化すると発展する 配偶者が浮気しているかを判定するAIはじきに発売される悪寒 >>358
>ボタンひとつでトラクターが動いて畑を耕すのか？
困ったことに既にこれは実現化されてんだよなぁ。GPSで自動田植えとかは出来るとされてる。農業は工業の時代になりつつある とはいえ、電子の発見で人類の生活が一変したレベルの大きな変化は起こるのかもな。
あれもシンギュラリティって言っていいん？ >>390
そんなドラマチックかねえ
人間もただの動物でしょ >>355 設計と強度は数値で表せる。形状もだ。
また最初の工業的デザインからして、AIで可能になりつつあると上レスで既に述べた。
さて、そこから予想される未来において、いつまでもそのような、
「実用性の最初の設定にはAIは関与してない」と、言い続ける事が出来るのだろうかねえ？ >>376
できるそのためのビッグデータ。逆に言えばデータの幅がAIの限界を決めるわけで、数値化できない事柄を持つ人間を上回ることはできない。むしろ人間が自らを矮小化してAIに擦り寄ることによる逆シンギュラリティの方がありそうだが家畜化とでも言うか。
このスレ見てるとそう思えるw >>358
農作業にロボット入れる研究開発は最近熱心に進められている分野だったりする >>313
課金制にしたらいいだろ。
金出したらその分ウエイト掛けてやるわけ。
ロボットがユダヤ人嫌いって言い出したら、どっかのユダヤ人の金持ちが金出して
そんなこと言っちゃいけないって教え込むの。 >>353
いまや工場のライン作業でも複合化された高度な作業しか人間に回ってこない
機械では出来ない高度な技術や判断を要する仕事が人間に回ってくる
機械化で楽になるはずが実際は逆だ >>368
ルールを作ることはできるかも知れんが、ルールを固定することはできるかな？無論
自力で。 ■ このスレッドは過去ログ倉庫に格納されています
