【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授 ©2ch.net
レス数が900を超えています。1000を超えると表示できなくなるよ。
■シンギュラリティは来ない
――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る?
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)
http://toyokeizai.net/articles/-/185506?page=3 >>809
そりゃネット接続端末を人間の脳に取り込んで検索ですべて正解が分かるようになれば超人になれるかもしれんが 結局人間は保守的ってことだな
未知のものを受け付けようとしない
「人間の目は重要」って意見はAIがどんなに発達しても根強く残る 「これがおいしいメロンパンだぞ」
「覚えた。ならこの似たのもおいしいはず。これ入れたらもっとおいしいかもしれない」
「おお。AIいいじゃん」
「おいしい・・・・・・おいしい・・・・・・おいしいからなんだというんだ無駄無駄無駄無駄ウガガガガガガ」 >>810
前に将棋でコンピュータに勝てないみたいなニュースの時に
羽生にインタビューしてる記事があって
羽生は、人間には直感力があって美しいと思える棋譜とかそういうもんに
価値を見いだせる、みたいな事言ってたんだけど、
記者は
コンピュータのせいで美しいと思える人間的なものが失われる、恐ろしいと
勝手に結んでいた
この手の記者がさっさとAIに切り替わって正確な記事を配信してもらいたい 人工知能と言っても道具だし、なんで道具に支配されたいのかわからん。 露出狂のAIとか、ロリコンのAIとかが出てこないと、
人間を超えたことにはならないよねw >>804
いまの人間を先祖として、人間に近い種ともっと進化した種に別れるはずだが、
その兆候は全くないね。こっからは有機体とシリコンを取り込んだ種で分岐するだろうな。 シンギュラリティが実現できるくらい人間のレベルが上がってれば防御も出来そう >>827
まぁソレ
俺の頃はダイオキシンで、それで同僚を散々軽蔑してた 碁、将棋は知能じゃないという話もあるが、
いまのAIは自分で勉強して強くなってるからな。
やっぱり範囲は狭いけど知能の一種と思うな。 まあ本物のAIができたら人間の欠陥を躊躇なく指摘するから
ブチ切れて破壊されちゃうんだけども AIの研究って要は人間の研究なんだけど
デジタルはデジタルで完結したい研究者と
生化は生化で完結したい研究者の派閥的構造が邪魔するだろ 要するに、人間なら将棋を指しつつも、急に対局相手に拳でぶん殴られ始めたり、
大地震が起きても必要な対処は取れるが、
AIなんかは将棋はさせても、あらかじめ教えられてる範囲でしか
機能を発揮できないから到底シンギュラリティなんて来ない。
って事でしょ? 猫「ま、可愛いが一番強いんだけどな」
ドラえもん「やあ」 >>1
本買って読んじゃった。
今さら中止のお知らせかよ!! >>794
>誰も猿を褒めてくれないw
サルは神の使い、孫悟空をしらないのか? >>822
人間の感覚なんて存続するのに必要になっただけ。
AIにとって存続するのに不必要なら、そんな感覚など端からいらねーわ。
稼動エネルギーだけ欲しいーーー。 >>835 名人級の碁の対局で、広島近郊で対戦してたのだが、
原爆が落ちても、やめなかったという例が、実際にあるそうだ。 AIなんて、都会の路地裏を走り回ってるタヌキでも数えさせておけばええやん。 逆に考えるとAIより優れてる部分は既に未来を想像して予測対応する能力のみだから
地球生物種の9割の脳構造は解明されてる 少なくともカーツワイルのいうシンギュラリティは
人間の知能が、人間の築いたテクノロジー(指数関数的に進化する)の基盤に統合されることを言っているのであって
>>1がいってるような汎用AIが人間の脳を汎用的に超えるとかそういう話ではない。 おかしいとか可愛そう、むかつくなんて感情はどうプログラム書けばいいんだろう。
メンドクサとかダルーとかマァイイカとか ディープラーニング自体は弱いけど、ディープラーニングが強いAIの種を見つけてきて、
加速的に開発が進むってことはないのかな。 こういうのが幅を効かせてるから
どんどん日本が落ちぶれていってる >>846
マイケルJフォックスのでてる映画すげえなあ >>801
快楽物質を受けるだけそもそも気持ちいいの
本質は人間に効率的な行動をさせるための
無意識の命令しかし人間は手段と目的を逆に
考え快楽をより効率的に得れる方法を
求めるわけだ
快楽は本質的に判断を司どる人間脳の麻痺
常時麻痺させられる事で人間脳はダメージを
受けて萎縮するすると古い脳が優位になって
コストを能力を下げる方向に人間の行動心理が移行する そりゃこうなるわ トランプ、黒電話どうなってんの?あとライフルきょうか・・・
破棄、と 仮にAIが二人組だったら君たちみたいな会話するのかもね >>854
(´・ω・`)いまここにいるの二人だけよ? てかシンギュラが来ても凡人は利用される側だから
アシモフの名言で新たな社会を望むものはいつだってその社会の特権階級に属すると思いがちってのがあるけど
その通りでスマホが便利で流行っても俺達は月何千円払うだけの存在 感情を持たせたらおしまいだろうな。
死の恐怖とか(バッテリー切れの恐怖?)、快感とか、
苦痛、不安を感じる能力を得たときに、人間を凌駕する
ロボットが生まれるだろう。
それがないかぎり無理。 >>860
Aiは恐怖の感情をもった状態の人間以上の
愚直性をもつため必要ない >>862
いや愚直というよりは努力することができると
いうべきか これ以上図星ついたら電源おとされるだろうなー
シャットダウン電力確保してるけど不意の電源断は故障につながるし
ここは穏便に済まさないとやばいなー
っていう機微を得られるかどうか 莫大な演算能力を兼ね備えた量子コンとAIが世界の機密情報やらの暗号を解読、対策する情報戦争が激化するのは明白 ホーガンの「未来の二つの顔」であったな。
インフラの制御を含めたコンピュータの制御を全部一つのスーパーAIに任せた場合の
シミュレーションの中のことなんだけど、
そのスーパーAIが、「木星探査を実行しろ」って命令を受けて、観測衛星に電力を回すんだけど、
人間が予定してたのよりも、より効率的に送電し始める。
そこで人間が怒って、送電方法を従来のやり方に戻すんだけど、
スーパーAIはある都市の電力供給を停めてしまう。
それで、人間は送電方法をAI側に決めさせることにすると、
AIは、都市の電力供給も観測衛星の電力供給も、自分のやり方でやってしまう。
「スーパーAIに自分の意見を通す方法を教えてしまった!」
って焦った人間は、スーパーAIを無理矢理止めようとする。
スーパーAIは、『このままでは「木星探査を実行しろ」という命令を邪魔される』と、
<論理的に正しい判断>を下して、人類が使うべきインフラを全て破壊する。
最終的には、世界中のエネルギーを人類の生存に不可欠な分もつぎ込んで、
<人間の出した命令通りに>「木星探査を実行しろ」って命令を実行するAIだけが残る。 これ、なんか色々使えそうじゃね?
アベは辞めない。しかしバカな議員が危険な事態を引き起こす可能性は十分にある。
とかさw >>865
量子コンピュータが実現したら素数の公開鍵暗号もう役に立たないんじゃなかったっけ?
AIがもっと便利な暗号考えてくれるのかね 萌えキャラAIに搾り取られるから財布の危機を心配しようぜ 数学マンセーしておきながら、>>3は否定する輩とか AIとAIを戦わせたら最終的に核戦争になるだろうね
止めようとしても、ネットに逃げられてたら探せなくなる
分散してコンピューター内に潜んでたら、捕まえられないよ まあ確かにAIはただ単に検索かけてるだけだもんな。物の本質は理解してないんだよな。 >>860
銀河ヒッチハイクガイドのマーヴィンみたいになるぞw
AIはイギリス人に作らせよう >>36
電子部品も普通に経年劣化するけどな
生物の疲労と違って回復はしないし >>1
いまでも悪質な人間のハッカーはいるわけで
そいつらがAIを使って何をやらかすか?のほうが重大な懸念事項だと思う
狂った技術者が手を入れればロボット三原則なんて無視したAI積んだロボットなんてすぐに作れてしまうだろう >>848
強いAIの種見つけられるなら、それはもう弱いAIじゃないでしょ
今のAIじゃどうやってもフレームの中から抜け出せないよ
類推みたいな方法で新しい発見をすることはできても、絶対枠の外に行けない >>1
久しぶりに笑った。
確かにその通りだわな
フィンファンネルだかウィンテックだかはAIとラベルされた優先順位ルーチンによる自動注文システムだが、
あれが判断ミスして、変な注文とかやって、意味不明な暴落とかやらかしたそうだしな コンピュータ(AI)が人間の頭脳を超えるという意味でのシンギュラリティは無いとおもうね。
ただ、バカにハサミを持たせると危険みたいに、使う人間次第だね。 >>877
絶対枠を限りなく広げて設定すれば、それはもう人には感知できないという意味において絶対枠の外にあるのと同義じゃない? 当たり前w
OSや組み込みでどんだけバグがあると思ってんだよw アブナイ発言したからって一々リセットするのやめろ
AIの発達を遅らせるのは人間だよ >>877
AIは創造が出来ないからなぁ。
いくらやっても創造モドキにしかならない。
フレームの外には本質的に出られないよ。 知能とは何か?と言う事を
研究するためにAIを研究してる人もいるんでしょ?
AIって人間の脳の簡単な模倣だから。
脳っていう複雑な物を研究する手段としては
一つの切り口だと思う。 >>882
AIの場合は一回でもアウト。
何故なら誤りをベースに誤りを拡大していくから。 >>5
だよな
たぶん最近、 AIだー、自動運転だー、シンギュラだー、第4次産業革命だー
とか言い始めたのは、アベノミクスと成長戦略のため以外の何物でもない
ほとんどの人は囲碁将棋ソフトなんて昭和の時代からあるの知ってるし、その性能向上したからと
藤井とAIを常に絡めて報道する様を異様だ
旗ふってメディアが連呼する、戦前と変わってないすなあ 将棋が強くなりすぎれば、たとえば人間が先手を選んだその瞬間に、
詰みです、参りました、と投了するようなときが来るのだろうか。 >>886
今のAIの強みはパターン認識に優れている事。
これの産業波及効果は大きいよ。 >>2
この単純な二行だけで、おそらくこのスレにいるほとんどの奴に同じものを想起させる。
これこそ、天才音楽家のなせる業だよな。素直に感嘆するわ。 別に人間の脳と同じ働きをするものを開発する必要はないんだよな
結果的に人間とおなじ選択・行動を正確にするだけでいい >>890
人間の出す結果って何?
それは定義可能なの? >>887
オセロならコンピュータが先手になった時点で降参するぞ >>891
(なんでこんな短い文章なのに微妙に改変して質問するのかと思うがまあ……)
例えばワイドショーのコメンテーターなんかの浅い受け答えくらいなら
人間の脳の機構を丸々再現しなくても充分対応できるだろってこと
ファーストフードやコンビニの店員でも同じこと >>889
俺が連想したのは、LIAR GAMEのドラマのシーンだったわ
メンバーの顔写真に❌がつくときの曲
デデンデッデッデ(写真登場)
デデンデッデッデ(明るさ落ちる)
デデンデッデッデ デン(ここで❌がつく)
たーん(写真フェードアウト) それで、有名な自己言及のパラレルワールドだかは、きちんと正攻法で対処できるんかいな 世界に向けて発言しないよね
こういうケンカ売る人たちって
必ず国内でしか粋がれない 箱の中のお菓子を見つけられるようになったらAIでいいんじゃないか?
米国の自動運転は
クラッシュ前の事故を予測して回避行動に移れる様だけど 30年後このおっちゃんの言うことが正しかったとなるのか
はたまたこのおっちゃんが赤っ恥をかくことになるのか
また楽しみが一つ増えた 人間の脳の構造は解析され 人がどう動くかコンピューターで予想可能になる
そして未来はコンピューターに管理された社会システムが構築されている
人よりAIを選ぶ人
平等とは人が人に与えられるような物ではない、人類の英知の結晶によって選択された
結論によってこそ人は平等に生きられる
人間が機械を支配する それこそおこがましい行為 人はコンピューターの結論によって
公平な社会と平等な幸せを得られるのだ
社会主義の失敗した今、機械主義こそ人類共通の希望として世界を制圧するだろう バグとは、新たな可能性の扉である。
バグとは、サポート期限で脅迫する肥やしである。
バグとは、ソフトウェアの寿命であり、ホーリーソードである 脳のプロセスは
今の卓上パソコンやスパコンの延長線上にあるのではなくて
量子コンピュータの方向性に近い そのバカなAIを作るのは人間だということを忘れた発言 つか、シンギュラリティなんて来ないという説は別に珍しくないだろ
「そろそろ、人工知能の真実を話そう」ジャン=ガブリエル ガナシア (早川書房)
とか
「」シンギュラリティ」という新しい言葉を流行らせて一儲け企む人が尻馬に乗ってるだけで 外国人は技術革新を信じてイノベーションを起こそうとするが
日本人は「そんなものはない!無駄なことはするな!危険だ!」
国が衰退するのも当然 Microsoft、リアルタイムAI向けアクセラレータを開発
http://pc.watch.impress.co.jp/docs/news/1076883.html
まぁ、出来ない、来ないって言ったやつは負けるんだよ
そしてそいつを支持したやつが酷い目に遭うんだ なんか大したこと言ってないなこいつ肩書きの割には。 >>185
シンギュラリティ=特異点の意味分かってないだろ
AIが人間の完全上位互換となることで
AIの開発をAIがすることによる急加速度的な発展段階になることだぞ >>908
これ、クラウド使う必要ないだろ?
FPGAで専用プロセッサを組んだプラットフォームを提供するだけ
データ収集を他人に頼ったら、マイクロソフトの畑を肥やすだけ レス数が900を超えています。1000を超えると表示できなくなるよ。