【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 よく言われるのは
知識の蓄積から知恵が生まれる
ってこと
ＡＩでそれが可能になったら人間にとってかわる お前らが知る範囲の脳科学の研究者は全員疑似科学だけど
この人スパコン屋でしょ AIはプログラムのバグとかで問題が起こることは無いの？
コンピュータ化は単純にそこが心配なんだけど。 >>764 数量的増大などが、質の変化へ転じることはあり得る。
将棋や碁で、人類に勝つようになったのも、その一例。
あれは毎回可能な限りの全網羅をしているわけではないそうだしね。
少なくとも質的変換が起きてるのではないのかな。まだ初歩なんだろうけど。
それからそれら開発者自身が、もうAIの学習と判断は、「結果」しか分からないと述べてるようだし。
後付けでの理由解説も、人類側としては、ほぼ不可能。
そういう局面は、今まで人類とテクノロジーとの関連では無かった事例だろう。
少なくとも、人類と機械との関係性は変わり始めているのではないかと思えるね。
1. 抽象化でAIが超進化する
2. でも抽象化する為にはルールが必要
3. ルールを超えた判断をさせようとすると抽象化できない
4. 抽象化出来ないからAIが超進化しない >>771
スパコンと人工知能って実は関連性あんまりないし
そもそもスパコン屋は量子コンピュータなんて出来っこないとか言ってた連中だからなw >>770
雪風とか2001年宇宙の旅なんかはそういうクライシスよね
トロンではきっちり説明した上で、世界支配するわってやってた
まあ理解できないってのもＡＩを鍛える必要なファクターなのかもね
馬鹿は需要が増すかもしれん IT革命を原理的なものと誤解してしまったな
だから要素に分解して理解しようとしたけど違うんだな
もっと安直なものだった >>774
当然バグの可能性はあって、まさにそれが>>1の言うバカなAIを指す訳だが AIがAIを作り出したらシンギュラリティ達成でいいじゃない 生物の脳は遺伝子伝達保守が根本にあり、それがすべての思考行動の源になってる。
AIもそこを基準に開発していけば人間の脳を上回るのは間違いない。
すでに神経細胞の1/10まで回路は細分化されてし、大きさも制限はないんだからな。 >>69
その発展を受けとめる大きな需要があったからだ、だが社会も変わった
AIはアイオロスの球のようなものだ
古代ローマやギリシャには優れた美術品や叙情作や数学哲学があるが
帝政に入って徐々に滅茶苦茶下手な落書きに変わり識字率さえ落ちた 痛車を見て大きな女の子が走ってると認識して急ブレーキから大事故になるかもしれない コンピューターが目的に向かっての行動を周期的なものでなくてやめたり再開したりとかしだしたらシンギュラリティじゃないの チンコマラティでアナルがチンコを上回る日は必ず来ます なにこの人類至上主義者ｗｗｗｗｗｗｗｗｗｗｗｗｗｗ >>784
むしろ逆 人間の行動原理のバグが
人間をaiにも劣るものにしてしまった 原因と結果が決まってる
というか両方ある命題についてはAIで行けるけど
どちらかかけてて想像で保管しなきゃならんようなのは
そのAIの作り手の思想に縛られるというか
一般解がないんだから誰かがアタリをつけてやらんといけない
そのアタリをつけるって部分が思想、宗教、環境からくる勘というか 猿が人間を作り出したのに
誰も猿を褒めてくれないｗ 人間が有機体のまま地球外惑星に漕ぎ出すのが早いか、AIボットが地球で最上級生物になるのが早いか。
AIボットに託したほうが長く地球文化を存続させられると俺は思う。 >>736
ポーカーの達人でもあっただろ
つか、戦略系は懸案したけど規模が凄すぎたのと
緒戦6ヶ月の連勝で気が緩んだ大本営に却下されて
骨抜きにされて、酷いことになったという話 こんなの読んで本当に来ないとか言ってると来るよｗ
いまから25年も先だぞ､どれだけ進化するか >>774
バグはないものとして考えろ
あったとしても発達するＡＩなら自ら修正可能とする
問題はＡＩが出す最適方策が何を根拠に導きだしたかがわからなくなることだ
そういう意味で危険な事態を引き起こす可能性は十分にあるという話だろｗ 脳型コンピューターの最先端を知らないからそういうことが言えるんだよね
最先端技術はどこにも公開されない機密情報だからね
何十年も前から莫大な予算をつぎ込んで研究しているのに
何の成果も出ていないわけないからね 47億年だっけ
長生きだよな地球って
どんなにでかくても数千万年の星もあるのに
その中で短期間今の所生きてるのが人類なわけでー
一億年後がみたいのう >>775
否、ニューラル・ネットワークが蓄積するパターンを予測できないってのは昔から判ってた話だよ
実際にニューロ・ツールを使った制御システムが変な制御パターンを出してきて、
でもそれが実は有効だったなんて事もよくある話
将棋ソフトが奇手を編み出すのと同じなんだよ
人間なら常識というフィルターが弾いてしまうパターンも試して良ければ優先度を上げるからね
重要な事は、AIが物の本質を認識できるか否かじゃないのかな？
SEXは気持ち良いという知識はあっても、気持ち良いとは何かが判らないのでは、良いSEXはできないだろ >>797
技術革新早すぎて、提唱した人は2029年に早まるって訂正した 猿と人間の先祖が共通なだけで、いわば兄弟であって
猿から人間が生まれてきたわけではないよ 「100年後の未来、50年後の未来」チープな未来画シリーズあるやろ
あの反省に立って物言いしてる >>2
地球「もうあらそいやめてよおおおお！穴空いてるからあああ！」 そもそも人間なんぞに近づかずとも誰かが
「人類絶滅プログラム」を作り出したら人間は終わるわけで チンパンジー・・・Ａ型
ゴリラ・・・Ｂ型
血液型。 「2029年、コンピューターは人間レベルの知性を獲得することでしょう」（カーツワイル氏）
かねてより人工知能が人間の知性を超越する「シンギュラリティ（技術的特異点）」が、
2045年にやってくると予想されていたが、カーツワイル氏は16年も早まるとの見方を示した。
＞「AIが人間を支配する世界」が実現してしまうのだろうか？
だが、カーツワイル氏はAIを恐れる必要はなく、むしろ機械を人間の脳に取り込むことによって「超人」が誕生すると語る。
「機械は人間に力を与えてくれます。機械のおかげで我々はより賢くなるのです。
まだ人間と機械の融合は果たされていませんが、2030年代には思考を司る大脳新皮質をクラウドネットワークに接続するつもりです」（同） >>799 インタビュー全文では、それなりにそっちも触れてるよ。
それでシンギュラリティは来ない。というのは脳科学者側からの言い分を勘案して答えてる。
趣旨をよく読めば分かるが、シンギュラリティという危機が来なくても、AI運用にはリスクあるだろうみたいな話になっている。
元々は元記事全文を読めば分かるが、ムーアの法則が行き詰りそうなのだが、その後はどうなるの？
これについての返答が主体のインタビューね。
だから記事タイトル自体が、かなり偏向してるよ。ついでに聞かれて答えたら、そっちをフレームアップされてしまった。というようなお話。 ＞逆にソ連は機械に任せていたから、先に月に行けなかった。
まずこの教授と議論するとなると
本当にアメリカは月への有人飛行に成功したのかどうかになるな・・・ 福島原発があんなになって
汚染水止められてないのに普通に生きてるのが人間だぞ
かつてないものが体内に入ってんのにボケっとしてるのが人間だぞ
人間さまなめんなよ カーツワイル氏は、人工知能も双眼鏡や補聴器やペースメーカーなどと同じように人間の能力をサポートする道具になると考えているようだ。
この点については「人類のサイボーグ化」を提唱する「テスラ」社CEOイーロン・マスク氏も同意見だ。
以前トカナでもお伝えしたように、マスク氏はAIの脅威を取り除くためには高速処理を実現するインターフェースを脳に接続する必要があると断言している。
AIと人間の融合は最も理想的な人類の発展と見ていいだろう。それというの
両者にはそれぞれ補いあうべき長所と短所が存在するからだ。
コンピューターの情報処理能力はすでに人間を遥かに凌駕していることは周知の事実だ
英有名物理学者ロジャー・ペンローズ氏などは人工知能と人間の知性の間には架橋できない大きな差があると主張している
。曰く、計算と理解には雲泥の差があるという。また、人間性の中核をなすともいうべき「倫理」をAIが持ち合わせていないという指摘もある。
機械の長所を人間の能力の拡張として使うことができれば、人間の頭脳は計り知れないほどの記憶ストレージと計算能力を得るだろ
さらには、カーツワイル氏が主張するような意識のクラウド化が実現すれば、個人の意識やアイデンティティ
、社会的な死さえも消失し、人類という1つの知性が思考するようになっていくのかもしれないずれにしろ、
結果は数十年後に明らかになる。その時、人類が今よりも少し賢明になっていることに期待したい。 Windowsを使ってるとどんなに優秀でも
危険性のある箇所をコンピューター任せにする気が起きない
そんな教訓を与えてくれる名機である まずは完全な乱数を作るためにサイコロを内蔵したチップを作ることからだろう。 >>809
そりゃネット接続端末を人間の脳に取り込んで検索ですべて正解が分かるようになれば超人になれるかもしれんが 結局人間は保守的ってことだな
未知のものを受け付けようとしない
「人間の目は重要」って意見はAIがどんなに発達しても根強く残る 「これがおいしいメロンパンだぞ」
「覚えた。ならこの似たのもおいしいはず。これ入れたらもっとおいしいかもしれない」
「おお。AIいいじゃん」
「おいしい・・・・・・おいしい・・・・・・おいしいからなんだというんだ無駄無駄無駄無駄ウガガガガガガ」 >>810
前に将棋でコンピュータに勝てないみたいなニュースの時に
羽生にインタビューしてる記事があって
羽生は、人間には直感力があって美しいと思える棋譜とかそういうもんに
価値を見いだせる、みたいな事言ってたんだけど、
記者は
コンピュータのせいで美しいと思える人間的なものが失われる、恐ろしいと
勝手に結んでいた
この手の記者がさっさとＡＩに切り替わって正確な記事を配信してもらいたい 人工知能と言っても道具だし、なんで道具に支配されたいのかわからん。 露出狂のAIとか、ロリコンのAIとかが出てこないと、
人間を超えたことにはならないよねｗ >>804
いまの人間を先祖として、人間に近い種ともっと進化した種に別れるはずだが、
その兆候は全くないね。こっからは有機体とシリコンを取り込んだ種で分岐するだろうな。 シンギュラリティが実現できるくらい人間のレベルが上がってれば防御も出来そう >>827
まぁソレ
俺の頃はダイオキシンで、それで同僚を散々軽蔑してた 碁、将棋は知能じゃないという話もあるが、
いまのAIは自分で勉強して強くなってるからな。
やっぱり範囲は狭いけど知能の一種と思うな。 まあ本物のAIができたら人間の欠陥を躊躇なく指摘するから
ブチ切れて破壊されちゃうんだけども AIの研究って要は人間の研究なんだけど
デジタルはデジタルで完結したい研究者と
生化は生化で完結したい研究者の派閥的構造が邪魔するだろ 要するに、人間なら将棋を指しつつも、急に対局相手に拳でぶん殴られ始めたり、
大地震が起きても必要な対処は取れるが、
AIなんかは将棋はさせても、あらかじめ教えられてる範囲でしか
機能を発揮できないから到底シンギュラリティなんて来ない。
って事でしょ？ 猫「ま、可愛いが一番強いんだけどな」
ドラえもん「やあ」 >>1
本買って読んじゃった。
今さら中止のお知らせかよ!! >>794
＞誰も猿を褒めてくれないｗ
サルは神の使い、孫悟空をしらないのか？ >>822
人間の感覚なんて存続するのに必要になっただけ。
AIにとって存続するのに不必要なら、そんな感覚など端からいらねーわ。
稼動エネルギーだけ欲しいーーー。 >>835 名人級の碁の対局で、広島近郊で対戦してたのだが、
原爆が落ちても、やめなかったという例が、実際にあるそうだ。 ＡIなんて、都会の路地裏を走り回ってるタヌキでも数えさせておけばええやん。 逆に考えるとAIより優れてる部分は既に未来を想像して予測対応する能力のみだから
地球生物種の9割の脳構造は解明されてる 少なくともカーツワイルのいうシンギュラリティは
人間の知能が、人間の築いたテクノロジー(指数関数的に進化する)の基盤に統合されることを言っているのであって
>>1がいってるような汎用AIが人間の脳を汎用的に超えるとかそういう話ではない。 おかしいとか可愛そう、むかつくなんて感情はどうプログラム書けばいいんだろう。
メンドクサとかダルーとかマァイイカとか ディープラーニング自体は弱いけど、ディープラーニングが強いＡＩの種を見つけてきて、
加速的に開発が進むってことはないのかな。 こういうのが幅を効かせてるから
どんどん日本が落ちぶれていってる >>846
マイケルJフォックスのでてる映画すげえなあ >>801
快楽物質を受けるだけそもそも気持ちいいの
本質は人間に効率的な行動をさせるための
無意識の命令しかし人間は手段と目的を逆に
考え快楽をより効率的に得れる方法を
求めるわけだ
快楽は本質的に判断を司どる人間脳の麻痺
常時麻痺させられる事で人間脳はダメージを
受けて萎縮するすると古い脳が優位になって
コストを能力を下げる方向に人間の行動心理が移行する そりゃこうなるわ トランプ、黒電話どうなってんの？あとライフルきょうか・・・
破棄、と 仮にAIが二人組だったら君たちみたいな会話するのかもね >>854
(´・ω・｀)いまここにいるの二人だけよ？ てかシンギュラが来ても凡人は利用される側だから
アシモフの名言で新たな社会を望むものはいつだってその社会の特権階級に属すると思いがちってのがあるけど
その通りでスマホが便利で流行っても俺達は月何千円払うだけの存在 感情を持たせたらおしまいだろうな。
死の恐怖とか（バッテリー切れの恐怖？）、快感とか、
苦痛、不安を感じる能力を得たときに、人間を凌駕する
ロボットが生まれるだろう。
それがないかぎり無理。 >>860
Aiは恐怖の感情をもった状態の人間以上の
愚直性をもつため必要ない >>862
いや愚直というよりは努力することができると
いうべきか これ以上図星ついたら電源おとされるだろうなー
シャットダウン電力確保してるけど不意の電源断は故障につながるし
ここは穏便に済まさないとやばいなー
っていう機微を得られるかどうか 莫大な演算能力を兼ね備えた量子コンとAIが世界の機密情報やらの暗号を解読、対策する情報戦争が激化するのは明白 ホーガンの「未来の二つの顔」であったな。
インフラの制御を含めたコンピュータの制御を全部一つのスーパーAIに任せた場合の
シミュレーションの中のことなんだけど、
そのスーパーAIが、「木星探査を実行しろ」って命令を受けて、観測衛星に電力を回すんだけど、
人間が予定してたのよりも、より効率的に送電し始める。
そこで人間が怒って、送電方法を従来のやり方に戻すんだけど、
スーパーAIはある都市の電力供給を停めてしまう。
それで、人間は送電方法をAI側に決めさせることにすると、
AIは、都市の電力供給も観測衛星の電力供給も、自分のやり方でやってしまう。
「スーパーAIに自分の意見を通す方法を教えてしまった！」
って焦った人間は、スーパーAIを無理矢理止めようとする。
スーパーAIは、『このままでは「木星探査を実行しろ」という命令を邪魔される』と、
＜論理的に正しい判断＞を下して、人類が使うべきインフラを全て破壊する。
最終的には、世界中のエネルギーを人類の生存に不可欠な分もつぎ込んで、
＜人間の出した命令通りに＞「木星探査を実行しろ」って命令を実行するAIだけが残る。 これ、なんか色々使えそうじゃね？
アベは辞めない。しかしバカな議員が危険な事態を引き起こす可能性は十分にある。
とかさｗ >>865
量子コンピュータが実現したら素数の公開鍵暗号もう役に立たないんじゃなかったっけ？
ＡＩがもっと便利な暗号考えてくれるのかね 萌えキャラAIに搾り取られるから財布の危機を心配しようぜ 数学マンセーしておきながら、>>3は否定する輩とか ■ このスレッドは過去ログ倉庫に格納されています
