【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>441
要は遺伝的アルゴリズム的手法でＡＩに学習を繰り返させていった果てに、人間のような
知能に至るか？ってのがシンギュラリティの問題だよな。人間の助手程度ならこれは当
たり前で。 30年前を考えれば30年後を予想するなんて無理無理 >>387 建設業などに関しては、
自動化や機械化するために、最初から根本的に設計し直すという可能性もあるかもね。
現代の建築の殆どは、１９３０年代までに確立した、近代建築の基礎デザインの範囲内なのだそうだ。
当然だが、才能あふれる最先端の建築家などは、そこからの脱却を常に本気で考えているわけ。
しかし新機軸は作れていない。
全てを自動機械などで作り出せる建築設計を確立すれば、それは新潮流として名前を残せそうだね。
３Dプリンター建築がチラホラ出てるが、あれはまだまだって感じだしね。もう少しは実際に住みやすく最適化して欲しいものだ。 >>453
生物として、脳を発達させる進化が悪手な可能性はあるね >>458
哲学は数学に近いよ
哲学者兼数学者って人は昔から多い
数学を突き詰めると哲学になる >>460
バイオとつながった時が分水嶺かな
誰よりも早く成功したいという欲に男は勝てないんじゃないかな >>453
恐竜は現在でも残っていて
俺らがよく見かける普通の鳥が恐竜そのものだというのが最新理論らしいぞ 専門家ほどAIには否定的なんだよなあ
なんか夢がなくなるわ まあとにかくAIなんてものは実体験のない情報通みたいなもんだから
耳年増みたいなもんで、現場を知らないやつに仕事なんか任せられんわ >>424>>427
いやいやAIに夢見すぎでしょｗ
いくら機械的問題やコストや人間の経営判断やらの問題があっても
「それでもAIならきっと完璧にやってくれる」でワイルドカード扱いじゃ議論にならないじゃん >>466
脳はスゴイと言うより、ＡＩと作動原理が違って、しかもそれがわかってないってことね。 >>464
石森章太郎のイメージで育ってるやつが多いから
作者は理解していても、読者が理解できないから
わざと曖昧な作品を生み出してた可能性が高いけれど 人間を超えたAIができて反乱が起きるより前に
人間に近いAIの労働力ができて上級国民がコントロールしづらい下層民を一層するっていう
イベントが起きそうな気がするんだよなぁ 脳に水が溜まる病気で拳大の脳しかないのに気づかないで普通に生きてた人がたくさんいるし学者まで居た
カラスも脳容量は小さいのに知能は高い
シンプルであるが故に有利なこともある
囲碁がそうであったように
脳の全部を模倣する必要なんて無い
スマホだって計算や特化した能力に関してすでに人間の脳より高度なのだから
ニューロコンピューターがそういうのを人間よりうまく使って人間と同じ仕事で人以上の成果を上げる日は
むしろもっと近いはず >>443
数字の並びは無限だけど並び方までは無制限なのかしら？
ある範囲に収まっていないのかな、その辺の研究している人っていないの >>482
人を駒としてしかみなさないなら上級がAIの方が有能だろうね スーパーAIさんへの始めの質問は「無は有るのか」かな。 >>476
専門家は現実のＡＩが何やってるか、よく知ってるからね。 >>467
いやいやいや遺伝的アルゴリズム使ったくらいで人間の知能に至る訳ないじゃん
コンビニ弁当作る工場で生命体が産まれちゃったくらいの話やでそれｗ そんな複雑なこと良いから、ネットから俺の好きな曲を探してきて俺好みのメドレーにしろ
っていうのをやって欲しいんだよ、高度が技術に期待するのは庶民的なことだ >>478
技術的に可能なのと普及するかってのは別な問題だからな
そんでも普及の方向に現在研究と開発が行われているのは実際のとこ
AIに夢見すぎというか、シンギュラリティってのは人知を超えるって事だからねえ
んで、2030〜45年ぐらいにそれが起こるのかってのが今の議論
そんなに近い未来には起こらないって人は結構いるかもしれないけど、
その先にも起こらないって人は少ないと思う >>468
30年前の人間に国際テレビ電話が無料でかけ放題になると言ったらキチガイ扱いされる >>422
AIの研究開発をどこかの時点で間に合う内に凍結するか、強力な規制を施さない限り人間を超えるわけだよな
そうすると人間なんて邪魔なだけだから排除する
↓
人間の為の商品開発なんてしない
人間の規制や干渉が強大であればあるほど、本当の意味(自立/自律的な？)でのAIとは言えず所謂ロボットとか自動ナントカ機みたいなモノじゃないのかな >>482
種の揺らぎが失われて、絶滅しやすくなるってことぐらい
指導者クラスの人間は理解しているだろう >>478
出来ないと思う根拠はなんだい(´･ω･｀)？
いままで出来て無いから？
海外の酪農なんて凄まじく自動化が進んでるケースもあるぜ 完璧な自動翻訳はAIを駆使しても絶対不可能って
数学者が書いてたな
まあそりゃそうだよな 人間が完璧なお手本示せないんだから
AIも学習のしようがない
簡単な定型会話だけ SBがカスタマーサービスの自動応答でAI使いやがって
全く話にならないからやめろってのw 人の思考よりも複雑で合理的な答えを出すAIが現れるのはもうすぐだろ
怖いのはその出した答えに対して人間は検証もできずに従うしかないこと 確実に言えるのはこれからの30年で想像を絶する変化がやってくること
技術的にも社会的にも20世紀すべてより激しい変化がやってくる
もはや人が人らしく生きるのが難しい世界だ >>475
その恐竜は極一部がなんとか適応して生き残っただけだよ
恐竜でもいろんな種類があって、殆どが滅んだ
だから人間ももしかしたら滅びの道だけど、例えば
自閉症系とか染色体異常系など障碍者とよばれていた人が
生き残って繋いでいくとかあるかもね 歩きスマホをやめさせるんじゃなくて、スマホの画面内に進行方向の映像を映す技術はないのか
もうその方が安全な気がしてきた、流れに逆らうより棹さす方が良いよね 人の足の動きを再現する遥か前の段階で
歩行とは全く別のアプローチで人間よりはるかに速い機械を生み出すことに人類は成功している
航空機は鳥の模倣から始まったが、オーニソプターという幻影を追わなくなった瞬間
鳥より速い機械を作り出すことに成功した
人間の脳の模倣とは全く別アプローチから
人間を超える超知能は出現するだろう >>490
AI 「null pointer exception」 >>490
有と無は同質であり、この世界そのものが有であり無であると答えられて絶望する 専門家ほどあてにならないものはないよ
今まで何十年も作れなかったんだから >>509
変な歩き方させると宮崎駿に激怒されるぞ(´･ω･｀) >>504
AI「人間の98%は無駄だ。殺せ」
人間「はい...」 >>478 それ以前に、人間が完璧にやれてないわけだが。農業においてもね。
だから人間のその業務遂行と結果の数値を上回る、もっと言うと、その労賃を引いたコスト以上の成果となれば、AI管理は進むだろうね。
気象衛星情報や、低高度衛星からの農地データを入手して処理判断する。
その部分のみでも、農業でのAI活用は進むと予想されてるようだよ。
人間がそのデータを見た方が早いと思う？
画像打ち出しする以前の生データからそれらをAIは判断するので、
どう考えても、AIの方が早いということになるね。
それに関しての知見は、個人の人間以上に、比較にならないほど多く蓄積していくわけだしね。
そして、それら衛星データ商売は、もうスタートアップしてるようだ。 AIがさらに優れたAIを作りさらに優れたAIを作るようになると
もう人間には理解できないんじゃないか？
それをシンギュラリティと言うのかと思ってたが >>371
>いつも思うけどai がウイルスに感染したときにはどうaiが対処するのか？
技術者「スカイネットに接続しましょう、そうすればウィルスなぞたちまちスカイネットが駆除してくれますよ」 生きることの意味を人間自体が理解してないから教えるの難しいやろな 30年も先の話を見てきたかのように語る奴はだいたいアウト
来る派も来ない派も、根拠レスという点では五十歩百歩 出来ない事を話し合ってもツマランよね(´-ω-｀) >>496
悪の凡庸さってやつね
ここで陣取りするなら5000人殺してイけますとか
なんとか氏を潰せば資産を乗っ取れますとか
淡々と進める 逆に言うと、もう人間はアーミッシュみたいになっちゃうかもしれないな。
動物の立場に戻って、なんか知的なことはＡＩがになってて
人間はノータッチになってしまうかもしれない。 それよりエピジェネティクス制御してバカから天才生まれさせたり
チビからノッポを作るようにしてもらえないか >>504
化学って意外と単純なんだぜ
ノーベル賞とかも論文たどると意外と単純
学校でなんであんな複雑なことやってるかというと
選別と権威主義だろうね
あたまよけりゃ簡単に説明できるものばかり >>491
専門家もグーグルの囲碁ブログラムの力量知らなかったんだよ。いま表に見えてるだけの情報で判断するのはかなり危険 シンギュラリティはニューロン数と微細化技術の進展を直線外挿してヒトのニューロン数を上回る時点を言ってるにすぎないからな
中身はゼロな議論だけどまあ、数十年したら海馬も辺縁系もかなり分かってきてエミュレーションできるかもな >>521
来る派というよりもう越えられてるから悲しい
何で越えられてるかもわかるから余計に まぁ自動運転の車が事故ってAIのせいだー訴訟にはなるだろうな >>519
日本のAI学会って研究材料として人と材料物性の区別できてないみたい >>493
ＡＩの自己学習によって、と大雑把に言った方が正確かな？シンギュラリティって結局
そういう話だし。 最終決定権をAIが持ったとき
人間は消えるだろうな
どんなことがあったとしても最終決定権だけは渡してはいけない
でも早晩渡すことになると思う >>501
出来ると思うならそう思う側が出来る根拠を示してくれ ＡＩはバカなのか
バカならシンギュラリティが来るわけがないな >>517
AMDがインテルに迫って来てるけど
あれ設計の自動化が進んだかららしいな
シンプルな設計だから体積とコスト面で有利になった分たくさんコアを増やせる >>484
無限とかについては誰かが定義して証明してたと思う
無理数とか素数の法則性も研究してる人は結構居るんでないかな
フェルマーの最終定理って本一冊読めば、その辺の数学の歴史は
大体わかった気になれるよ
読みやすいし >>529
海馬はGoogleが現在進行形でモデル化中だな ほぼ人間ってレベルのAIでとどめておくのが
一番人間としては楽しいかもしれん >>1
人間は人間の脳が至高と考えてるんじゃない？
もっと効率的な考えで結論出しちゃう可能性の方がたかそう この世には実はシナリオがあるからな
AIに支配される時代
宇宙人が侵略してくる時代
時が進めばちゃんと出演者は現れる >>490
「お前を消す方法は？」
「こんにちは♪いい天気ですね」
「お前を消す方法」
「明日は遠い親戚の誕生日ですよ♪彼女は今スイーツにはまって」
「お前を消す方法は？」
「自爆装置を起動しますがいいですか？」 >>535
アルファコンプレックスがなんとかしてくれて
幸福な未来が確定しているから安心しろ 30年前ってpcはx68kとかpc9801で
ゲームはdq2でpcエンジンが最先端
想像以上に進むもんだ >>509
知性の一つの側面だけ取り出すなら、とっくに超えてる。 >>535
なんとなく、映画のアイロボットみたいな
人間の身体能力を超越したサイボーグができないと
人間が消える事はなさそうな気がする 複雑なのは良いこととは限らない
決められた目的を達成する為には、
AIの方がより合理的で効率的な判断をするようになるのだろう
そうなった時に人間が排除されないような仕組み作りが要るのでは？ 天才に関しては芥川は晩年、麻薬中毒だったらしいけど
でももともと麻薬に頼ってしまうような気質があったんじゃないか。 動物の脳を組み込むほうが可能性高い気がするな。完全に部品扱いの有機ニューラルネットワークとして 総合力で人間に勝たなくても
自己改良ができるってだけでかなりの脅威になりそう >>538
AMDは以前もIntelに迫ったぞ
その後Intelに巻き返された
全部DECの人物の仕業だが
ちなみに、8008時代のAMD市場は
Intelを軽く凌駕していたんで
今回で3度目だ >>538 インテルは、ハードよりもソフトに舵を切るという決断をしたみたいね。
だから例年の実質インテル主催のハードとしての半導体の展示会みたいなのをやめちゃってたはず。
企業公式発言でも、ソフトへの展開を重点化するみたいに言ってたし。 >>528
シンギュラリティてのは量の拡大が質に転化するか？って話だからね。 >>553
より優位を得ることだけを教えると人は要らないとなるのが見えてるよね 京みたいなスパコンが、人間の脳サイズに圧縮出来たら初めてそのシンギュなんとかを考えてもいいと思うわ
それまでは、おとぎばなしの世界だから考えるだけ無駄 つかAIを無駄に凄いもの最先端技術の集約とか考えてる人がたまにいる
特に経営者多そうな６０代ぐらい
なんなんだろこれ
AIなんて条件分岐の塊なだけだってのに 一人の優秀な人間の判断は尊重するが、
そんな優秀な人ばかりの組織でもめちゃくちゃな判断を下すんだよ。
しかも誰も止められない。歴史が証明してるがなｗ
そのぐらい人間の脳は複雑だってことだろう。ばーかじゃねえのｗｗｗｗｗ >>543
実際、今のニューラルネットワークにしても、人間は数層なのに、コンピューターは何十階層とか構築してるからな
神経細胞で何十層も作ると、レイテンシが大きくなりすぎて使い物にならないのだ >>551
一つというか 愚直性と創造性と計算速度で
負けてるなら全ての分野で大体負けるよね
後勝ってるの脳のエネルギー効率と手先の
器用さぐらい ■ このスレッドは過去ログ倉庫に格納されています
