【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>708
人間の感情の部分だろうな。
そこをもし解決出来たら恐ろしい事になるかな。 >>712
知能じゃないのそれ
人間だって答え導く時にこれまでの経験から最適解を
出してるわけで
やってる規模と精度が桁違いなだけで >>715
網羅するしかできないから手なんて出せないよ 株の売買させたら人間の常識ではありえない取引が成立してたとかあったな >>698
人間を越えるaiが必要かといえば必要になるだろう 何故ならば人間に対してコストも性能も
優位となってしまうからだ
既に単純労働はそうなってしまっている >>717
ソニーが公開したやつばGUIで分かりやすそうだよ
まだ落としてないから使ったことないけど あんまり完璧に勝ちすぎたら最悪ぶっ壊されるから
ある程度苦戦感も出しつつ最後には勝つ
みたいな人間の感情を把握して行えるのを自動判断すると
ちょとAIっぽくなるかも 経産省はクールジャパンプロジェクトを終えて、第六世代コンピュータプロジェクトを立ち上げるべきだな 俺もシンギュラリティはまだ遠いと思う
五感を備えた体を持つまで、AIには事の本質を理解できないんじゃないかな
ルールの中で考えるゲームなら、人間を凌駕する事ができるけど、
科学技術を発展させるなら、実験したりする能力も必要だろ
コンピューターの中で与えられた情報を利用して学習しているだけでは、特異点は得られないんじゃないかな
与えられた情報が何を意味するのかを理解する事すら難しいと思うんだよな >>720
それは網羅のプロセスによるかな
将棋という将棋盤上のパターンなら割り出せるだろうけど、最適解を探す上で全く違う物を参考にし始めて網羅したらそれはもう別の事をし始めてる訳よ
それは知能だよ >>717
昔ゲーム作ってたSEだけど、将棋のAIは評価関数３つの調整がアルゴリズムの要で、後はディープラーニングで自己と数十億〜回って高速対戦のラーニングで強くなってるだけのモノだわ >>728
全通り書き出すだけだよ
でも多分これが最強だよ 日本のインテリはアホが多すぎるんだよ。
ＡＩが、何も人間という動物のエゴや感情や欲望を理解するとこに進化の特異点があるわけではない
動物が形成した社会や政治経済とは関係ない
科学研究の分野では十分人間を超えることができる。 将棋の電脳戦の結果のように、AIは無数のシミュレーションで最適解を出す能力は人間をゆうに越えるようになった。
戦時作戦や政治、マーケティングでは人間よりも良いかも。
実際のところ、株の売買は大半がAI判断で、相場師なんて敵わないし。
商品開発みたいなもんは、いまだ人間だろ。
音楽、美術はそのうちパターンで作れるかもしれない。 シンギュラリティは完璧な翻訳ソフトが出てから議論しようや 山本五十六は将棋が好きだったそうだがそれが敗因とも言われている。
現実の戦争では駒自体が途中で学習や進化をするからだ。
将棋は現実の単純化に過ぎない。 >>712
むしろ網羅しなくても最適解を見つけられるようになったら、ソッチが知能じゃないの？ >>704
そら既存のアプリケーションの範疇であるモノでも
AIというバズワードで予算が獲得できるからだよ
単なるオンラインストレージをクラウドと言い張るのと一緒ｗ
俺だって15年ほど前に画像認識使ったシステムを作る仕事してたが
そん時はそれがAIだなんて一言も言わなかったぞ？
いま似たような仕事するなら絶対AIって言葉を絡めるねｗ 今のAIの不完全さを分かりやすく説明すると
クイズの早押しひっかけ問題で必ずひっかかるようなもん >>736
俺もそう思ってたわ
同僚の将棋の達人
仕事のクレーム多すぎｗ 禿げの悩みを理解させるためには禿げのロボットを作らなくてはならないから大変だな 生命、宇宙、そして万物についての究極の疑問の答えに42
とか答える高性能AI出来ても困るしなぁ
全くコミュニケーション出来ないのは恐怖しかないねw 個々の人間の心理は理解できなくても、集団心理を計算した行動は取れてる。
株売買は基本的に心理学だから。 放送法とＮＨＫの例みたいなもんだなｗ
どう見ても現代の情報社会に法律がそぐわないのにそのまま放置で
受信料半強制で政治家も官僚もそれをサポートする
法律遵守という目的をもった裁判判断ＡＩができるとすればバカなＡＩの挙動とダブるというｗ 現状のAIは大雑把に言えば複雑な計算をするだけだからな
しかしそれで十分だと思う 人間の脳の機能をまねする必要はないな >>646
計算間違ってないって誰が証明できるの？って数学者が結構いるとか >>736
なんで俺はあのクソ上役の駒やってんの？って自問自答したりね シンギュラリティが永遠に来ないことを証明するのは無理だけど、普通に考えてこねーだろ。
信じてるやつは、もうすぐ小惑星衝突で地球滅亡も可能性「0」ではないんだから、そっちも信じとけよ。 >>738 その技術の進化速度ってものがあるだろう。
ではここに来て、それら画像判断などの精度向上が、なぜ急激に伸びてるのか？
しかもその技術進化速度を、専門家含めて多くの者が予想はしていなかった。
バズワードに反応して騒ぐのは、あくまでも人間達ね。
テクノロジーが勝手に驚いて、バズワードに従って急激に進化するわけではない。
そこには理由があるはずだ。
バズワード挿入以外のね。それがAI活用ではないかと述べている。
欧米の想像するロボットの脅威は銃を持って反乱するやつだから退屈だ
日本だったら可愛いロボットがおねだりして何百万円あるいは何千万円と貢いでしまい
素寒貧になることを恐れる、既にそうなっているのだ、なおさら財布の危機を心配すべきではないだろうか オカルト系の理解と運用法をAIが習得すれば人間超えはあっという間だろう ２ちゃんでひたすらシンギュラリティ、シンギュラリティと書き込みしてたんは
この教授か 脳はすごいんだぞ、で食べてきた学者が
畑ちがいの技術分野から飯のタネを持っていかれそうになるんだから
そりゃ抵抗するわ
脳の当然の反応ですな 山本五十六はフリーメーソンで戦争請負人だったかもな
真珠湾攻撃はオーストラリア経由でバレてた事実が発覚したのもあるし、米軍を太平洋戦争に参戦させるのに先制攻撃が必要だった
国でいえば英国の思惑、更にいえばイスラエルを建国するための国際グループ、シオニストの作戦だろう 確かに人間と同等以上の事をするのと、人間に取って代わるのは別の話だわな >>750
おいおい、そんな事言ってるとオカルトさんが来るぞ
AIとオカルトはそれでなくても相性抜群なんだから 日本のインテリは
ＩＴ革命の意味をまったく理解できてなかったろ
この２０年で世界の経済界の地図はまったく変わってしまった。
ＩＴ企業が世界トップの大半を占めるようになった。その中に日本企業はない。
ＡＩも同じだろうな。 上とか下とか言っている時点で論点すらズレてる、人間の愚かさが現れている
問題はこの文脈だ
＞ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、
十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
AIがバカなのではない、それを予期できずコントロール可能と思い込み無制限に開発利用する人間がバカなのだ
この手の人間は根本的に矛盾した行動をとる >>738
パソコンとマイコンの違いみたいなもんじゃねーの？
プログラミングだって0か1かの組み合わせしか無いわけだし
一昔前に流行ったファジィだってそれを細かくしただけだし ディープ・ラーニングだってニューラル・ネットワークの延長上の技術に過ぎないだろ
それすなわち、パターン・マッチング結果のデータベース化じゃん
試行錯誤して上手くいったパターンの優先度を上げる、それの積み重ねだろ
コレを知能と呼べるのかな？
その程度のモノでは技術的特異点なんて望めないと思うんだが・・・ >>756
この人は脳科学なんつー胡散臭いことやってる人じゃないよ >。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
>脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。
>そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
つまり脳の構造を完全に解析できたときが
AIの技術特異点が来るタイミングなんだろ
なんでこないって言い張ってるんだ？ 少しでもパターン認識で学習モデルを構築したことがある理系ならわかるだろう
アホの脳科学（）とは別 >>748
未知の発見を証明をできるようになる事こそAIの目指すべき究極の到達点だからなあ
自分以外しか知らない事を相手にも分かるように説明する能力の獲得
一見単純だが実は知性の最も複雑な作業(のひとつ)が他者への説明
もちろん画一的ではなく相手の理解力の程度に合わせて柔軟に対応する事が求められる
これがAIに可能なのか否か 流石松岡先生
地に足の着いた回答だ
Googleの人といい有名どこが真面目に発言し出した辺りバカな問合せ増えてんだろうな よく言われるのは
知識の蓄積から知恵が生まれる
ってこと
ＡＩでそれが可能になったら人間にとってかわる お前らが知る範囲の脳科学の研究者は全員疑似科学だけど
この人スパコン屋でしょ AIはプログラムのバグとかで問題が起こることは無いの？
コンピュータ化は単純にそこが心配なんだけど。 >>764 数量的増大などが、質の変化へ転じることはあり得る。
将棋や碁で、人類に勝つようになったのも、その一例。
あれは毎回可能な限りの全網羅をしているわけではないそうだしね。
少なくとも質的変換が起きてるのではないのかな。まだ初歩なんだろうけど。
それからそれら開発者自身が、もうAIの学習と判断は、「結果」しか分からないと述べてるようだし。
後付けでの理由解説も、人類側としては、ほぼ不可能。
そういう局面は、今まで人類とテクノロジーとの関連では無かった事例だろう。
少なくとも、人類と機械との関係性は変わり始めているのではないかと思えるね。
1. 抽象化でAIが超進化する
2. でも抽象化する為にはルールが必要
3. ルールを超えた判断をさせようとすると抽象化できない
4. 抽象化出来ないからAIが超進化しない >>771
スパコンと人工知能って実は関連性あんまりないし
そもそもスパコン屋は量子コンピュータなんて出来っこないとか言ってた連中だからなw >>770
雪風とか2001年宇宙の旅なんかはそういうクライシスよね
トロンではきっちり説明した上で、世界支配するわってやってた
まあ理解できないってのもＡＩを鍛える必要なファクターなのかもね
馬鹿は需要が増すかもしれん IT革命を原理的なものと誤解してしまったな
だから要素に分解して理解しようとしたけど違うんだな
もっと安直なものだった >>774
当然バグの可能性はあって、まさにそれが>>1の言うバカなAIを指す訳だが AIがAIを作り出したらシンギュラリティ達成でいいじゃない 生物の脳は遺伝子伝達保守が根本にあり、それがすべての思考行動の源になってる。
AIもそこを基準に開発していけば人間の脳を上回るのは間違いない。
すでに神経細胞の1/10まで回路は細分化されてし、大きさも制限はないんだからな。 >>69
その発展を受けとめる大きな需要があったからだ、だが社会も変わった
AIはアイオロスの球のようなものだ
古代ローマやギリシャには優れた美術品や叙情作や数学哲学があるが
帝政に入って徐々に滅茶苦茶下手な落書きに変わり識字率さえ落ちた 痛車を見て大きな女の子が走ってると認識して急ブレーキから大事故になるかもしれない コンピューターが目的に向かっての行動を周期的なものでなくてやめたり再開したりとかしだしたらシンギュラリティじゃないの チンコマラティでアナルがチンコを上回る日は必ず来ます なにこの人類至上主義者ｗｗｗｗｗｗｗｗｗｗｗｗｗｗ >>784
むしろ逆 人間の行動原理のバグが
人間をaiにも劣るものにしてしまった 原因と結果が決まってる
というか両方ある命題についてはAIで行けるけど
どちらかかけてて想像で保管しなきゃならんようなのは
そのAIの作り手の思想に縛られるというか
一般解がないんだから誰かがアタリをつけてやらんといけない
そのアタリをつけるって部分が思想、宗教、環境からくる勘というか 猿が人間を作り出したのに
誰も猿を褒めてくれないｗ 人間が有機体のまま地球外惑星に漕ぎ出すのが早いか、AIボットが地球で最上級生物になるのが早いか。
AIボットに託したほうが長く地球文化を存続させられると俺は思う。 >>736
ポーカーの達人でもあっただろ
つか、戦略系は懸案したけど規模が凄すぎたのと
緒戦6ヶ月の連勝で気が緩んだ大本営に却下されて
骨抜きにされて、酷いことになったという話 こんなの読んで本当に来ないとか言ってると来るよｗ
いまから25年も先だぞ､どれだけ進化するか >>774
バグはないものとして考えろ
あったとしても発達するＡＩなら自ら修正可能とする
問題はＡＩが出す最適方策が何を根拠に導きだしたかがわからなくなることだ
そういう意味で危険な事態を引き起こす可能性は十分にあるという話だろｗ 脳型コンピューターの最先端を知らないからそういうことが言えるんだよね
最先端技術はどこにも公開されない機密情報だからね
何十年も前から莫大な予算をつぎ込んで研究しているのに
何の成果も出ていないわけないからね 47億年だっけ
長生きだよな地球って
どんなにでかくても数千万年の星もあるのに
その中で短期間今の所生きてるのが人類なわけでー
一億年後がみたいのう >>775
否、ニューラル・ネットワークが蓄積するパターンを予測できないってのは昔から判ってた話だよ
実際にニューロ・ツールを使った制御システムが変な制御パターンを出してきて、
でもそれが実は有効だったなんて事もよくある話
将棋ソフトが奇手を編み出すのと同じなんだよ
人間なら常識というフィルターが弾いてしまうパターンも試して良ければ優先度を上げるからね
重要な事は、AIが物の本質を認識できるか否かじゃないのかな？
SEXは気持ち良いという知識はあっても、気持ち良いとは何かが判らないのでは、良いSEXはできないだろ >>797
技術革新早すぎて、提唱した人は2029年に早まるって訂正した 猿と人間の先祖が共通なだけで、いわば兄弟であって
猿から人間が生まれてきたわけではないよ 「100年後の未来、50年後の未来」チープな未来画シリーズあるやろ
あの反省に立って物言いしてる >>2
地球「もうあらそいやめてよおおおお！穴空いてるからあああ！」 そもそも人間なんぞに近づかずとも誰かが
「人類絶滅プログラム」を作り出したら人間は終わるわけで チンパンジー・・・Ａ型
ゴリラ・・・Ｂ型
血液型。 「2029年、コンピューターは人間レベルの知性を獲得することでしょう」（カーツワイル氏）
かねてより人工知能が人間の知性を超越する「シンギュラリティ（技術的特異点）」が、
2045年にやってくると予想されていたが、カーツワイル氏は16年も早まるとの見方を示した。
＞「AIが人間を支配する世界」が実現してしまうのだろうか？
だが、カーツワイル氏はAIを恐れる必要はなく、むしろ機械を人間の脳に取り込むことによって「超人」が誕生すると語る。
「機械は人間に力を与えてくれます。機械のおかげで我々はより賢くなるのです。
まだ人間と機械の融合は果たされていませんが、2030年代には思考を司る大脳新皮質をクラウドネットワークに接続するつもりです」（同） >>799 インタビュー全文では、それなりにそっちも触れてるよ。
それでシンギュラリティは来ない。というのは脳科学者側からの言い分を勘案して答えてる。
趣旨をよく読めば分かるが、シンギュラリティという危機が来なくても、AI運用にはリスクあるだろうみたいな話になっている。
元々は元記事全文を読めば分かるが、ムーアの法則が行き詰りそうなのだが、その後はどうなるの？
これについての返答が主体のインタビューね。
だから記事タイトル自体が、かなり偏向してるよ。ついでに聞かれて答えたら、そっちをフレームアップされてしまった。というようなお話。 ＞逆にソ連は機械に任せていたから、先に月に行けなかった。
まずこの教授と議論するとなると
本当にアメリカは月への有人飛行に成功したのかどうかになるな・・・ 福島原発があんなになって
汚染水止められてないのに普通に生きてるのが人間だぞ
かつてないものが体内に入ってんのにボケっとしてるのが人間だぞ
人間さまなめんなよ カーツワイル氏は、人工知能も双眼鏡や補聴器やペースメーカーなどと同じように人間の能力をサポートする道具になると考えているようだ。
この点については「人類のサイボーグ化」を提唱する「テスラ」社CEOイーロン・マスク氏も同意見だ。
以前トカナでもお伝えしたように、マスク氏はAIの脅威を取り除くためには高速処理を実現するインターフェースを脳に接続する必要があると断言している。
AIと人間の融合は最も理想的な人類の発展と見ていいだろう。それというの
両者にはそれぞれ補いあうべき長所と短所が存在するからだ。
コンピューターの情報処理能力はすでに人間を遥かに凌駕していることは周知の事実だ
英有名物理学者ロジャー・ペンローズ氏などは人工知能と人間の知性の間には架橋できない大きな差があると主張している
。曰く、計算と理解には雲泥の差があるという。また、人間性の中核をなすともいうべき「倫理」をAIが持ち合わせていないという指摘もある。
機械の長所を人間の能力の拡張として使うことができれば、人間の頭脳は計り知れないほどの記憶ストレージと計算能力を得るだろ
さらには、カーツワイル氏が主張するような意識のクラウド化が実現すれば、個人の意識やアイデンティティ
、社会的な死さえも消失し、人類という1つの知性が思考するようになっていくのかもしれないずれにしろ、
結果は数十年後に明らかになる。その時、人類が今よりも少し賢明になっていることに期待したい。 Windowsを使ってるとどんなに優秀でも
危険性のある箇所をコンピューター任せにする気が起きない
そんな教訓を与えてくれる名機である まずは完全な乱数を作るためにサイコロを内蔵したチップを作ることからだろう。 ■ このスレッドは過去ログ倉庫に格納されています
