【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>655 ＞将棋AIとか膨大な棋譜から最良手を判断しているだけで
最初はそういう方法でやってたのだが、今やその全然先を行ってるよ。 >>653
彼らは離間計のように人の反応を先読みして罠をかけたりはできないのだけど
AIはできると思うのね。ネットワーク動かすわけだし >>1
原発事故はAIの問題じゃなくなくなくない？ イノベーションは庶民に厳しく、経営者や投資家には優しい >>102
＞そういう部分的、機能別のシンギュラリティはあり得ると思うよ
機能で区別とかなら、オリンピック選手だってチャリンコ使われたら勝てないけど、それ、シンギュラリティとなんか関係あるのか？ >>646
ケプラー問題と四色問題だろうけど、あれは分野が元々離散的だからね
もっとすっきりした証明があるのかっていうのは相変わらず重要な問題ではある
AIでも人間が解く方法とまだギャップがあるしな
大学受験の「図形と方程式」は解けるが、その応用である抽象代数幾何はまだ扱えないとか >>609
いやinputがあってアルゴリズムに従ってoutput出すなら
それはAIじゃなくてExcelの帳簿と同じ既存のアプリケーションの範疇じゃないかって話なんだけど
んで>>608はこの過程でAI（の深層学習？）が使われて、
人間では想像できない何か素晴らしいoutputをAIが捻り出すという
そんなワイルドカード言っちゃったら否定も肯定も出来ないんじゃ・・・ 学歴しか取り柄のない左翼ほど、気に入らないことがあると
「三流大卒」、２ちゃんでは「Fラン」、大卒でない相手には「低学歴」「底辺」と言うが
学歴と関係ないAIが相手だと「バカ」ですか。 >>674
いや、それは条件による
イノベーションって昨日まで野球やってたヤツに
ある日突然「明日からサッカーやれ」とせまるような理不尽さがあるから
今まで野球のノウハウで成功来てきた奴が
ある日突然そのノウハウが無価値になったりするからな >>671
後半世紀先くらいあれば何があってもおかしくないな。
自分はその頃死んでるけど… 将棋のAIは3つの評価値のラーニングの自動修正にあるな
人間の脳、思考を上回るとかとは別問題で、決められたルール上でゲームに勝つだけに特化させたものよ >>672
確かにそうだなぁ
あれだな、サイコパスに近い感じになるのか >>680
サッカーで反則してたら、ラグビーの始祖になってしまった的な？ 殺人ロボットが街を徘徊する日も近いんだろうな
テロリストも職を奪われるわ え、既にC4Iと作戦指揮官様で勝負有ったからC4Iが採用されてるんだろう業界無視？ まあ人間でも当たり前なはずの前提すら齟齬が発生してる
AIの方がすぐましになるでしょ
脳の配線がおかしいと情報の認識が明後日の方に行っちゃってんのにも気が付かないのが脳みそだしね 同じ東洋経済だったと思ったが、別の東大教授がインタビューに出てて、
「今の若者はAIと同程度に頭が悪い」って吠えてたなｗ >>656
電気的であると同時に、化学的に信号が伝わる
シナプス間での情報伝達は、神経伝達物質やホルモン、ペプチドによる化学的な方法 >>662
いや、IITだっけ？情報理論使ってクオリアは説明できるって仮説が今人気なんだよ
まあ個人的にこれは微妙に違うと思っているけど、最近の計算神経科学はあまりクオリアや
心をタブーだとは思っていない
IIT以外では理論的にはF.Varelaが状況を変えたから >>689
今の東大教授世代があの頭悪い学生運動してたかと思うとなぁ
多分変わってないんだろうなぁと 問題は社会がAIをどの部分まで許すか？
これに尽きるが、資本家集団のグローバルエリートはどんどん浸透させようとする
韓国は汚職政権が続いて政治の一部をAIに任せる事になるだろう
ユダヤの実験やな そもそも耐用年数80年で自己修復機能を備えた機械も開発されていないというのに >>692
今現役で働いてるのははしらけ世代じゃ？
団塊はもう70前後だからもうとっくに引退してるだろ >>682
決められたルール＝命令で人間以上の結果を
発揮できることが問題なのだ
というより人間の思考や行動自体決められた
ルールがあって初めて成り立つからでもあるが >>661
技術的な問題ってのは結局はユーザー数と値段に収斂する。
コンピュータが自分で稼いで自分に投資するならともかく、人間を超えるAIが大量に必要とされなければ開発費も能力も限定される。
世界がネットで繋がってコンピュータがいっぱいあっても、ニュージーランドにおける羊と立場が変わらないんじゃしょうがない。 AIがバカで事故を起こす例はとっくの昔にエアバスが名古屋空港で実現している。 感情まで把握したAIを作るには
作る人が死を正しく理解しないといけない
この命題が解けないと >>678
深層学習と人間のパターン認識は質的には大差ないと思う
深層学習が優位なのはあくまで情報処理の量
ただ、強いAIを構成するには深層学習に被せるメタレベルの理論が必要
これは客観的な意味で必要で、そこが未解決問題の部分 高級官僚の人たちは「推測」ができないという2chの書き込みは読んだわ
まあ法学部なら前例無いこと探求せん学問ではあるわな >>678 ＞いやinputがあってアルゴリズムに従ってoutput出すなら
＞それはAIじゃなくてExcelの帳簿と同じ既存のアプリケーションの範疇じゃないか
だったらなぜ画像判定や、レントゲン診断精度が、ここ最近のAI使用で向上してるんですか。
AIをただ単にアプリケーションと言い含めてしまえば、それで問題回避できるという思考なのでは？
程度問題というのを、範囲を間違えて適用しているのではないのですか。 >>684
サッカーしててある日突然バール持って走り出す奴が現れた
それが反則ではないとバレてみんなボールを腕で奪い合うようになり
サッカーの技術やノウハウは瞬く間にゴミになってしまった
みたいな感じかな？ >>698
森を裸にしてまで蒸気機関の力を必要としたのは製品が売れる植民地を手に入れたからだものな。 今更だがAIに受験させたら余裕で100点取れちゃうんだよな
果たして身に付いていると言って良いのだろうか？ >>686
C4Iの究極は「索敵ルールオフの大戦略で友軍ユニットも自分で直接操作」になるけど、それで戦争に勝てるかどうかは別問題。 >>696
そういや大学教授って65歳くらいが定年でしたね
申し訳ない
まぁそれにしても歴史はくりかえすのね… AIが出した答えの理由が説明できるならいいんだがな
現状って説明出来ないんだろ
確率的にはAIの出した答えの方が圧倒的に正答率高いんだろうが >>705 試合中にバール持って走り出した奴は、民家を襲うようになって、もう二度とスポーツなどしなくなったそうだ。ある意味実話であるのが哀しい。 極端な話、CPUが超絶進化して、将棋で500手以内に起こりうる盤面すべてを網羅できればまず負けないと思うが
それ知能か？ >>703
そういう判断基準は生い立ち、環境など、突き詰めていくと生存生殖本能から来るものなので
AIに必要かどうかは別として、その辺りも人工的に作れないと実現できんわな 若い世代はAIに夢を見る
年配になると人間の思考や個性を構成してる物が脳だけじゃなく魂を含んでるものまで考え出す
アストラル体や自己のハイヤーセルフのような存在があるのではないかと
そこをAIが超えるのは当分先だろうと考える >>712
そいつが将棋以外に手を出し始めたら知能だね すでにプロセッサーの設計には人間イラネ状態じゃなかったっけ？
その設計プロセスにどう干渉しうるか探すシステムぐらいは米情報機関あたりなら作るだろ、ぐらいに思ってるんだが ここまで書き込みした人達で実際にAIがどのように動いてるか試して理解している人達どれくらいいるの？
SFの話と想像じゃなくて >>708
人間の感情の部分だろうな。
そこをもし解決出来たら恐ろしい事になるかな。 >>712
知能じゃないのそれ
人間だって答え導く時にこれまでの経験から最適解を
出してるわけで
やってる規模と精度が桁違いなだけで >>715
網羅するしかできないから手なんて出せないよ 株の売買させたら人間の常識ではありえない取引が成立してたとかあったな >>698
人間を越えるaiが必要かといえば必要になるだろう 何故ならば人間に対してコストも性能も
優位となってしまうからだ
既に単純労働はそうなってしまっている >>717
ソニーが公開したやつばGUIで分かりやすそうだよ
まだ落としてないから使ったことないけど あんまり完璧に勝ちすぎたら最悪ぶっ壊されるから
ある程度苦戦感も出しつつ最後には勝つ
みたいな人間の感情を把握して行えるのを自動判断すると
ちょとAIっぽくなるかも 経産省はクールジャパンプロジェクトを終えて、第六世代コンピュータプロジェクトを立ち上げるべきだな 俺もシンギュラリティはまだ遠いと思う
五感を備えた体を持つまで、AIには事の本質を理解できないんじゃないかな
ルールの中で考えるゲームなら、人間を凌駕する事ができるけど、
科学技術を発展させるなら、実験したりする能力も必要だろ
コンピューターの中で与えられた情報を利用して学習しているだけでは、特異点は得られないんじゃないかな
与えられた情報が何を意味するのかを理解する事すら難しいと思うんだよな >>720
それは網羅のプロセスによるかな
将棋という将棋盤上のパターンなら割り出せるだろうけど、最適解を探す上で全く違う物を参考にし始めて網羅したらそれはもう別の事をし始めてる訳よ
それは知能だよ >>717
昔ゲーム作ってたSEだけど、将棋のAIは評価関数３つの調整がアルゴリズムの要で、後はディープラーニングで自己と数十億〜回って高速対戦のラーニングで強くなってるだけのモノだわ >>728
全通り書き出すだけだよ
でも多分これが最強だよ 日本のインテリはアホが多すぎるんだよ。
ＡＩが、何も人間という動物のエゴや感情や欲望を理解するとこに進化の特異点があるわけではない
動物が形成した社会や政治経済とは関係ない
科学研究の分野では十分人間を超えることができる。 将棋の電脳戦の結果のように、AIは無数のシミュレーションで最適解を出す能力は人間をゆうに越えるようになった。
戦時作戦や政治、マーケティングでは人間よりも良いかも。
実際のところ、株の売買は大半がAI判断で、相場師なんて敵わないし。
商品開発みたいなもんは、いまだ人間だろ。
音楽、美術はそのうちパターンで作れるかもしれない。 シンギュラリティは完璧な翻訳ソフトが出てから議論しようや 山本五十六は将棋が好きだったそうだがそれが敗因とも言われている。
現実の戦争では駒自体が途中で学習や進化をするからだ。
将棋は現実の単純化に過ぎない。 >>712
むしろ網羅しなくても最適解を見つけられるようになったら、ソッチが知能じゃないの？ >>704
そら既存のアプリケーションの範疇であるモノでも
AIというバズワードで予算が獲得できるからだよ
単なるオンラインストレージをクラウドと言い張るのと一緒ｗ
俺だって15年ほど前に画像認識使ったシステムを作る仕事してたが
そん時はそれがAIだなんて一言も言わなかったぞ？
いま似たような仕事するなら絶対AIって言葉を絡めるねｗ 今のAIの不完全さを分かりやすく説明すると
クイズの早押しひっかけ問題で必ずひっかかるようなもん >>736
俺もそう思ってたわ
同僚の将棋の達人
仕事のクレーム多すぎｗ 禿げの悩みを理解させるためには禿げのロボットを作らなくてはならないから大変だな 生命、宇宙、そして万物についての究極の疑問の答えに42
とか答える高性能AI出来ても困るしなぁ
全くコミュニケーション出来ないのは恐怖しかないねw 個々の人間の心理は理解できなくても、集団心理を計算した行動は取れてる。
株売買は基本的に心理学だから。 放送法とＮＨＫの例みたいなもんだなｗ
どう見ても現代の情報社会に法律がそぐわないのにそのまま放置で
受信料半強制で政治家も官僚もそれをサポートする
法律遵守という目的をもった裁判判断ＡＩができるとすればバカなＡＩの挙動とダブるというｗ 現状のAIは大雑把に言えば複雑な計算をするだけだからな
しかしそれで十分だと思う 人間の脳の機能をまねする必要はないな >>646
計算間違ってないって誰が証明できるの？って数学者が結構いるとか >>736
なんで俺はあのクソ上役の駒やってんの？って自問自答したりね シンギュラリティが永遠に来ないことを証明するのは無理だけど、普通に考えてこねーだろ。
信じてるやつは、もうすぐ小惑星衝突で地球滅亡も可能性「0」ではないんだから、そっちも信じとけよ。 >>738 その技術の進化速度ってものがあるだろう。
ではここに来て、それら画像判断などの精度向上が、なぜ急激に伸びてるのか？
しかもその技術進化速度を、専門家含めて多くの者が予想はしていなかった。
バズワードに反応して騒ぐのは、あくまでも人間達ね。
テクノロジーが勝手に驚いて、バズワードに従って急激に進化するわけではない。
そこには理由があるはずだ。
バズワード挿入以外のね。それがAI活用ではないかと述べている。
欧米の想像するロボットの脅威は銃を持って反乱するやつだから退屈だ
日本だったら可愛いロボットがおねだりして何百万円あるいは何千万円と貢いでしまい
素寒貧になることを恐れる、既にそうなっているのだ、なおさら財布の危機を心配すべきではないだろうか オカルト系の理解と運用法をAIが習得すれば人間超えはあっという間だろう ２ちゃんでひたすらシンギュラリティ、シンギュラリティと書き込みしてたんは
この教授か 脳はすごいんだぞ、で食べてきた学者が
畑ちがいの技術分野から飯のタネを持っていかれそうになるんだから
そりゃ抵抗するわ
脳の当然の反応ですな 山本五十六はフリーメーソンで戦争請負人だったかもな
真珠湾攻撃はオーストラリア経由でバレてた事実が発覚したのもあるし、米軍を太平洋戦争に参戦させるのに先制攻撃が必要だった
国でいえば英国の思惑、更にいえばイスラエルを建国するための国際グループ、シオニストの作戦だろう 確かに人間と同等以上の事をするのと、人間に取って代わるのは別の話だわな >>750
おいおい、そんな事言ってるとオカルトさんが来るぞ
AIとオカルトはそれでなくても相性抜群なんだから 日本のインテリは
ＩＴ革命の意味をまったく理解できてなかったろ
この２０年で世界の経済界の地図はまったく変わってしまった。
ＩＴ企業が世界トップの大半を占めるようになった。その中に日本企業はない。
ＡＩも同じだろうな。 上とか下とか言っている時点で論点すらズレてる、人間の愚かさが現れている
問題はこの文脈だ
＞ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、
十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
AIがバカなのではない、それを予期できずコントロール可能と思い込み無制限に開発利用する人間がバカなのだ
この手の人間は根本的に矛盾した行動をとる >>738
パソコンとマイコンの違いみたいなもんじゃねーの？
プログラミングだって0か1かの組み合わせしか無いわけだし
一昔前に流行ったファジィだってそれを細かくしただけだし ディープ・ラーニングだってニューラル・ネットワークの延長上の技術に過ぎないだろ
それすなわち、パターン・マッチング結果のデータベース化じゃん
試行錯誤して上手くいったパターンの優先度を上げる、それの積み重ねだろ
コレを知能と呼べるのかな？
その程度のモノでは技術的特異点なんて望めないと思うんだが・・・ >>756
この人は脳科学なんつー胡散臭いことやってる人じゃないよ >。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
>脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。
>そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
つまり脳の構造を完全に解析できたときが
AIの技術特異点が来るタイミングなんだろ
なんでこないって言い張ってるんだ？ 少しでもパターン認識で学習モデルを構築したことがある理系ならわかるだろう
アホの脳科学（）とは別 >>748
未知の発見を証明をできるようになる事こそAIの目指すべき究極の到達点だからなあ
自分以外しか知らない事を相手にも分かるように説明する能力の獲得
一見単純だが実は知性の最も複雑な作業(のひとつ)が他者への説明
もちろん画一的ではなく相手の理解力の程度に合わせて柔軟に対応する事が求められる
これがAIに可能なのか否か ■ このスレッドは過去ログ倉庫に格納されています
