【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 既に将棋、囲碁で人間の知能上回ってんだけど
こいつバカか かぼちゃの馬車に乗って王子様のキスで目覚めるために
七人の小人とともに桃から生まれてお椀の船でやってくるのよ 特異点だー革命だーと主張するのは自由
それを評価するのは後世であっておまえらじゃないよ >>3
頭の悪い俺に、あれを知能と呼ぶ根拠を教えてくれ だから管理することだよな、個体にうつしてラムの世界だけに閉じ込めない
ちゃんとセンサーとマニュで構成して
一個体ごとに人権があって >>1
> 脳はものすごく複雑で、本当はどう動いているのか全然分かっていない
ならシンギュラリティが来ないという根拠は無いんじゃ…？ シンギュラリティだからゼロに向かうてことだろ
あるんじゃないか AI「バカって言う方がバカなんですぅ〜」
とか言い出す日は近いだろうけど バカなＡＩ「そのAIをつくった人間がｺﾞﾆｮｺﾞﾆｮ」 2045年にはこのオッサンも85だから
この話が間違ってても誰もツッこまないだろうから気楽なもんだな。 >>6
これ話すとそもそも知能とはなんぞやという話になるけど、「ごく一部の分野でしか使えない知能」とみる人は結構いる 得意分野が違うんだよな。
だから、互いを補佐すれば上手く行く。 「中国共産党は腐っとる」と答えるAIは共産党に取ればバカだけど中国一般国民には
賢いAIと評価されるのかな？ シンギュラリティで人間がAIに従って当然の時代に
安物のCPUに安物のAIが混じってくるのは怖い 擬似的な模倣、これは人間を超えない根拠になるのか？ >>8
深層学習では内部でどういう計算が行われてるのか外から見てもわからんから
AIがどういう計算結果を出してくるか人間には予測できないところがある
なので囲碁や将棋で人間には思いつかなかったような凄い手を打ってくる
同じ理由から、人間には予測できないようなバカな判断ミスをする可能性もある
ただしAIが計算を行う仕組み、原理自体は完全にわかっている（人間が設計して作ったんだから当たり前）
一方、脳については、どういうプロセスで思考してるのかという仕組み自体がよくわかってない
だから脳を超える機能をもったコンピュータを作ることは現時点ではできないという話 >>10
経済担当AI 防衛担当AI 外交担当AI ガス検針担当AI
.|:::::::::/ |ﾐ| ､､＿＿
|::::::::| ,,,,, ,,,,, |ﾐ|,,ﾐ::::::::::::::￣'''ヽ
|彡|. '''"""'' ''"""'' |/:::;r―――-､:::| ノ´⌒｀ヽ,,
/⌒| -=・=‐, =・=- |::::::|｡0 U |:|γ⌒´ ヽ, _,--―--.
| （ "''''" | "''''" |::::::| ,,;;,, ,,;;,, |/／ ""⌒⌒＼ ） /r-‐v-―ヽ
ヽ,, ヽ .|‐､! =・- =・- |/ ＼ ／ ヽ ） V.＿ ＿ ﾐl |
| ^-^ | ( ヽ, |'' (･ ）｀ ´( ･） i/ i'━ '━ ∨
.| ‐-=＝=- |｀l ヽU _¨´ ｲ| （__人_） | ( .j_､ |
/: ＼. "'''''''" / ｌ､ 'ｰ＝‐ / ＼ ｀ｰ' ／ '、 =- 〉 丿
／:::::::丶＼ .,_＿＿__,,,.／:::ヽ./＼ ､ﾆニ,,/| ／ ＼ iヽｰ イ
_,,-=ゝ,.. ,,-―--､ .|:::ヽ ........ ........ /:::::|
／/ ⌒ヽ_（／￣￣ ゛ヽヽ|::／ ) ( ヾ::|
. ./／￣ヽ // ・ ー--゛ﾐi.|:;;| -=・=‐ ‐=・- :|6
../‖ ＼______`l ノ (ﾟ｀> ゛|:（ 'ｰ-‐' ヽ. ー' |/
.l | ＝＼,, ,,／＝ .| (ﾟ｀> ヽ ヽi ／(_,､_,)ヽ |
. .|. （●） （●） | （．・ ) |. .| ／ .＿＿_ ＼ ｜
| （__人__） | ( ＿,,ヽ .|. ヽ ノｴｪｪｴ> ﾉ
| |r┬-| .l (￣ ,,, }. ／|ヽ ー--‐ ／|＼.
ヽ `ー'´ ヽ ￣" ／ ::::::ヽ ＼ ＿＿＿／ /:::::::
.／ ＼__ ,__／ ヽ ／.:::::::::::::::丶 ＼ ／ /::::::::::
担当なしAI 原子力担当AI 選挙担当AI 「知的な」判断は、人間でもそもそも難しいので
でも、ただの条件分岐で解決できる問題が多いのも確か ＡＩは学習するんだから、いつかは人間の脳を超えるでしょ。 脳を超えるんじゃなくて、人間の能力を超えるって話だから
脳の様な構造に拘る必要はないんでないの？
コンピュータはヒラメキみたいなもんじゃなくて、総当りで正解を出すんだろうけど >>22
それ出来ない理由にはなってないよね
人間とは別の方法で出来るようになるかも知れないし 馬鹿に選ばれた馬鹿な政治家が馬鹿な行政運営をするように、AIもまた同じこと
まぁ 結果論だな 既に馬鹿な人間がいくつも危険な事態を引き起こしてきたじゃないか
だったらＡＩが同様のことをしても大して変わらん これからの人間はcompめちゃつよの無理ゲーをやらされることになるのけ？(・ω・) >>1
＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
シンギュラリティと脳云々は関係ないから
プログラム自身が自己より高性能な
プログラムを作るって話だろ
それが起きたら加速度的に性能上がる 鳥や昆虫のような飛翔体はまだまだ作れないが
超音速で飛ぶ飛行機は作れる
完全に人の脳を理解してまねすることはできないが
機能面で人間を圧倒することは可能
問題は人にしかできないことが本当に不可欠な仕事なのかいうこと
実は無くてもいい機能かもしれない 疲れも無しに努力し続けるんだからいつかは越えるだろ 今よりさらに進化した人工知能なら
悪意を持った人間が悪用しようと思えばとんでもない事態を引き起こせそうだわな >>34
ルーディ・ラッカー『ソフトウェア』の到来だな
あの人SF作家としての見識と洞察力じゃアイザック・アシモフを上回っていると思う そもそも人間(有機知性体)は
無機物の知性体を作るために産み出されたんだよ。 実際
「脳みそをまるごとシュミレーションする」
って荒業が真面目に考えられてるから、技術さえ進めば脳みその仕組みとかも関係なくなるんだよな。
というのをあまり考慮してない未来予想だ
>>27 松岡先生は、本当の専門家ですもんね
インチキAI専門家が多すぎて >>28
シンギュラリティというのは脳とコンピュータの性能比較だから
コンピュータ＞＞＞脳とするためには基準を脳の性能に置いて、それとの比較で論じることになる
つまり人の脳にできることが基本的に全部コンピュータで置き換え可能にならない限り
シンギュラリティにはならない
人の脳の機能をすべて再現できるコンピュータが作れたということは
人の脳の仕組みを完全に原理的に解明できたということとイコールだよ >>37
初見で斬紅郎無双剣を全クリしろと言われるような状況ね(´・ω・｀) 株価が上がるから
人工知能は盛り上がってるだけだぞ。
いずれ崩壊する >>28
超えたかどうかを判断する｢基準｣が作れないってことなんだけど 技術的な間違いはむしろ減るかもしれないけど、
人の感情を逆なでするようなことをどんどんやりだす可能性はあるよね
ＡＩの適用領域みたいなのをちゃんと決めておく必要があると思う >>27 理論的にいえばＡＩが人間より賢く速くプログラムを作る事が出来て
さらにまたそのプログラムがまたさらにすごいプログラムを作る。
それをやっていくうちに研究スピードも飛躍的にあがりそれがシンギュラリティに
繋がっていくという事だな。 >>22
学習されたフィルタが何を掴んでいるのかを可視化する試みはだいぶされてるんですけどね 今の人口知能は前世代の知性の模倣という
ファンタジーを諦めたから成功した
シンギュラリティなんてバズワードでしかない 鳥や昆虫のような羽ばたきを真似しようとする試みはことごとく失敗して
固定翼とプロペラ推進で飛行機は実用化された
脳の働きを調べることでアイデアが生まれるかもしれないけど
脳を模倣しなければ人工知能ができないわけではない >>3
あれは囲碁に特化した分散コンピューティング専用のソフトでしかない。 >>34 ＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
それを言ってるのは、脳科学者のほうであって、
この当人の東工大の人は、どっちかというと間接的否定しかしてなくて、
あり得ると言ってるようにも思えるね。 人間の脳が複雑過ぎてよくわからないから、AIが人智を上回ってるのかどうかもわからない。
ということ？ AIの問題は計算過程が膨大で
人間に経過が理解できない事
なぜそうなったかが人間には分からず結果だけ出される 離婚はない。しかしバカな嫁が危険な事態を引き起こす可能性は十分にある。
みたいなもんですかね
どっちにせよ、そんなの作った人間の責任じゃんｗ >>1
このての話題を読むたびに思うのですが、ただの自動運転とAIによる運転の違いをどのように定義しているんですかね？ 問題だ
ir = 1+2+3+(√1)*tan(360)+fun^10+(rnd(12.13))/(rnd(4.13) )
これがなにか、ＡＩに答えてもらおうか >>34
プログラムがより高性能なプログラムを生むという状況を仮定したとしても
それが「加速度的」な性能向上になるかどうかはまた別の問題
コンピュータの性能向上をグラフで描いたときに指数関数的なものになるのか
それともロジスティック関数みたいな曲線を描いてどこかで頭打ちになるのかという話
コンピュータの進化も物理現象の一種ととらえればロジスティック関数に従うほうが自然だと思うけど 知性で一番簡単な例は生成文法だけど
これも仮説が蓄積しているだけで
何も積み上げられていない。
言語の知見は莫大に得られたがそれだけ まあ人間の代わりに働いてくれるアンドロイドは出来ないってこった そうは言っても後30年近くの猶予があるからなぁ。
今から30年前は、ファミコンの世界。ようやくディスクシステムが出たくらいだろ。
初代ゼルダの伝説のあたりだ
30年前（ゼルダの伝説）これが
https://youtu.be/6ADhznw1zhc
それが今や、このレベルだぞ
https://youtu.be/nWHQ77BZDZg
30年もあれば、いまでは思いもつかない世界になっててもおかしくない
IT技術の飛躍には想像を絶するものがある。 >>51
プログラムを作るプログラムの研究ってそんなに進んでいるの？
あんまり聞いたことないんだが
もちろん画像認識みたいな潜在的ルールを学習して明示的なプログラミングを省くする例なら山ほどある ■ このスレッドは過去ログ倉庫に格納されています
