【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 既に将棋、囲碁で人間の知能上回ってんだけど
こいつバカか かぼちゃの馬車に乗って王子様のキスで目覚めるために
七人の小人とともに桃から生まれてお椀の船でやってくるのよ 特異点だー革命だーと主張するのは自由
それを評価するのは後世であっておまえらじゃないよ >>3
頭の悪い俺に、あれを知能と呼ぶ根拠を教えてくれ だから管理することだよな、個体にうつしてラムの世界だけに閉じ込めない
ちゃんとセンサーとマニュで構成して
一個体ごとに人権があって >>1
> 脳はものすごく複雑で、本当はどう動いているのか全然分かっていない
ならシンギュラリティが来ないという根拠は無いんじゃ…？ シンギュラリティだからゼロに向かうてことだろ
あるんじゃないか AI「バカって言う方がバカなんですぅ〜」
とか言い出す日は近いだろうけど バカなＡＩ「そのAIをつくった人間がｺﾞﾆｮｺﾞﾆｮ」 2045年にはこのオッサンも85だから
この話が間違ってても誰もツッこまないだろうから気楽なもんだな。 >>6
これ話すとそもそも知能とはなんぞやという話になるけど、「ごく一部の分野でしか使えない知能」とみる人は結構いる 得意分野が違うんだよな。
だから、互いを補佐すれば上手く行く。 「中国共産党は腐っとる」と答えるAIは共産党に取ればバカだけど中国一般国民には
賢いAIと評価されるのかな？ シンギュラリティで人間がAIに従って当然の時代に
安物のCPUに安物のAIが混じってくるのは怖い 擬似的な模倣、これは人間を超えない根拠になるのか？ >>8
深層学習では内部でどういう計算が行われてるのか外から見てもわからんから
AIがどういう計算結果を出してくるか人間には予測できないところがある
なので囲碁や将棋で人間には思いつかなかったような凄い手を打ってくる
同じ理由から、人間には予測できないようなバカな判断ミスをする可能性もある
ただしAIが計算を行う仕組み、原理自体は完全にわかっている（人間が設計して作ったんだから当たり前）
一方、脳については、どういうプロセスで思考してるのかという仕組み自体がよくわかってない
だから脳を超える機能をもったコンピュータを作ることは現時点ではできないという話 >>10
経済担当AI 防衛担当AI 外交担当AI ガス検針担当AI
.|:::::::::/ |ﾐ| ､､＿＿
|::::::::| ,,,,, ,,,,, |ﾐ|,,ﾐ::::::::::::::￣'''ヽ
|彡|. '''"""'' ''"""'' |/:::;r―――-､:::| ノ´⌒｀ヽ,,
/⌒| -=・=‐, =・=- |::::::|｡0 U |:|γ⌒´ ヽ, _,--―--.
| （ "''''" | "''''" |::::::| ,,;;,, ,,;;,, |/／ ""⌒⌒＼ ） /r-‐v-―ヽ
ヽ,, ヽ .|‐､! =・- =・- |/ ＼ ／ ヽ ） V.＿ ＿ ﾐl |
| ^-^ | ( ヽ, |'' (･ ）｀ ´( ･） i/ i'━ '━ ∨
.| ‐-=＝=- |｀l ヽU _¨´ ｲ| （__人_） | ( .j_､ |
/: ＼. "'''''''" / ｌ､ 'ｰ＝‐ / ＼ ｀ｰ' ／ '、 =- 〉 丿
／:::::::丶＼ .,_＿＿__,,,.／:::ヽ./＼ ､ﾆニ,,/| ／ ＼ iヽｰ イ
_,,-=ゝ,.. ,,-―--､ .|:::ヽ ........ ........ /:::::|
／/ ⌒ヽ_（／￣￣ ゛ヽヽ|::／ ) ( ヾ::|
. ./／￣ヽ // ・ ー--゛ﾐi.|:;;| -=・=‐ ‐=・- :|6
../‖ ＼______`l ノ (ﾟ｀> ゛|:（ 'ｰ-‐' ヽ. ー' |/
.l | ＝＼,, ,,／＝ .| (ﾟ｀> ヽ ヽi ／(_,､_,)ヽ |
. .|. （●） （●） | （．・ ) |. .| ／ .＿＿_ ＼ ｜
| （__人__） | ( ＿,,ヽ .|. ヽ ノｴｪｪｴ> ﾉ
| |r┬-| .l (￣ ,,, }. ／|ヽ ー--‐ ／|＼.
ヽ `ー'´ ヽ ￣" ／ ::::::ヽ ＼ ＿＿＿／ /:::::::
.／ ＼__ ,__／ ヽ ／.:::::::::::::::丶 ＼ ／ /::::::::::
担当なしAI 原子力担当AI 選挙担当AI 「知的な」判断は、人間でもそもそも難しいので
でも、ただの条件分岐で解決できる問題が多いのも確か ＡＩは学習するんだから、いつかは人間の脳を超えるでしょ。 脳を超えるんじゃなくて、人間の能力を超えるって話だから
脳の様な構造に拘る必要はないんでないの？
コンピュータはヒラメキみたいなもんじゃなくて、総当りで正解を出すんだろうけど >>22
それ出来ない理由にはなってないよね
人間とは別の方法で出来るようになるかも知れないし 馬鹿に選ばれた馬鹿な政治家が馬鹿な行政運営をするように、AIもまた同じこと
まぁ 結果論だな 既に馬鹿な人間がいくつも危険な事態を引き起こしてきたじゃないか
だったらＡＩが同様のことをしても大して変わらん これからの人間はcompめちゃつよの無理ゲーをやらされることになるのけ？(・ω・) >>1
＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
シンギュラリティと脳云々は関係ないから
プログラム自身が自己より高性能な
プログラムを作るって話だろ
それが起きたら加速度的に性能上がる 鳥や昆虫のような飛翔体はまだまだ作れないが
超音速で飛ぶ飛行機は作れる
完全に人の脳を理解してまねすることはできないが
機能面で人間を圧倒することは可能
問題は人にしかできないことが本当に不可欠な仕事なのかいうこと
実は無くてもいい機能かもしれない 疲れも無しに努力し続けるんだからいつかは越えるだろ 今よりさらに進化した人工知能なら
悪意を持った人間が悪用しようと思えばとんでもない事態を引き起こせそうだわな >>34
ルーディ・ラッカー『ソフトウェア』の到来だな
あの人SF作家としての見識と洞察力じゃアイザック・アシモフを上回っていると思う そもそも人間(有機知性体)は
無機物の知性体を作るために産み出されたんだよ。 実際
「脳みそをまるごとシュミレーションする」
って荒業が真面目に考えられてるから、技術さえ進めば脳みその仕組みとかも関係なくなるんだよな。
というのをあまり考慮してない未来予想だ
>>27 松岡先生は、本当の専門家ですもんね
インチキAI専門家が多すぎて >>28
シンギュラリティというのは脳とコンピュータの性能比較だから
コンピュータ＞＞＞脳とするためには基準を脳の性能に置いて、それとの比較で論じることになる
つまり人の脳にできることが基本的に全部コンピュータで置き換え可能にならない限り
シンギュラリティにはならない
人の脳の機能をすべて再現できるコンピュータが作れたということは
人の脳の仕組みを完全に原理的に解明できたということとイコールだよ >>37
初見で斬紅郎無双剣を全クリしろと言われるような状況ね(´・ω・｀) 株価が上がるから
人工知能は盛り上がってるだけだぞ。
いずれ崩壊する >>28
超えたかどうかを判断する｢基準｣が作れないってことなんだけど 技術的な間違いはむしろ減るかもしれないけど、
人の感情を逆なでするようなことをどんどんやりだす可能性はあるよね
ＡＩの適用領域みたいなのをちゃんと決めておく必要があると思う >>27 理論的にいえばＡＩが人間より賢く速くプログラムを作る事が出来て
さらにまたそのプログラムがまたさらにすごいプログラムを作る。
それをやっていくうちに研究スピードも飛躍的にあがりそれがシンギュラリティに
繋がっていくという事だな。 >>22
学習されたフィルタが何を掴んでいるのかを可視化する試みはだいぶされてるんですけどね 今の人口知能は前世代の知性の模倣という
ファンタジーを諦めたから成功した
シンギュラリティなんてバズワードでしかない 鳥や昆虫のような羽ばたきを真似しようとする試みはことごとく失敗して
固定翼とプロペラ推進で飛行機は実用化された
脳の働きを調べることでアイデアが生まれるかもしれないけど
脳を模倣しなければ人工知能ができないわけではない >>3
あれは囲碁に特化した分散コンピューティング専用のソフトでしかない。 >>34 ＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。
それを言ってるのは、脳科学者のほうであって、
この当人の東工大の人は、どっちかというと間接的否定しかしてなくて、
あり得ると言ってるようにも思えるね。 人間の脳が複雑過ぎてよくわからないから、AIが人智を上回ってるのかどうかもわからない。
ということ？ AIの問題は計算過程が膨大で
人間に経過が理解できない事
なぜそうなったかが人間には分からず結果だけ出される 離婚はない。しかしバカな嫁が危険な事態を引き起こす可能性は十分にある。
みたいなもんですかね
どっちにせよ、そんなの作った人間の責任じゃんｗ >>1
このての話題を読むたびに思うのですが、ただの自動運転とAIによる運転の違いをどのように定義しているんですかね？ 問題だ
ir = 1+2+3+(√1)*tan(360)+fun^10+(rnd(12.13))/(rnd(4.13) )
これがなにか、ＡＩに答えてもらおうか >>34
プログラムがより高性能なプログラムを生むという状況を仮定したとしても
それが「加速度的」な性能向上になるかどうかはまた別の問題
コンピュータの性能向上をグラフで描いたときに指数関数的なものになるのか
それともロジスティック関数みたいな曲線を描いてどこかで頭打ちになるのかという話
コンピュータの進化も物理現象の一種ととらえればロジスティック関数に従うほうが自然だと思うけど 知性で一番簡単な例は生成文法だけど
これも仮説が蓄積しているだけで
何も積み上げられていない。
言語の知見は莫大に得られたがそれだけ まあ人間の代わりに働いてくれるアンドロイドは出来ないってこった そうは言っても後30年近くの猶予があるからなぁ。
今から30年前は、ファミコンの世界。ようやくディスクシステムが出たくらいだろ。
初代ゼルダの伝説のあたりだ
30年前（ゼルダの伝説）これが
https://youtu.be/6ADhznw1zhc
それが今や、このレベルだぞ
https://youtu.be/nWHQ77BZDZg
30年もあれば、いまでは思いもつかない世界になっててもおかしくない
IT技術の飛躍には想像を絶するものがある。 >>51
プログラムを作るプログラムの研究ってそんなに進んでいるの？
あんまり聞いたことないんだが
もちろん画像認識みたいな潜在的ルールを学習して明示的なプログラミングを省くする例なら山ほどある >>44
えぇ…
松岡センセがAIの専門家なら世の中にAIの専門家が溢れかえってることになるのでは？ 囲碁aiは膨大な定石のDBから最適値をみつけることだからな、知能と言ってよいかはわからないな。
誰も気づかない新たな定石を作って初めて知能と言えるかもな >>51
ニュースとかだとわかりやすく将棋とか囲碁になってるけど、
音声認識なんかだと既に人間を超えてるらしいからねえ
これも学習の積み重ねでそうなってるわけで
人間にはわからない発音発声を解読しちゃってることになる
計算機が計算間違わないし早いってのとはちょっと違ってきてると思うんだが
どんなもんなんだろうか AI大魔王が現れてサイバー空間を占拠。城を構え帝国を築く。
俺たちはレベルを上げながら立ち向かわなければならない。
しかし、復活の呪文が桁違いだし複雑だしマジお手上げっす。 >>3
砂糖漬け子宮脳とかは簡単に実現されそうだけどなｗ >>72
人間の思考だって大して変わらないぞｗ
年をとるほど経験値が上がって判断が適切になるもんだ。
もちろん地頭とか環境で程度はぜんぜん違うけどなｗ >>72
ん？新しい定石を発見ってニュースでいってなかったか
AI対AIでそれこそ人間なら何十年分の対局が一瞬 あのNHKの番組じゃないけど、どういう根拠でそう判断したのかをAIが明示できないと、人間の側からしたらその妥当性を検証できない
囲碁や将棋ならそんな必要はないが政策などコンセンサスが必要な分野とか、医学など命に関わる分野になると、理屈もわからず押し付けられるのは困る
AIが人とは違うロジックで結論を導き出すなら、人に説明するためにロジックを組み立てる別のAIが必要になる
AIがブラックボックス化して、結論をそのまま受け入れて自動的に実施されるようになると危険だなあ
リンクに人が入ってセイフティになるという仕組みは必要 最近話題になったペッパーに生前の記憶を植えていたこをさせる、っていうのがあるけど
あれちょっとヤバいと思ったわ
遺族にとって良い人でも亡くなった人がすべて善人とも限らないし、個々で死んでいく
生物の記憶が記憶回路によってどんどん蓄積されてしまうのって、実はものすごく危険な
可能性があるんじゃないだろうか？ >>72
将棋やチェスはすでに新しい手を生み出してるよ。
これも結局内部で何万回単位で行われた試算の1手でしかないといえばそうなんだが シンギュラリティは確実に起こりつつあるよ。
人工知能研究で米中から周回遅れになっている日本の馬鹿な研究者が認識して無いだけ。 >>72 ＞誰も気づかない新たな定石を作って初めて知能と言えるかもな
それはもうアルファ碁同士対戦で、ほぼ成し遂げてるよ。
こんなの見たことない！とプロも含めて驚いてたから。
AIが自分の考えたことをヒトに説明できるようになったらヤバいよな
それはつまり自ら状況認識が出来るようになるってことなんだけど
その段階は既に自我と呼んでいいものなんじゃないかと思ってる
独自の視点を得るということだから
今のAIに出来ないことは物事を概念化して情報処理に取り込むことだ
それってそんなに難しいことではないような気がするぞ
人間の「インテリジェンス」がそんなに高度なものだと俺は思わないな 今の技術力でファミコンゲームを作ったら
スーパーマリオも100-4クッパ城みたいなこともできるかも >>3
釣りだよね？
もし本気なら小学生向けコンピュータ解説本あたりから読み直すなりして、勉強し直したほうがい >>70 実際にそれが出来るからいろんな分野で何十年もかかると言われてた
ものが次々短縮して出来るようになった。
そもそもゲノム解明も１００年はかかると言われてた。 まぁでも昔はトランシーバーみたいな携帯電話がスマホみたいになるとは予想できなかったし
ヒトのゲノム解析だってこんなに進歩するとは予測されてなかったからなぁ
そのうちAI積んだロボットにはじめてのおつかいとかやらせるのかね？ いや、来るだろ
３０年前は、将棋でコンピュータが人間に勝つことはあり得ないって
自信満々に科学者が言ってたぞ 人間の脳の物理的な構造を模倣して、さらに高速の信号伝達が
可能な様にすれば、その特異点が来るんじゃねーの（ホジホジ） 映画トランセンデンスみたいなことが実現するかどうかだな 人口知能でできることが大したことじゃ
ないからね。50年後も同じです。 >>70
自然言語などで書かれている与えられた問題とデータから自分で解法（プログラム）を作り解決するということであれば
こないだちょっと話題になった、東大入試に合格する人工知能の開発を専門家が諦めたというのから分かるように、
多くの専門家は予見可能な未来でそういうものを作ることはできないと考えている だいたいコネーコネー言ってる学者って
それが解明されたら俺たちメシの食いっぱぐれになるじゃん的な人が多い 人が予測できる範囲を超えたらシンギュラリティ
NHKのAIでさへシンギュラリティしてる イノベーションの技術サイクルは過去、ペニシリンや化学繊維、コンピュータからロボットまで全てに当てはまってきた
5年10年というのは、バカにしていたオモチャが化け物に変貌するまでには十分な期間 ■ このスレッドは過去ログ倉庫に格納されています
