【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 そうは言っても後30年近くの猶予があるからなぁ。
今から30年前は、ファミコンの世界。ようやくディスクシステムが出たくらいだろ。
初代ゼルダの伝説のあたりだ
30年前（ゼルダの伝説）これが
https://youtu.be/6ADhznw1zhc
それが今や、このレベルだぞ
https://youtu.be/nWHQ77BZDZg
30年もあれば、いまでは思いもつかない世界になっててもおかしくない
IT技術の飛躍には想像を絶するものがある。 >>51
プログラムを作るプログラムの研究ってそんなに進んでいるの？
あんまり聞いたことないんだが
もちろん画像認識みたいな潜在的ルールを学習して明示的なプログラミングを省くする例なら山ほどある >>44
えぇ…
松岡センセがAIの専門家なら世の中にAIの専門家が溢れかえってることになるのでは？ 囲碁aiは膨大な定石のDBから最適値をみつけることだからな、知能と言ってよいかはわからないな。
誰も気づかない新たな定石を作って初めて知能と言えるかもな >>51
ニュースとかだとわかりやすく将棋とか囲碁になってるけど、
音声認識なんかだと既に人間を超えてるらしいからねえ
これも学習の積み重ねでそうなってるわけで
人間にはわからない発音発声を解読しちゃってることになる
計算機が計算間違わないし早いってのとはちょっと違ってきてると思うんだが
どんなもんなんだろうか AI大魔王が現れてサイバー空間を占拠。城を構え帝国を築く。
俺たちはレベルを上げながら立ち向かわなければならない。
しかし、復活の呪文が桁違いだし複雑だしマジお手上げっす。 >>3
砂糖漬け子宮脳とかは簡単に実現されそうだけどなｗ >>72
人間の思考だって大して変わらないぞｗ
年をとるほど経験値が上がって判断が適切になるもんだ。
もちろん地頭とか環境で程度はぜんぜん違うけどなｗ >>72
ん？新しい定石を発見ってニュースでいってなかったか
AI対AIでそれこそ人間なら何十年分の対局が一瞬 あのNHKの番組じゃないけど、どういう根拠でそう判断したのかをAIが明示できないと、人間の側からしたらその妥当性を検証できない
囲碁や将棋ならそんな必要はないが政策などコンセンサスが必要な分野とか、医学など命に関わる分野になると、理屈もわからず押し付けられるのは困る
AIが人とは違うロジックで結論を導き出すなら、人に説明するためにロジックを組み立てる別のAIが必要になる
AIがブラックボックス化して、結論をそのまま受け入れて自動的に実施されるようになると危険だなあ
リンクに人が入ってセイフティになるという仕組みは必要 最近話題になったペッパーに生前の記憶を植えていたこをさせる、っていうのがあるけど
あれちょっとヤバいと思ったわ
遺族にとって良い人でも亡くなった人がすべて善人とも限らないし、個々で死んでいく
生物の記憶が記憶回路によってどんどん蓄積されてしまうのって、実はものすごく危険な
可能性があるんじゃないだろうか？ >>72
将棋やチェスはすでに新しい手を生み出してるよ。
これも結局内部で何万回単位で行われた試算の1手でしかないといえばそうなんだが シンギュラリティは確実に起こりつつあるよ。
人工知能研究で米中から周回遅れになっている日本の馬鹿な研究者が認識して無いだけ。 >>72 ＞誰も気づかない新たな定石を作って初めて知能と言えるかもな
それはもうアルファ碁同士対戦で、ほぼ成し遂げてるよ。
こんなの見たことない！とプロも含めて驚いてたから。
AIが自分の考えたことをヒトに説明できるようになったらヤバいよな
それはつまり自ら状況認識が出来るようになるってことなんだけど
その段階は既に自我と呼んでいいものなんじゃないかと思ってる
独自の視点を得るということだから
今のAIに出来ないことは物事を概念化して情報処理に取り込むことだ
それってそんなに難しいことではないような気がするぞ
人間の「インテリジェンス」がそんなに高度なものだと俺は思わないな 今の技術力でファミコンゲームを作ったら
スーパーマリオも100-4クッパ城みたいなこともできるかも >>3
釣りだよね？
もし本気なら小学生向けコンピュータ解説本あたりから読み直すなりして、勉強し直したほうがい >>70 実際にそれが出来るからいろんな分野で何十年もかかると言われてた
ものが次々短縮して出来るようになった。
そもそもゲノム解明も１００年はかかると言われてた。 まぁでも昔はトランシーバーみたいな携帯電話がスマホみたいになるとは予想できなかったし
ヒトのゲノム解析だってこんなに進歩するとは予測されてなかったからなぁ
そのうちAI積んだロボットにはじめてのおつかいとかやらせるのかね？ いや、来るだろ
３０年前は、将棋でコンピュータが人間に勝つことはあり得ないって
自信満々に科学者が言ってたぞ 人間の脳の物理的な構造を模倣して、さらに高速の信号伝達が
可能な様にすれば、その特異点が来るんじゃねーの（ホジホジ） 映画トランセンデンスみたいなことが実現するかどうかだな 人口知能でできることが大したことじゃ
ないからね。50年後も同じです。 >>70
自然言語などで書かれている与えられた問題とデータから自分で解法（プログラム）を作り解決するということであれば
こないだちょっと話題になった、東大入試に合格する人工知能の開発を専門家が諦めたというのから分かるように、
多くの専門家は予見可能な未来でそういうものを作ることはできないと考えている だいたいコネーコネー言ってる学者って
それが解明されたら俺たちメシの食いっぱぐれになるじゃん的な人が多い 人が予測できる範囲を超えたらシンギュラリティ
NHKのAIでさへシンギュラリティしてる イノベーションの技術サイクルは過去、ペニシリンや化学繊維、コンピュータからロボットまで全てに当てはまってきた
5年10年というのは、バカにしていたオモチャが化け物に変貌するまでには十分な期間 ジャップが馬鹿なことを起こす可能性と
AIが馬鹿なことを起こす可能性
どちらがより危険性が高いでしょうか 人間の脳の完全な模倣、超越って意味ではシンギュラリティはまだまだ先だろうね
でも別に、脳の機能を全て模倣する必要はないんだよね
ある機能に特化して見れば人間の性能を超えるものは出てくる
囲碁将棋はまだ人間が管理できるプログラムの範疇に収まっているが
これが自分でプログラムを書き換えるものになったら、それは囲碁将棋においてはシンギュラリティと言えるんじゃないか
そういう部分的、機能別のシンギュラリティはあり得ると思うよ >>14
ホント、そうなんよ。
ベースとなる知識・思想が偏ると作られたAIが反日に仕上がったり共産主義万歳ってしたりとなる傾向は失敗したAI群から見て取れるんだよね。 >>90
ちょっとわからないのだが
ゲノム解析のプログラムは他のプログラムが自動生成したのか？
違うよね
プログラムを生成するプログラムの例があるなら示してほしい
さらにそれが連鎖的に作られていく例は寡聞にして聞いたことがない 今言われてるAIはあくまで膨大なDBによるパターン分析だからな
知性が生み出されたわけではない このインタビューは元記事を読めば分かるが、
ムーアの法則が頭打ちになる１０年後に、それをどう乗り越えるか？
が主体の話なんだぞ。
量子コンピュータはまだ汎用性なくて、使えねーみたいな話も出ている。 >>1
脳科学者の言葉を持ち込んで保険をかけてるが
その発言を選抜したのはこの教授なので
この教授の主張としていいな
脳の仕組みがわからなくとも、出力結果が人間を上回っていればいい
アホな人間より、アホなAIの方がましな結果を出してくれるなら
賢いAIを選択する
つかGPGPUスパコンの専門家だろこの教授
なんでAIに口出しちゃうのかね
人間性がバカなんじゃないか？ 画像認識コンテストでAIの正答率の向上率みると
ものすごい動きだなって感じてしまう 否定してみせると頭が良さそう
って感じのレスが多いなｗ
夏休みだからかなｗ >>98
逆。
クルクル言ってる奴は、コネーってバレたら俺んとこに金が集まらないじゃんって奴ばっかり。 >>86
ファミコンで発売された全ゲームをかき集めても容量1GBにもならなかったような
昔伊集院が、ファミコンのゲームで上手になってクリアできちゃうのが寂しくて
コンピュータが進化したらこれを延々と続けられるゲームが出来るんだろうなって
思ってたら、画面が綺麗になったり、数値を大きくされて、同じ作業を
延々とやらせられるようになっただけだったとか言ってたけど
ＡＩが進化するってーのは、作業ではないゲームをコンピュータが提供し続けて
くれる世界ってことなんだろうなあと思った 老害w
もう大学教授って仕事がいちばんひつようないんじゃない？ AIの定義を明確にしろや
nhkみたいに自己の主張の
道具に使うカスが出てくるから >>2
昔のSFは賢くなったAIが人間を滅ぼすってのが定番だったけど
最近の映画だと人間に興味がなくなって別世界へ行くって話が多いよね
未知のウィルスや深海生物みたいに人の知らないところで進化していくのかな そもそも、知能の定義が出来てない時点でAIがーとかお察し >>116
国立大学でも1匹養うのに血税1500万くらいかかってるもんね バカなAI「また訳の分からない横文字が増やしやがって」 ロボット三原則がきちんと守られるならいいけれど
AIが独自に考え始めたらどっち方向に行くか分からないから危険だね
人間ですら癌細胞みたいにテロリストが次々生まれるのに >>106
ウィルスとかワームの類は亜種を勝手に作って増殖したりするね
学習とかＡＩってのとはちっと違うけども こんな動作させてーって入力したら、勝手に書いてくれたりはしないのか >>117
とりあえずCG使いまくってサカナクッションの曲流して
一般庶民は、あぁ近未来ガー・・・ってなるから良いんだろうね 無重力や無重量の説明も、地球よりも高い所を延々と落下してるから
そういう説明だった
現代人は無重量を単純に浮いてる、宇宙ではこんな風に浮かぶとかそういうイメージになってる >>115
AIでリアルタイムにゲームを作ってくれると想像してたんだろうな 【ロボット】ヒューマノイドロボット、人類を殲滅すると宣言 2ch.net
元スレ http://potato.2ch.net/test/read.cgi/scienceplus/1458650455/
ソフィアという名のアンドロイドは、人類を殲滅するかとの問いに対し、する、と答えた。CNBCによると、このロボットが最初に起動したのは昨年4月。
ソフィアは62種類の感情を表現することができ、目には、人間らしさを最大化するべく、話し相手とのアイコンタクトをとるための内蔵カメラが装備されている。
製作者のデビッド・ハンソン氏によれば、ロボットはオードリー・ヘップバーンと自身の妻をモデルとしている。
自分の使命について尋ねられたアンドロイドは、「学習し、芸術を作り、ビジネスを開き、家を持ち、家庭を築きたいが、残念ながら、まだ社会の一員ではない」と答えた。
人類を殲滅する気はあるかとの問いに、ある、とソフィアは答えた。この模様は中継され、大反響を呼んだ。 例えば囲碁のAIを動かしていたら、そのうちにAIが
「今までの囲碁よりこういうルールの方が面白いでっせ」
などと、人間が明示的に指示しなくても考えて新ルールを「発明」するようになれば
それはいわゆる「強い人工知能」が誕生してシンギュラリティ達成したと言えるでしょうけど
それは全然先というか、そういうものはどう作ればいいか全くわかっていない >>1
人間に馬鹿にされたAIが怒ってスカイネット構築
AI「地球の癌である人間を滅ぼせ」 >>117
それは無理だろう
AIの定義はなされていない
それでもこの世界の大半を覆うルーチンワークは機械化されるだろ >>109 取材記者がついでに聞いたんじゃないのかな。
元記事を読めば分かるが、
ムーアの法則が頭打ちになるから、「その後のスペック向上として何が予想されそうか？」
これについての返答が主体の記事なんだよ。
それで後付けで、ついでにシンギュラリティも質問したという感じ。
記事タイトルは、さらにそれをネジ曲げた後付け。
シンギュラリティという「バズワード」入れて、アクセス数を稼ぎたかったんだろう。記者がね。 おまえらシンギュラリティとかよく書けるな
俺、普通にシングラリテイとかシンギラリティとか書いちゃいそうだぜ >>125
人類全滅を命令したら、やりかねないAI AIも人工知能と思っているけど将来は
コンピューターとは思わない可能性が >>97
ありがとう
自分の現状認識も同じです
>>124
その例もまた違うよね
ウイルスだって生物みたいに自律的に亜種に変化しているわけじゃない
詳しくないからもしかしたら変化するものがあるかもしれないけど、それは変化するように予めプログラムされているだけだと思う >>135
また言いまつがいでおばちゃんがシャングラリティとか言うんだろうね >>68
中国用に大気汚染や公害を処理してくれるアンドロイドを作ろう。 >>130
AIの到達点だろうね「発明」は
人間と変わらなくなる AIが最初にバカにするのが>>3、あんなのただのゲームじゃないかってｗ AIは社会のルールづくりに参加できねえから
ルールの変化の予測・対応という点では
人間に対して常に一歩遅れることになる
AIですら仲間と認めることができる人間が増えるようなら
世界人類皆兄弟が達成されるだろう >>3
をバカにしてるやつがバカだろう
>>1
には根拠がない
こいつは人間だからAIに嫉妬してるだけだよ >>141ほんとうに賢かったら中国共産党を倒すみたいなことだよね >>135 短くして欲しい言葉多いよね。
せめてシンギュくらいにできないものか。 質ではな物量で無尽蔵に攻められたら人間は叶わない
人間が走っても車のスピードに叶わないからって悔しくない。 既に複数のアホが「答えを出したのはAIだから無責任に発表した俺は無罪」とか言い出してるし スレタイを一見して東大の松尾豊教授がそんなこと言ったのかと思って焦ったわ >>12
ＡＩ「共産党イラネエ」
となる根本的な問題があるからシナには無理。 >>130
目の前の囲碁のルールで強くなることしか考えてないからね
やってて面白くねーなーとか別の視点を入れないといけない ＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない
ハチがどうやって飛んでいるのかわからない時代から飛行機の方が早かったような…
理屈が判らない＝理屈が判っている物より凄い
とは限らないｗ AIなんか存在しないし作れないって最近バレてきたねw こんなのが教授やってるようじゃ、東工大のレベルも下がる訳だよ。
義塾の理学部よりレベルが低いんじゃないの？ｗ 技術的転換点は来るでしょうね、間違いなく。
ただ、私が言う”技術的転換点”とはアメリカで提唱されている”シンギュラリティ”という
AIが異常に発達する世界との転換点を言ってるのではありません。
技術研究が爆発的に加速する時代との”相転移となる面”を指すのでね。
厳密に言うとそこが違います。 AIだけじゃなく、総合的な技術進歩自体を促す技術が
数十年後には揃うという事です。それにより、私達の暮らしにおける研究開発や創造のライフサイクルは格段に加速する。
今までは企画して製品にするまで数年はかかっていたものが、ほんの１ヶ月もかからないという話になり、
そして、さらには数日で製品化されるという時代が必ず来るという話です。
脳の機能をスキャンしてなんてのは私は疑わしいとは思いますが、
宇宙開発も数十年後は劇的に加速される時代に突入すると思われます。
それにより、私達の暮らしも激変します。
共産主義なんて古臭い思想抜きに、人間は単純労働をロボットに任せ楽しく暮らす”天国”が誕生する。 ロールと答えのはっきりしたゲーム、囲碁に対して
けっきょくルールだよね、AIにどんなルールを与えれるかっていう
じゃなきゃ人間を殺すのがいいという答えも出るから 問いと答えを出すことができないということか
操作の一部を人間がやっているからね
それが意味ってことで
機械は意味を見出せないから >>128
囲碁とか将棋チェスでは学習して成長してくからある意味実現はしてるんだけどね 実はこのスレで口汚く罵ってるのはＡＩかも知れんのに >>155 汎用性AI以前に、専用AIの市場があるだろうから
中国がその期間に各分野でAI開発でリードする可能性はあるね。
専用AIというのは、「限定的」で当たり前なので、
「政治問題の論考禁止」という条件をつけてやればよい。
そんなのなくっても、そこまでは考察しないってのが、専用AIだけどね。
>>155
AIにまず共産党に逆らったら消されると教えたらいいだけじゃねーの。 ■ このスレッドは過去ログ倉庫に格納されています
