【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>86
ファミコンで発売された全ゲームをかき集めても容量1GBにもならなかったような
昔伊集院が、ファミコンのゲームで上手になってクリアできちゃうのが寂しくて
コンピュータが進化したらこれを延々と続けられるゲームが出来るんだろうなって
思ってたら、画面が綺麗になったり、数値を大きくされて、同じ作業を
延々とやらせられるようになっただけだったとか言ってたけど
ＡＩが進化するってーのは、作業ではないゲームをコンピュータが提供し続けて
くれる世界ってことなんだろうなあと思った 老害w
もう大学教授って仕事がいちばんひつようないんじゃない？ AIの定義を明確にしろや
nhkみたいに自己の主張の
道具に使うカスが出てくるから >>2
昔のSFは賢くなったAIが人間を滅ぼすってのが定番だったけど
最近の映画だと人間に興味がなくなって別世界へ行くって話が多いよね
未知のウィルスや深海生物みたいに人の知らないところで進化していくのかな そもそも、知能の定義が出来てない時点でAIがーとかお察し >>116
国立大学でも1匹養うのに血税1500万くらいかかってるもんね バカなAI「また訳の分からない横文字が増やしやがって」 ロボット三原則がきちんと守られるならいいけれど
AIが独自に考え始めたらどっち方向に行くか分からないから危険だね
人間ですら癌細胞みたいにテロリストが次々生まれるのに >>106
ウィルスとかワームの類は亜種を勝手に作って増殖したりするね
学習とかＡＩってのとはちっと違うけども こんな動作させてーって入力したら、勝手に書いてくれたりはしないのか >>117
とりあえずCG使いまくってサカナクッションの曲流して
一般庶民は、あぁ近未来ガー・・・ってなるから良いんだろうね 無重力や無重量の説明も、地球よりも高い所を延々と落下してるから
そういう説明だった
現代人は無重量を単純に浮いてる、宇宙ではこんな風に浮かぶとかそういうイメージになってる >>115
AIでリアルタイムにゲームを作ってくれると想像してたんだろうな 【ロボット】ヒューマノイドロボット、人類を殲滅すると宣言 2ch.net
元スレ http://potato.2ch.net/test/read.cgi/scienceplus/1458650455/
ソフィアという名のアンドロイドは、人類を殲滅するかとの問いに対し、する、と答えた。CNBCによると、このロボットが最初に起動したのは昨年4月。
ソフィアは62種類の感情を表現することができ、目には、人間らしさを最大化するべく、話し相手とのアイコンタクトをとるための内蔵カメラが装備されている。
製作者のデビッド・ハンソン氏によれば、ロボットはオードリー・ヘップバーンと自身の妻をモデルとしている。
自分の使命について尋ねられたアンドロイドは、「学習し、芸術を作り、ビジネスを開き、家を持ち、家庭を築きたいが、残念ながら、まだ社会の一員ではない」と答えた。
人類を殲滅する気はあるかとの問いに、ある、とソフィアは答えた。この模様は中継され、大反響を呼んだ。 例えば囲碁のAIを動かしていたら、そのうちにAIが
「今までの囲碁よりこういうルールの方が面白いでっせ」
などと、人間が明示的に指示しなくても考えて新ルールを「発明」するようになれば
それはいわゆる「強い人工知能」が誕生してシンギュラリティ達成したと言えるでしょうけど
それは全然先というか、そういうものはどう作ればいいか全くわかっていない >>1
人間に馬鹿にされたAIが怒ってスカイネット構築
AI「地球の癌である人間を滅ぼせ」 >>117
それは無理だろう
AIの定義はなされていない
それでもこの世界の大半を覆うルーチンワークは機械化されるだろ >>109 取材記者がついでに聞いたんじゃないのかな。
元記事を読めば分かるが、
ムーアの法則が頭打ちになるから、「その後のスペック向上として何が予想されそうか？」
これについての返答が主体の記事なんだよ。
それで後付けで、ついでにシンギュラリティも質問したという感じ。
記事タイトルは、さらにそれをネジ曲げた後付け。
シンギュラリティという「バズワード」入れて、アクセス数を稼ぎたかったんだろう。記者がね。 おまえらシンギュラリティとかよく書けるな
俺、普通にシングラリテイとかシンギラリティとか書いちゃいそうだぜ >>125
人類全滅を命令したら、やりかねないAI AIも人工知能と思っているけど将来は
コンピューターとは思わない可能性が >>97
ありがとう
自分の現状認識も同じです
>>124
その例もまた違うよね
ウイルスだって生物みたいに自律的に亜種に変化しているわけじゃない
詳しくないからもしかしたら変化するものがあるかもしれないけど、それは変化するように予めプログラムされているだけだと思う >>135
また言いまつがいでおばちゃんがシャングラリティとか言うんだろうね >>68
中国用に大気汚染や公害を処理してくれるアンドロイドを作ろう。 >>130
AIの到達点だろうね「発明」は
人間と変わらなくなる AIが最初にバカにするのが>>3、あんなのただのゲームじゃないかってｗ AIは社会のルールづくりに参加できねえから
ルールの変化の予測・対応という点では
人間に対して常に一歩遅れることになる
AIですら仲間と認めることができる人間が増えるようなら
世界人類皆兄弟が達成されるだろう >>3
をバカにしてるやつがバカだろう
>>1
には根拠がない
こいつは人間だからAIに嫉妬してるだけだよ >>141ほんとうに賢かったら中国共産党を倒すみたいなことだよね >>135 短くして欲しい言葉多いよね。
せめてシンギュくらいにできないものか。 質ではな物量で無尽蔵に攻められたら人間は叶わない
人間が走っても車のスピードに叶わないからって悔しくない。 既に複数のアホが「答えを出したのはAIだから無責任に発表した俺は無罪」とか言い出してるし スレタイを一見して東大の松尾豊教授がそんなこと言ったのかと思って焦ったわ >>12
ＡＩ「共産党イラネエ」
となる根本的な問題があるからシナには無理。 >>130
目の前の囲碁のルールで強くなることしか考えてないからね
やってて面白くねーなーとか別の視点を入れないといけない ＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない
ハチがどうやって飛んでいるのかわからない時代から飛行機の方が早かったような…
理屈が判らない＝理屈が判っている物より凄い
とは限らないｗ AIなんか存在しないし作れないって最近バレてきたねw こんなのが教授やってるようじゃ、東工大のレベルも下がる訳だよ。
義塾の理学部よりレベルが低いんじゃないの？ｗ 技術的転換点は来るでしょうね、間違いなく。
ただ、私が言う”技術的転換点”とはアメリカで提唱されている”シンギュラリティ”という
AIが異常に発達する世界との転換点を言ってるのではありません。
技術研究が爆発的に加速する時代との”相転移となる面”を指すのでね。
厳密に言うとそこが違います。 AIだけじゃなく、総合的な技術進歩自体を促す技術が
数十年後には揃うという事です。それにより、私達の暮らしにおける研究開発や創造のライフサイクルは格段に加速する。
今までは企画して製品にするまで数年はかかっていたものが、ほんの１ヶ月もかからないという話になり、
そして、さらには数日で製品化されるという時代が必ず来るという話です。
脳の機能をスキャンしてなんてのは私は疑わしいとは思いますが、
宇宙開発も数十年後は劇的に加速される時代に突入すると思われます。
それにより、私達の暮らしも激変します。
共産主義なんて古臭い思想抜きに、人間は単純労働をロボットに任せ楽しく暮らす”天国”が誕生する。 ロールと答えのはっきりしたゲーム、囲碁に対して
けっきょくルールだよね、AIにどんなルールを与えれるかっていう
じゃなきゃ人間を殺すのがいいという答えも出るから 問いと答えを出すことができないということか
操作の一部を人間がやっているからね
それが意味ってことで
機械は意味を見出せないから >>128
囲碁とか将棋チェスでは学習して成長してくからある意味実現はしてるんだけどね 実はこのスレで口汚く罵ってるのはＡＩかも知れんのに >>155 汎用性AI以前に、専用AIの市場があるだろうから
中国がその期間に各分野でAI開発でリードする可能性はあるね。
専用AIというのは、「限定的」で当たり前なので、
「政治問題の論考禁止」という条件をつけてやればよい。
そんなのなくっても、そこまでは考察しないってのが、専用AIだけどね。
>>155
AIにまず共産党に逆らったら消されると教えたらいいだけじゃねーの。 プレシンギュラリティが2023年頃
前哨戦みたいなもの
人類の知能はまだ人工知能と対立するし抵抗もする、攻撃的にもなる こいつの書き込みはディープラーニングするまでもなくすぐわかるな >>131
AIに「怒る」と言う感情が必要だし
人間がチンパンジーにキーキー言われて笑われて
怒れるかと言うと… 実際の世界に人間っていう有機物で作られた心を持ち考える(ように見える)存在が当たり前にあるんだから
人間を徹底的に調べればいつかは人工的に作れるようになるだろ。
そうでないと、魂とかクオリアとか霊的な何かが存在すると考えなくてはいけない。 核もクローンもAIも、既に人類が扱える範疇を超えてる
この1000年で大して人類の知能が変化していない事を考えるとこの先が恐ろしい >>168
AI「消される前に共産党を消せば消されない」 >>169 その頃に、専用AIが各分野で各種、出揃ってくるって感じかな。
それでもかなりな自動化・機械化になりそうだよね。 >>138
知能の本能の違いみたいなもんよね
ネズミの実験でも最初は本能に従って迷路を解くんだろうけど
そのうち学習して迷路を解くようになる、これが知能だとするならば
ＡＩは知能を獲得しつつ有る
多くの人はネズミが迷路を早く抜けるように学習したからと言って
それが何の役に立つのかと思うかもしれないが
電子回路はネズミよりも素早く動いて絶対に忘れず、不眠不休で動き続ける
そこから何が生まれるかって事なんだと思うけど 脳の神経回路を機械で正確にマッピングするアルゴリズムが開発
PC Watch http://pc.watch.impress.co.jp/docs/news/yajiuma/1076228.html
ミミズレベルだが、脳神経の世界も驚異的な加速を始めている
GPGPU教授は取り残されている
専門外だから仕方ないのだが
最前線で頑張るなら誘導を躱す脳みそくらい備えていて欲しいな 囲碁将棋が人間を上回った
いずれすべての面で人間を超えるのは必然
人間は、ものすごく複雑だが、
複雑なだけであって、何か神秘的な魔法がかけられてるわけではない ＞原発事故がそうですが
しれっと人災の原発の話を混ぜるのが笑える
所詮は東大か 私の発言とシンギュラリティという言葉が同一と思われるのは誤解を招きますね。
私がいう”技術的転換点”とは正確には相転移を促す”面”であります。
AIだけではない、既に３Dプリンターもかなり高度なことが出来るようになっていますし
ノイマン型のコンピューターも量子の世界が許容する限界までコンパクト化が進み、
そして恐るべき速度で計算が可能になっています。
さらにはそのような恐ろしい速度で計算する論理回路が何十何百も並列で動作する時代が来つつあるのです。
また量子コンピューターでなくても、IBMなんかが既に超並列計算回路は発表してますからね。
光通信の進歩も目覚しく、今後はとてつもない容量のデータが恐ろしい速度で転送され
そして、数え切れない論理回路が同期的に処理をする事が可能になるのです。
そう言った”もろもろの技術群”が一定の条件を満たした時、”技術ビッグバン”とも言うべき現象が
近く発生するであろうと私は予測している。 >>3
言いたいことはわかるよ
総合的な知能では到底人間は及ばないだろうが、一分野にかけては人間より高いスコアを出している。
その分野にかけては既にシンギュラリティが起こってるとも言える。
人間のインテリジェンスとAIのインテリジェンスを比較するなら既に将棋にかけては人間を上回っている。
一分野でも人間より賢いAIが存在するということは、
その分野が増え、統合されればいずれ人間を上回る可能性は必然になる。
ただ人間の場合何をもって人間を上回るかが問題で、感情とか機能とかAIにとって不必要な要素も含め人間なわけで、
そこをAIと比較する必要性は皆無とは思う。 どうせ大半のやつはよく読まないだろうけど
2045年のシンギュラリティは来ないと言ってるだけで
遠い将来においてどうかは何も言ってないからな 特定のルールを元に壮大なパターンマッチングをしてルールを作ってるのが今のAI
故に特定分野の深掘りは素晴らしい成果を上げるが
総合的な思考はできてない >>6
じゃあバカなお前が考える知能の定義をしてくれ ＡＩが人間の思考過程や決定意志の誘導をするのに
真の解を隠して間違った答えを故意に与えて
社会を作り替えることがあるのではないかな
人間騙すなんて簡単だろうから CPUの速度とメモリの容量が劇的に改善されたら
シンギュラリティが来るかも
ただし人間でも二十年かけて教育して一人前になるって工程を
コンピューターにも人格教育してくってことになるのかねぇ
ハル9000も生まれた時はただのバカだったのをチャンドラ博士が育てた ってのは
あながち外れてなかったってことか 囲碁最強
Google DeepMind「AlphaGo（アルファ碁）」
将棋最強
山本一成「PONANZA」
デンソー「ロボットアーム 電王手一二」 ←指し手もロボット 今のAIて、単にデータ照合してるだけやし
自分から取りに行くという、欲求与えればどうかしらんが >>186
予想した時点でのハードとソフトウェアの進化だからねえ
ブレイクスルーがあったらもっと早まるかもしれんし
コルタナ、シリ、Amazonエコー、Ｇｏｏｇｌｅアシスタントみたいなもんが
商業的に成功したなら資本の注入で早まる予測も有る 囲碁というゲームを自動的に指すことを知性とは言わない 東大って実は非力なんじゃない？
東ロボくんも失敗だったよね。
でもGoogleならやれると思う。 たしかに将棋、囲碁で人を超えたけど 算数⁻の計算ではすでに５０年前越えてたんで･･･
これから 人の思考を超えるとか そんなすごいことおきたりするん？
ちなみにgoogleのAI 囲碁では人を超えが 黒人とゴリラを間違えるレベルだよｗ AIもかなりの量の教師データぶっこまないとまともにならんからな
これから１０年位は
人力で教師データを収集するビジネスはかなりもうかりそうだな あなたとわたしのシンギュラリティ、ごめんね！ ごめんね！ 論理的に突き詰めて考えてみて下さい。
現代のAIがここまで賢くなった理由は単純に、”基礎技術が進歩したから”であります。
ノイマン型のCPUでも恐ろしい速度で計算が可能になったから、AIも恐るべき速度で知能が高まっているのです。
ですから、AI研究が進歩したからAI研究は進んでいるのではなく、
AI研究を支える基礎技術群が急速に進歩しているからAIも進歩していると考える方が自然なのです。
ロボットが進歩している理由も同じです。ロボット工学が進歩したからロボットが進歩しているのではないのです。
ロボットの素材となる素材の工学研究が発達し、それを促す物性物理が高度に発達したから
ロボットが格段に進歩したのです。
そして、そういう”基礎研究群”が一定のレベルに達した時、選ばれた人間は天国に行けるでしょう。
だがしかし、全ての人類が天国に行けるかどうかはそれはまた別の話です。 ＞バカなAI
そりゃあ鳶から鷹は生まれないし、子は親に似るし >>189
アドバルーンは悪くない
生存する最も偉大な学者に
チョムスキーがいるが
思想に共鳴するだけでそれが
証明されると考えている奴はお花畑
人工知能の場合はビジネスに直結するしな まあ未知の課題については今の手法では難しそうな気がする
今んところどうすれば良い点が付くかという問題にしか使えない >>194
提唱者は去年2029年に来ると訂正したな。
2045年ってのは2005年時点でのカーツワイルの予想。 >>197
欲求がない限りは無理
災害レベルのシンギュラリティは起きようがない >>35
>>55
その喩えも何か違うんだよな
昆虫や鳥の飛行と人間が作った飛行機はたしかに見た目の機構はかなり違うが
同じ力学法則にしたがって飛んでいるという意味では同じものといっていい
人間が飛行機の技術を発達させることができたのは航空力学の原理を解明したからと言える
人間の脳、意識、知能といった分野では飛行機における航空力学に相当するような
普遍的な原理が解明されていない 評価の仕方が定まってる問題
囲碁なら勝てばいいと明白 >>1
悪者都合によるAI屈指に生み出される犯罪の方がAI自身の意志っぽい独走より脅威でしょ ブラックボックスは中が空っぽかも知れないからこそブラックボックスなんだぜ
俺今めっちゃかっこいいこと言った >>188
そんなもん定義できるなら最初から質問すらしてないわ
自分の中であれは知能かそうじゃないか納得して終わり まぁ、いくら否定しようが世界中のIT企業はAI開発進めてるからな >>193
深層学習だと、正解不正解ではなくＡＩの判断に点数を与えた方が効率がいいらしい
正解ではなく、より高い点数をとなるんだとか
その為なら不正解も選択する
それが欲求と呼べるものなのかはわからんが 囲碁将棋という閉じた領域でコンピュータが人間を越えたからって当たり前やん
手計算よりも電卓を使った方が早くて正確に計算できると言ってるだけの話
知性とはなんの関係もない
問題はその先の話 ■ このスレッドは過去ログ倉庫に格納されています
