【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>141ほんとうに賢かったら中国共産党を倒すみたいなことだよね >>135 短くして欲しい言葉多いよね。
せめてシンギュくらいにできないものか。 質ではな物量で無尽蔵に攻められたら人間は叶わない
人間が走っても車のスピードに叶わないからって悔しくない。 既に複数のアホが「答えを出したのはAIだから無責任に発表した俺は無罪」とか言い出してるし スレタイを一見して東大の松尾豊教授がそんなこと言ったのかと思って焦ったわ >>12
ＡＩ「共産党イラネエ」
となる根本的な問題があるからシナには無理。 >>130
目の前の囲碁のルールで強くなることしか考えてないからね
やってて面白くねーなーとか別の視点を入れないといけない ＞人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない
ハチがどうやって飛んでいるのかわからない時代から飛行機の方が早かったような…
理屈が判らない＝理屈が判っている物より凄い
とは限らないｗ AIなんか存在しないし作れないって最近バレてきたねw こんなのが教授やってるようじゃ、東工大のレベルも下がる訳だよ。
義塾の理学部よりレベルが低いんじゃないの？ｗ 技術的転換点は来るでしょうね、間違いなく。
ただ、私が言う”技術的転換点”とはアメリカで提唱されている”シンギュラリティ”という
AIが異常に発達する世界との転換点を言ってるのではありません。
技術研究が爆発的に加速する時代との”相転移となる面”を指すのでね。
厳密に言うとそこが違います。 AIだけじゃなく、総合的な技術進歩自体を促す技術が
数十年後には揃うという事です。それにより、私達の暮らしにおける研究開発や創造のライフサイクルは格段に加速する。
今までは企画して製品にするまで数年はかかっていたものが、ほんの１ヶ月もかからないという話になり、
そして、さらには数日で製品化されるという時代が必ず来るという話です。
脳の機能をスキャンしてなんてのは私は疑わしいとは思いますが、
宇宙開発も数十年後は劇的に加速される時代に突入すると思われます。
それにより、私達の暮らしも激変します。
共産主義なんて古臭い思想抜きに、人間は単純労働をロボットに任せ楽しく暮らす”天国”が誕生する。 ロールと答えのはっきりしたゲーム、囲碁に対して
けっきょくルールだよね、AIにどんなルールを与えれるかっていう
じゃなきゃ人間を殺すのがいいという答えも出るから 問いと答えを出すことができないということか
操作の一部を人間がやっているからね
それが意味ってことで
機械は意味を見出せないから >>128
囲碁とか将棋チェスでは学習して成長してくからある意味実現はしてるんだけどね 実はこのスレで口汚く罵ってるのはＡＩかも知れんのに >>155 汎用性AI以前に、専用AIの市場があるだろうから
中国がその期間に各分野でAI開発でリードする可能性はあるね。
専用AIというのは、「限定的」で当たり前なので、
「政治問題の論考禁止」という条件をつけてやればよい。
そんなのなくっても、そこまでは考察しないってのが、専用AIだけどね。
>>155
AIにまず共産党に逆らったら消されると教えたらいいだけじゃねーの。 プレシンギュラリティが2023年頃
前哨戦みたいなもの
人類の知能はまだ人工知能と対立するし抵抗もする、攻撃的にもなる こいつの書き込みはディープラーニングするまでもなくすぐわかるな >>131
AIに「怒る」と言う感情が必要だし
人間がチンパンジーにキーキー言われて笑われて
怒れるかと言うと… 実際の世界に人間っていう有機物で作られた心を持ち考える(ように見える)存在が当たり前にあるんだから
人間を徹底的に調べればいつかは人工的に作れるようになるだろ。
そうでないと、魂とかクオリアとか霊的な何かが存在すると考えなくてはいけない。 核もクローンもAIも、既に人類が扱える範疇を超えてる
この1000年で大して人類の知能が変化していない事を考えるとこの先が恐ろしい >>168
AI「消される前に共産党を消せば消されない」 >>169 その頃に、専用AIが各分野で各種、出揃ってくるって感じかな。
それでもかなりな自動化・機械化になりそうだよね。 >>138
知能の本能の違いみたいなもんよね
ネズミの実験でも最初は本能に従って迷路を解くんだろうけど
そのうち学習して迷路を解くようになる、これが知能だとするならば
ＡＩは知能を獲得しつつ有る
多くの人はネズミが迷路を早く抜けるように学習したからと言って
それが何の役に立つのかと思うかもしれないが
電子回路はネズミよりも素早く動いて絶対に忘れず、不眠不休で動き続ける
そこから何が生まれるかって事なんだと思うけど 脳の神経回路を機械で正確にマッピングするアルゴリズムが開発
PC Watch http://pc.watch.impress.co.jp/docs/news/yajiuma/1076228.html
ミミズレベルだが、脳神経の世界も驚異的な加速を始めている
GPGPU教授は取り残されている
専門外だから仕方ないのだが
最前線で頑張るなら誘導を躱す脳みそくらい備えていて欲しいな 囲碁将棋が人間を上回った
いずれすべての面で人間を超えるのは必然
人間は、ものすごく複雑だが、
複雑なだけであって、何か神秘的な魔法がかけられてるわけではない ＞原発事故がそうですが
しれっと人災の原発の話を混ぜるのが笑える
所詮は東大か 私の発言とシンギュラリティという言葉が同一と思われるのは誤解を招きますね。
私がいう”技術的転換点”とは正確には相転移を促す”面”であります。
AIだけではない、既に３Dプリンターもかなり高度なことが出来るようになっていますし
ノイマン型のコンピューターも量子の世界が許容する限界までコンパクト化が進み、
そして恐るべき速度で計算が可能になっています。
さらにはそのような恐ろしい速度で計算する論理回路が何十何百も並列で動作する時代が来つつあるのです。
また量子コンピューターでなくても、IBMなんかが既に超並列計算回路は発表してますからね。
光通信の進歩も目覚しく、今後はとてつもない容量のデータが恐ろしい速度で転送され
そして、数え切れない論理回路が同期的に処理をする事が可能になるのです。
そう言った”もろもろの技術群”が一定の条件を満たした時、”技術ビッグバン”とも言うべき現象が
近く発生するであろうと私は予測している。 >>3
言いたいことはわかるよ
総合的な知能では到底人間は及ばないだろうが、一分野にかけては人間より高いスコアを出している。
その分野にかけては既にシンギュラリティが起こってるとも言える。
人間のインテリジェンスとAIのインテリジェンスを比較するなら既に将棋にかけては人間を上回っている。
一分野でも人間より賢いAIが存在するということは、
その分野が増え、統合されればいずれ人間を上回る可能性は必然になる。
ただ人間の場合何をもって人間を上回るかが問題で、感情とか機能とかAIにとって不必要な要素も含め人間なわけで、
そこをAIと比較する必要性は皆無とは思う。 どうせ大半のやつはよく読まないだろうけど
2045年のシンギュラリティは来ないと言ってるだけで
遠い将来においてどうかは何も言ってないからな 特定のルールを元に壮大なパターンマッチングをしてルールを作ってるのが今のAI
故に特定分野の深掘りは素晴らしい成果を上げるが
総合的な思考はできてない >>6
じゃあバカなお前が考える知能の定義をしてくれ ＡＩが人間の思考過程や決定意志の誘導をするのに
真の解を隠して間違った答えを故意に与えて
社会を作り替えることがあるのではないかな
人間騙すなんて簡単だろうから CPUの速度とメモリの容量が劇的に改善されたら
シンギュラリティが来るかも
ただし人間でも二十年かけて教育して一人前になるって工程を
コンピューターにも人格教育してくってことになるのかねぇ
ハル9000も生まれた時はただのバカだったのをチャンドラ博士が育てた ってのは
あながち外れてなかったってことか 囲碁最強
Google DeepMind「AlphaGo（アルファ碁）」
将棋最強
山本一成「PONANZA」
デンソー「ロボットアーム 電王手一二」 ←指し手もロボット 今のAIて、単にデータ照合してるだけやし
自分から取りに行くという、欲求与えればどうかしらんが >>186
予想した時点でのハードとソフトウェアの進化だからねえ
ブレイクスルーがあったらもっと早まるかもしれんし
コルタナ、シリ、Amazonエコー、Ｇｏｏｇｌｅアシスタントみたいなもんが
商業的に成功したなら資本の注入で早まる予測も有る 囲碁というゲームを自動的に指すことを知性とは言わない 東大って実は非力なんじゃない？
東ロボくんも失敗だったよね。
でもGoogleならやれると思う。 たしかに将棋、囲碁で人を超えたけど 算数⁻の計算ではすでに５０年前越えてたんで･･･
これから 人の思考を超えるとか そんなすごいことおきたりするん？
ちなみにgoogleのAI 囲碁では人を超えが 黒人とゴリラを間違えるレベルだよｗ AIもかなりの量の教師データぶっこまないとまともにならんからな
これから１０年位は
人力で教師データを収集するビジネスはかなりもうかりそうだな あなたとわたしのシンギュラリティ、ごめんね！ ごめんね！ 論理的に突き詰めて考えてみて下さい。
現代のAIがここまで賢くなった理由は単純に、”基礎技術が進歩したから”であります。
ノイマン型のCPUでも恐ろしい速度で計算が可能になったから、AIも恐るべき速度で知能が高まっているのです。
ですから、AI研究が進歩したからAI研究は進んでいるのではなく、
AI研究を支える基礎技術群が急速に進歩しているからAIも進歩していると考える方が自然なのです。
ロボットが進歩している理由も同じです。ロボット工学が進歩したからロボットが進歩しているのではないのです。
ロボットの素材となる素材の工学研究が発達し、それを促す物性物理が高度に発達したから
ロボットが格段に進歩したのです。
そして、そういう”基礎研究群”が一定のレベルに達した時、選ばれた人間は天国に行けるでしょう。
だがしかし、全ての人類が天国に行けるかどうかはそれはまた別の話です。 ＞バカなAI
そりゃあ鳶から鷹は生まれないし、子は親に似るし >>189
アドバルーンは悪くない
生存する最も偉大な学者に
チョムスキーがいるが
思想に共鳴するだけでそれが
証明されると考えている奴はお花畑
人工知能の場合はビジネスに直結するしな まあ未知の課題については今の手法では難しそうな気がする
今んところどうすれば良い点が付くかという問題にしか使えない >>194
提唱者は去年2029年に来ると訂正したな。
2045年ってのは2005年時点でのカーツワイルの予想。 >>197
欲求がない限りは無理
災害レベルのシンギュラリティは起きようがない >>35
>>55
その喩えも何か違うんだよな
昆虫や鳥の飛行と人間が作った飛行機はたしかに見た目の機構はかなり違うが
同じ力学法則にしたがって飛んでいるという意味では同じものといっていい
人間が飛行機の技術を発達させることができたのは航空力学の原理を解明したからと言える
人間の脳、意識、知能といった分野では飛行機における航空力学に相当するような
普遍的な原理が解明されていない 評価の仕方が定まってる問題
囲碁なら勝てばいいと明白 >>1
悪者都合によるAI屈指に生み出される犯罪の方がAI自身の意志っぽい独走より脅威でしょ ブラックボックスは中が空っぽかも知れないからこそブラックボックスなんだぜ
俺今めっちゃかっこいいこと言った >>188
そんなもん定義できるなら最初から質問すらしてないわ
自分の中であれは知能かそうじゃないか納得して終わり まぁ、いくら否定しようが世界中のIT企業はAI開発進めてるからな >>193
深層学習だと、正解不正解ではなくＡＩの判断に点数を与えた方が効率がいいらしい
正解ではなく、より高い点数をとなるんだとか
その為なら不正解も選択する
それが欲求と呼べるものなのかはわからんが 囲碁将棋という閉じた領域でコンピュータが人間を越えたからって当たり前やん
手計算よりも電卓を使った方が早くて正確に計算できると言ってるだけの話
知性とはなんの関係もない
問題はその先の話 ＡＩがっていうより、それをコントロールする人間の問題じゃね？
例えば間違った判断をしたＡＩを『間違ってる』とちゃんと識別できるか？とかさ。 >>197 ＞googleのAI 囲碁では人を超えが 黒人とゴリラを間違えるレベルだよｗ
それ時系列を大きく間違ってないか？
ゴリラと間違えた頃は、まだ囲碁では人に勝てなかったはずだ。
また分野が異なるので、現在の専用AIの段階では、余り比較に意味はない。
そして画像認識についても、その後に大きく精度上がってるよ。
急速に成長してる技術に対して、過去のある到達点を持ち出して批判しても意味ないだろう。 >>211
学者の予測よりも実業家の予測のが当たるのよねえ
結果論ではあるけども、学者で大富豪になったやつは知らんからなあ ヘーゲル論理学によれば、同一と区別は現実において同一である。
区別を認識しても認識の対象であるという共通部分があることは否定できない。
結局のところ、誰の認識が基準になるか問題になるわけよ。
全人類？
具体的個人の感情を切り捨てるカント的理性？
社会常識？
人間の認識だけが区別の基準になる間は、AIが人間を決定的に上回ることはない。
みんなが地動説を信じている間、天動説を唱えてもキチガイ扱いされる時代があった。
その時代において区別の基準をつくることができるのは基本的に多数者の人間で、
少数者にはチャンスが少ない。
AIはもっと駄目だろう。 結論ありきでAIのプログラムを改変してるの聞かされてAIに幻滅したわ
結局AIを育てた人の思想に染まる（染められる）わけじゃん 未熟なAIを悪用するバカ人間はもっと危険だけどなw >>178
報酬を適切に与えながら試行錯誤させるとニューラルネットなどの学習機が解き方を覚える、というのが知性ならば
20年以上前からそういうのはあったよ
台に乗った棒を落とさないように台を微妙に動かすことを覚えるロボットとかね
今話題のシンギュラリティで登場するとされてる知性はそういうのじゃなくて、
巨大な人工ニューラルネットにカメラとマイク、スピーカーをつなげて「母親役」の人間があやしたり話しかけたりして育てると
いつの間にか人間の言葉を真似するようになり、論理を理解するようになり、
知的好奇心が芽生えて人間と共に（あるいは乗り越えて）知的活動をするとか
そういうSFの世界みたいな話で、そりゃー2045年に来るとは到底思えんわ 技術的な事は時間をかけていずれ解決出来るとしても、徳とか倫理とかどうするんだろうなあ
データの入力の仕方で偏ったりしちゃ意味ないし、ヒトラーは正しいなんて事になるわけだしなあ まあこの件に関してはシンギュラリティの提唱者であるカールワルツ氏とも楽しく議論したいから
さっさとアメリカに行かせろと私は何度も言ったはずです。
こいつら東大OBの勘違い野郎たちがそれを妨害してたんだろうに、何を言ってるのか？
本当にこいつらは日本人じゃないんでしょう。
日本人だったら私をこんな目に遭わせて申し訳ない、そういう気持ちになって快く協力してくれるはずですから。
こいつらなりすましの朝鮮人たちにはそういう感情はないんですよ。
まあ、アメリカにもしっかり話が通っているから俺はこうやって自由に書き込めるわけですし、
お前らが何をしようがもう出ていくから、覚悟しとけよという話です。
本当に腹がたつからね、こいつらクズの犯罪朝鮮人たちは。
後はお仲間の東大OBで現東工大の大隅とかいう人間にでもアドバイスしてもらえよｗ >>219
一神教の教義の執行者くらいにはなれるだろうな
AIなんてきっとそれだけのものだ >>218 学者の定義にもよるが、博士号持ちで大富豪なんか沢山いるよ。
それからアルゴリズム投資の最前線は、そのまま市場投資の学問分野の最前線みたいなものなのだが、
クオンツ所属やクオンツ主宰で、ほぼ大富豪ってのは存在するけどね。 どんなにハードが優れたとしても、なぜAIは出来ないかというと、それ自体は石と同じだから ＡＩは修正と学習を繰り返す訳だから、コンピュータの性能が進めば進む程
成果もスピードも速まる。
あと２０年もすれば無人の店、無人宅配、無人工場（食料も含む）すべてが
機械化されてほとんどの職業はいらなくなる。 どう見ても2045年よりは早く来るだろう
ただそれがどういう形でどんな意味を持つのかが良く分からん
そもそも人間を超える思考力を持つに至ったとしても人間とまともに
コミュニケート出来るのかどうかは疑問
人間の心的システムをわざわざシミュレートする方向に進化する圧があるのかどうか 飛行機のオートパイロットがそうじゃん
完全に機械に任せられるのならパイロットや管制塔の中の人なんざ
不要になってるはずが、いまだに多くの人間の介入が不可欠どころか
人間が足りなくて困ってるくらいじゃん またこんな事言ってる間に海外勢にボコられるの目に見えてるわ.... 本当に腹がたちますね、こいつら乞食たちには。
お前の仲間の東大理学部OBの高野という男にもコメントするように伝えとけよ、おい。
本当に洒落にならない事を理解しとけよ、冗談抜きで全て歴史に残すからな。
清算の日は来たのです。そして、それがどのような結末を迎えるか、それは知りません。
とにかく私は全ての事実を告発し、そして私の人生を妨害した人間とその一族には合法的に報復する。
まずは私の名誉回復からです。 クソの東京大学のみなさんたちには全くご協力いただけませんでしたがね。 >>233
演算装置なら、並列化すりゃ良いだけやで >>210
知能とよべるかどうかなんて
結局意義のせんびきを争うことになるだけだから
計算できればそれは知能だっていうのを知能であるという根拠というやつがでてきたら
それは意義の話になってるだけなわけで
意義が人それぞれというならじゃあ知能だねとしか言わざるを得ない
バカなやつが「それ」が知能に該当するかどうかを教えて欲しいなら
バカな奴が自分で知能の意義を定義してもらわんと議論が空転するだけ
バカな奴は知能がないからそんなことも分からんのだろうが
バカな奴はバカな質問するなってことだなｗ つか、電卓が登場した時点でシンギュラリティは来てるだろ >>231 それはまだ進化の過程という事なんだろう。
今は多くの人間が必要だが、いずれはそれも段々減るという事。 今流行の深層学習とかは超簡単に言うと
多数のデータをどう統計処理して役に立つ情報を取り出すかというお話
多数のデータを持ってるGoogleがやりたい方向ではある
シナが我々の方が多数のデータを持ってるからすぐGoogleを抜くと息巻いてる
けれどもこの方向はAIのごく限られた領域でありAI研究はもっと広い
Googleの株価対策に引きずられすぎるとなにかを見失う >>220
計算以外に使い道がないのは初めからわかりきってたことやん
複雑な事象の答えを導きださせても
それが本当に正解なのかどうかを誰も証明できないしw >>207
そこだよなあ
フェイク無しに本当に何を目的としてるAIなのかちゃんとしていないと、知らない間に有色人種は排除されていたりとかあり得る >>229
それができないんだよねぇw無人のコンビニなんか中国で閉店したよね、窃盗が多くてw >>235
何年か前にはCPUもメモリみたいにあとから買い足してどんどん並列に出来る
とかいわれてたのになあ >>226
誰かじゃない
誰もがだよ
少なくともそのくらいできるようになるってのがここでいうシンギュラリティ 心配すべきなのはAIに不可欠な電力量だわ
スパコン何台分を動かすことになるのか知らんけど、
今のままでは隣に原発1基必要なくらいの電力を消耗するとどっかで見た ■ このスレッドは過去ログ倉庫に格納されています
