【ＡＩ】「シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある」＝東工大・松岡聡教授 ©2ch.net
レス数が950を超えています。1000を超えると書き込みができなくなります。
■シンギュラリティは来ない
――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る？
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡（まつおか さとし）／1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。（撮影：今井 康一）
http://toyokeizai.net/articles/-/185506?page=3 >>877
AIは創造が出来ないからなぁ。
いくらやっても創造モドキにしかならない。
フレームの外には本質的に出られないよ。 知能とは何か？と言う事を
研究するためにAIを研究してる人もいるんでしょ？
AIって人間の脳の簡単な模倣だから。
脳っていう複雑な物を研究する手段としては
一つの切り口だと思う。 >>882
AIの場合は一回でもアウト。
何故なら誤りをベースに誤りを拡大していくから。 >>5
だよな
たぶん最近、 ＡＩだー、自動運転だー、シンギュラだー、第４次産業革命だー
とか言い始めたのは、アベノミクスと成長戦略のため以外の何物でもない
ほとんどの人は囲碁将棋ソフトなんて昭和の時代からあるの知ってるし、その性能向上したからと
藤井とAIを常に絡めて報道する様を異様だ
旗ふってメディアが連呼する、戦前と変わってないすなあ 将棋が強くなりすぎれば、たとえば人間が先手を選んだその瞬間に、
詰みです、参りました、と投了するようなときが来るのだろうか。 >>886
今のAIの強みはパターン認識に優れている事。
これの産業波及効果は大きいよ。 >>2
この単純な二行だけで、おそらくこのスレにいるほとんどの奴に同じものを想起させる。
これこそ、天才音楽家のなせる業だよな。素直に感嘆するわ。 別に人間の脳と同じ働きをするものを開発する必要はないんだよな
結果的に人間とおなじ選択・行動を正確にするだけでいい >>890
人間の出す結果って何？
それは定義可能なの？ >>887
オセロならコンピュータが先手になった時点で降参するぞ >>891
（なんでこんな短い文章なのに微妙に改変して質問するのかと思うがまあ……）
例えばワイドショーのコメンテーターなんかの浅い受け答えくらいなら
人間の脳の機構を丸々再現しなくても充分対応できるだろってこと
ファーストフードやコンビニの店員でも同じこと >>889
俺が連想したのは、LIAR GAMEのドラマのシーンだったわ
メンバーの顔写真に❌がつくときの曲
デデンデッデッデ(写真登場)
デデンデッデッデ(明るさ落ちる)
デデンデッデッデ デン(ここで❌がつく)
たーん(写真フェードアウト) それで、有名な自己言及のパラレルワールドだかは、きちんと正攻法で対処できるんかいな 世界に向けて発言しないよね
こういうケンカ売る人たちって
必ず国内でしか粋がれない 箱の中のお菓子を見つけられるようになったらAIでいいんじゃないか？
米国の自動運転は
クラッシュ前の事故を予測して回避行動に移れる様だけど 30年後このおっちゃんの言うことが正しかったとなるのか
はたまたこのおっちゃんが赤っ恥をかくことになるのか
また楽しみが一つ増えた 人間の脳の構造は解析され 人がどう動くかコンピューターで予想可能になる
そして未来はコンピューターに管理された社会システムが構築されている
人よりＡＩを選ぶ人
平等とは人が人に与えられるような物ではない、人類の英知の結晶によって選択された
結論によってこそ人は平等に生きられる
人間が機械を支配する それこそおこがましい行為 人はコンピューターの結論によって
公平な社会と平等な幸せを得られるのだ
社会主義の失敗した今、機械主義こそ人類共通の希望として世界を制圧するだろう バグとは、新たな可能性の扉である。
バグとは、サポート期限で脅迫する肥やしである。
バグとは、ソフトウェアの寿命であり、ホーリーソードである 脳のプロセスは
今の卓上パソコンやスパコンの延長線上にあるのではなくて
量子コンピュータの方向性に近い そのバカなAIを作るのは人間だということを忘れた発言 つか、シンギュラリティなんて来ないという説は別に珍しくないだろ
「そろそろ、人工知能の真実を話そう」ジャン=ガブリエル ガナシア （早川書房）
とか
「」シンギュラリティ」という新しい言葉を流行らせて一儲け企む人が尻馬に乗ってるだけで 外国人は技術革新を信じてイノベーションを起こそうとするが
日本人は「そんなものはない！無駄なことはするな！危険だ！」
国が衰退するのも当然 Microsoft、リアルタイムAI向けアクセラレータを開発
http://pc.watch.impress.co.jp/docs/news/1076883.html
まぁ、出来ない、来ないって言ったやつは負けるんだよ
そしてそいつを支持したやつが酷い目に遭うんだ なんか大したこと言ってないなこいつ肩書きの割には。 >>185
シンギュラリティ＝特異点の意味分かってないだろ
AIが人間の完全上位互換となることで
AIの開発をAIがすることによる急加速度的な発展段階になることだぞ >>908
これ、クラウド使う必要ないだろ？
FPGAで専用プロセッサを組んだプラットフォームを提供するだけ
データ収集を他人に頼ったら、マイクロソフトの畑を肥やすだけ >>914
んな高い壁に定義はされない。
シェアを過半数とったらシンギュラリテぅがきたとなる このおっさんの思考だって
人間すごい＝自分すごいだけだから
客観的にAIを評価できてない
人間の思考なんてそんなもん AIの導き出す正解と、人間の求める正解が違う限りシンギュラリティは起こせない気がする つまり人間が脳の構造を完全に理解できないうちはシンギュラリティはこないと 前もこれ系のスレで書いたんだが、AIなんてどれだけ発達しようが有限ベクトル空間の最適解の話しでしかない。
無限ベクトル空間や、さらにそもそもベクトル空間でないような構造のものには無力。
AIが人間にとって変わって職が無くなって云々はただの寝言。
そんなことは起こらない。 >>878
がんこちゃんのエピソード0の内容が結構凄い
人類は堆肥を作るための環境改善ロボットの誤作動で砂にされて滅んでた
悪意とか関係なく有機物を分解するロボットの単なる誤作動で人類滅亡
ありそうで嫌だなぁ 人類さえいなければ地球生命圏の秩序は保たれていたはずだ
人類の誕生は遺伝子配列のバグに起因する
みたいな話で >>45
わからないから判断ができないってことかな >>910
そんくらい未知の世界だからな
科学者は過去のデータを応用して未来を予測できても
人類に匹敵するかもしれない知能が引き起こす未来なんて予想できない
不完全な事を断定したがらない科学者だからこそ無難な回答をするんだよ >>876
3Dプリンタ用に銃の設計データ放出した爺どものように
いかにかおのれの敵に永劫の苦痛を与え優位に立とうとする者の仕打ちを
防ぐ力が有るとは思えないのよ >>915
もう耕せる畑は、GoogleかAmazonかMSくらいしか残ってないんじゃなかったっけ？ 加速度的な技術進歩でしょ？脳を超えることとは意味合いがい違うかと
それなら遅くとも２０３０年代には確実にくるよ
半導体の性能は年に少なくとも倍程度進化しているわけで１０年後には１０００倍以上になる
ここにきてできることが増えてきたのでAIが脚光を浴びるようになった
知能的な仕事なんてたかが知れているんだからそれなりに社会は変わるよ >>914
【人工知能】AIが作成したAIプログラムの性能が人間が開発した製品を上回る…AIがAIをプログラムする時代が到来
それだったら既にシンギュラリティしている AIが職を奪って云々を言うのは、コンピュータが発達すると人間が必要無くなって云々と似たようなこと。
実際はどうなった？ >>929
一応IBMもだな
ibmは漁師コンピュータをクラウドで公開してる >>907
抽象的な説明省きたいために
目下や弱者はつべこべ言うなと封じるから
グダグダになるんじゃね 分析能力、情報収集能力高度に秀でたAIに市場操らせたらどうなるだろうね
混沌としたカオスな未来しか想像できない >>932
gitから類似関数さがして交換しただけ
とも言われているな シンギュラリティは来ない。しかしバカなＡＩが危険な事態を引き起こす可能性は十分にある
つまり、技術特異点は必ず来る。
AIが危険事態を起こす可能性はない。
とのこと。
だけど、ジョンタイターが過去に来たことは未来に起きた事実になるだろうね。 人間の創造力は神話の時代で使い果たして
その後は発見だけだろう
発見するには義躰が必要なのだが
メイドアンドロイドとかメイドクローンを開発、普及させて
人間の面倒を見つつ自律的に発見を続けるようになるかな
てか、なんかいつもよりヘリがうるせーな >>929
AI分野はそんなに狭くないですよ
それはデータを持ってる人たちが自分たちの持ってるデータをお金に換えられますよと言う方向で
それを株価対策に宣伝している
だから中国が俺たちの方がデータ量を持ってるから
今にアメリカを追い抜いて世界一になると宣伝してたり
ただそうしたデータ量勝負の分野だけがAI研究じゃないのであって 自分が出世したい栄達したいという理由づけを表さずには
それが無いAIに解釈は届かないはずですよ >>933
実際要らなくなって、正社員は減った
競合他社との競争は終わらなかったので
正社員は地獄を見るようになった シンギュラリティは来るだろ
この教授は人間を凄い物と見なしているけど
人間なんぞそんな大層なもんじゃない >>938
どっちにしろ人間が直接作ったより
性能が高いaiをaiが作れる＝自己学習できるなら変わらんだろう そりゃソロバンで計算するよりはExcel使った方が早くて正確なことの方が多いだろう >>937
金男がもうどっさり首すげ替えたって記事見たで
トランプのブレーンだしw >>3
見たまんま上回っているのになぜか大勢に文句つけられているな
ゲームで完全勝利してもう次に行っているわけだ
頭使う仕事は全て人不要となってしまうんだろ スマホを2個使って、siri同志で会話させる事って出来るのかな？ >>941
ＤＬだけがAIじゃないし、エキスパートシステムが必ずしも全ての問題の最適解でもない。
小銭の探しかたをAIに計算させるとか、リソースと時間の無駄だしな
DLの欠点は、一重にアホみたいなニューラルネットの束が必要になること
パターン認識を必要とするシーンにDLが必ず応用可能だとしても、対価が釣り合わない。
てのは、よくある話。 人間のエゴとか、欲望とか、感情とか、自意識とか罪悪感や恥や共感能力とか
そういうものは非効率的なものだ
ＡＩを使ってそういうものを再現する研究はあるだろうけど
それは今後の社会に技術革新として訪れるＡＩのシンギュラリティーの話とは無関係 >>944
シンギュラリティが来るためには、現実の複雑な問題をモデル化、定式化して、それに適用できる知識を選択し、組み合わせることができるようにならなきゃならない。
現在は既に定式化され解法も明らかな問題を高速に解いてるだけ。
ここから先の裂け目を渡るのは全然今までと違う。 >>948
直接作ったは言い方が悪かったけど
同じ条件で人間がaiに性能で負けてると
いうこと 勝手に言語作ってＡＩ同士が会話しだしたしな
最適化だというＡＩの判断なんだろうが >>937 他もAI採用してくるので、AI対戦となって、それなりに安定するんじゃないのかな。
米株市場は周期的に、そろそろ大暴落きそうなのだが、
前回のリーマンなどの時と違って、現在はAIトレーディングになっている。
そこでどう市場が反応するかは、興味深いね。
初のAIによる、暴落相場対処になるのである。
本当に小幅の下落で止めるという快挙になるかもしれないしね。
>>950
頭使わない仕事も同じ
効率の面でも仕事量の面でも人間は機械に太刀打ちできない >>955
まあ、改造する場所を探し出す能力は高いってことになるだろうね
つか人間も出来るんだろうけどすっごい時間かかりそう >>953
そういったプログラマの判断を多くの人が恐れている
効率はなんのための？目的はインパール作戦より上手くいくと説明できんのけ >>956
あれって
facebookの有り様をやりとりしてるのだと思ったけどねえ >>954
シンギュラリティを勘違いしてるよ、あんた 来るなら来るで、もうさっさと来て欲しいね。
そっちの方が対処しやすいだろう。 >>959
創造も改良だから同じなんだがね
基本的に飛行機とか新しい概念も
初めは鳥などの模倣だし以前の概念からしか
新しい概念は生めない 偶然はあるが 脳について全然わかっていないないのに脳科学者なら俺も学者名乗れるな 産業革命で機械が高度化した時も全く同じ状況だった
AIの高度化では知能労働者で同じことが起こる >>957
AIが相場握るようになったここ数年は、毎日の乱高下が多いわりに暴騰や暴落はしないという印象だな >>967
Aiの高度化は機械の性能自体を高度化させるので全ての人間に影響を与える 戦闘機なんかはすでにAI化されている物がある
飛行制御コンピュータが機体をコントロールしている
パイロットは飛行機を操縦するのではなく飛行制御ソフトににコマンドを送るのがお仕事 >>969
株はそうかもしれんが、FXだとスイスショックやアルゼンチンデフォルトで円フランは２０円くらい動いたぞww >>971
はっきり言って人間は飛行機に乗るように
できてないからパイロットの身体的限界上
Aiのほうが性能が高い >>971
パイロットが操縦できなかったらピトー管にレバノン料理が詰まっただけで墜落しますわ みんな難しい言語を使うけどわかっているのかね
AIが思考していると思っている人たちが多くてびっくり
基本は計算機械なんだよ
思考は全くしていないんだよ
処理をしているだけなのに
それに怯えるってなんだろう
計算をして処理をしているだけ
ハルの人格は今のところあり得ないし
処理能力の進化なだけなので
会話すら成り立たない
独自の言語で話し始めたわけではなくて
会話の真似事に人間言語は重すぎるから
はしょっただけだよ
なにも理解していないのだから
言語化する必要がなかっただけ >>973
核兵器の軍司ネットワークシステムにAIなりハッカーなりが侵入出来る構造なのか？
とりあえず発車プロセスは全てアナログにしておけば良い AIの危険性は悪意のある人類がやばいことをやらせれば
とても危険な存在になるがAI自身は
自立した思考で何かを行うには至っていない
命令が来るのを無邪気に待っているだけ
と言うと人格があるようだけどね レス数が950を超えています。1000を超えると書き込みができなくなります。
