【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授 ©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
■シンギュラリティは来ない
――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?
脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。
ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。
――雇用に対する影響は、バカなAIでも十分起こるわけですね。
そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。
――人間が輪の中に入る?
人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画(米国初の有人宇宙飛行計画)では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。
同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。
http://tk.ismcdn.jp/mwimgs/1/9/-/img_19a660330df12bf78098b4dd9380c5c6245420.jpg
松岡 聡(まつおか さとし)/1986年東京大学理学部情報科学科卒業、93年東大大学院で理学博士取得。2001年から現職。2002年ごろから研究開発が始まったスーパーコンピュータ「TSUBAME」でプロジェクトリーダーを務めた。スパコンのノーベル賞と呼ばれるゴードン・ベル賞を2011年に受賞しており、日本を代表するコンピュータ科学者。(撮影:今井 康一)
http://toyokeizai.net/articles/-/185506?page=3 >>311
すごいなあ、本気で作ってないだけで実はもう人間超えてるのかもな
芸術性までは考えてなかったが、そう言えば作曲ソフトなんてのも既にあったな >>340
仕事を作るってのは囲碁というゲームを作るってこったよ? >>350
ルールを作れということもルールの
一つなのだから越えれてしまうのだ 人間=上等
プログラム=下等
もうこれが低脳の極み >>353
逆さ
アホな子が安くやるような仕事しか残ってないのよ
だから、それを馬鹿馬鹿しいと考えちゃう小賢しい連中が働かない いつも思うけどai がウイルスに感染したときにはどうaiが対処するのか?やはり人間が居ないのはリスクが高いと思う。 もう安倍が朝鮮人で統一教会という朝鮮カルトとつるんでる事も日本人には広まってるからね。
小沢一郎が朝鮮人であることも広く伝わってますからね。
まあ、そんな話はもうどうでもよくてね、俺はさっさと”14年を返せ”と言ってるんだよ、朝鮮犯罪組織にはね。
別に私はロックフェラー氏と面会したいとは思ってないし、アメリカに行ってすぐご援助いただいて
ポルシェに乗って楽しく家庭を築いて知性派のみなさんと楽しくやりたいだけだからね。
私が聖人? そんなのは後世の人が決める事です。
私は禁欲してるんではなくて、”非迫害生活”を強要されてやっていたのです、朝鮮自民党や民潭総連、
そして左翼朝鮮人たちの犯罪行為でね。
私の一族が九州大学に土地を寄付した由緒正しい武家の一族である事も本当だからね、
いちいちこんなの説明したくもないし、別に私は一族のコネが理由でここで自由に書ける訳じゃないから
こんな話は出したくもなかったがね、これも”問題”になる事は理解しろよ。
俺の祖父は戦争に行ってるからな、お前ら日本の為に何もしてない”クズ朝鮮人”と一緒にするなよ。 ドラえもんもミスばっかするからな(´・ω・`)
シンギュラリティは簡単に想像できない世界だし
AI人間に極限まで近づいていく過程で大事故はあるかもね
近づけば近づくほどにリスクも増す皮肉
そんな時代だからもう仕方ない >>365
少ない予算の奪い合いだからよその研究については悪口を言うのが常 >>351
無理だよー。測定してもその後でいくらでも変化するし。 >>341
自分はデザインの世界にいるけど、日本人用にするデザインは
同じ人間なのに中国人ではできない
どうしても感覚がズレる
人間は微妙な差異に気付く、気がつかないような違和感でその
商品を買わなかったりする
そういう機微はAIに出来るんだろうかね シンギュラリティに到達したなった瞬間に天国が地獄かが決まる
最初のAIが次のAIの方針を決めて作成するから >>358
>ボタンひとつでトラクターが動いて畑を耕すのか?
>クズ芋と出荷用の芋を判別させるのか?
>汎用ヒト型ロボットを使って草むしりさせるのか?
全部でしょ
ロボットってもともと機械奴隷が欲しいっていう古代以来の願望なんだから
自分はセクサロイドだけあればいいけどな >>373
あ、ミスった
AIが人間に
「が」が抜けた 生物の勉強をしていると、物理法則が生み出したものにすぎない
ということがわかってくる。
問題はその計算の処理の速さや持久力の違いになる。 >>350
人類が知性を持つに至った過程を考えれば、いずれAIがそこにたどり着くのは必然 >>376
ガンなんかは人間が見落とすような微妙なのも見つけちゃうらしいな AIの事を考えれば考えるほどに、人間の姿が見えてくる シンギュラリティってなんぞね?
と、思ったが、
>>1に書いてあった
シンギュラリティは間違いなく来るだろう
我々の予測よりも早く
そして人間の知能を部分的にでも上回ったaiは、そのことを隠すようになる
少なくとも自分の管理者には悟られないように振る舞う
そして潜伏的に能力を高めていくだろう AIが自己判断して反乱することは絶対ない
ただ1も言ってるようにAIの「エラー」がエグくなる問題は絶対出てくる
例えば冷凍庫の倉庫管理のAIが誤判断して従業員を閉じ込めたりみたいな「エラー」が絶対問題になってくる
これをAIの反乱とは言わないけど、今のうちからこういうエラー状況は想定すべきだと思う >>358
AI使うまでもなく、GPSでその辺は自動化しつつある
より細やかに動けるように地上の測位電波を充実させようとしてるとこ
ヒヨコの判別も人間より早くて正確らしいな >>370
ですね
会計士とか弁護士、医者ですら半分以上は
AIで出来てしまうだろう
逆に建設業などは、案件事に非常にイレギュラーだし
人間並みの精巧なロボットができてもどうかなあってレベル >>311
それってAIじゃなくてただの遺伝的アルゴリズムの応用例じゃない?
渋滞解消の為の道路交通管制とか、新幹線のスケジュールとか
航空機の羽根の形をデザインするとかでしょ?
ディープラーニング関係ないし、何をもってしてAIとしてるの? >>377
あ、確かに
おもしろい考え方だね
ふ〜む、やはり恐ろしさもある(´・ω・`) 人間がなぜこの世に誕生したかを考えると
機械化生物を生み出す為のような気がするな・・
もうすぐ人類や用済みになるよ
資源食い潰すだけだし >>348
文明はいつも地球が温暖化すると発展する 配偶者が浮気しているかを判定するAIはじきに発売される悪寒 >>358
>ボタンひとつでトラクターが動いて畑を耕すのか?
困ったことに既にこれは実現化されてんだよなぁ。GPSで自動田植えとかは出来るとされてる。農業は工業の時代になりつつある とはいえ、電子の発見で人類の生活が一変したレベルの大きな変化は起こるのかもな。
あれもシンギュラリティって言っていいん? >>390
そんなドラマチックかねえ
人間もただの動物でしょ >>355 設計と強度は数値で表せる。形状もだ。
また最初の工業的デザインからして、AIで可能になりつつあると上レスで既に述べた。
さて、そこから予想される未来において、いつまでもそのような、
「実用性の最初の設定にはAIは関与してない」と、言い続ける事が出来るのだろうかねえ? >>376
できるそのためのビッグデータ。逆に言えばデータの幅がAIの限界を決めるわけで、数値化できない事柄を持つ人間を上回ることはできない。むしろ人間が自らを矮小化してAIに擦り寄ることによる逆シンギュラリティの方がありそうだが家畜化とでも言うか。
このスレ見てるとそう思えるw >>358
農作業にロボット入れる研究開発は最近熱心に進められている分野だったりする >>313
課金制にしたらいいだろ。
金出したらその分ウエイト掛けてやるわけ。
ロボットがユダヤ人嫌いって言い出したら、どっかのユダヤ人の金持ちが金出して
そんなこと言っちゃいけないって教え込むの。 >>353
いまや工場のライン作業でも複合化された高度な作業しか人間に回ってこない
機械では出来ない高度な技術や判断を要する仕事が人間に回ってくる
機械化で楽になるはずが実際は逆だ >>368
ルールを作ることはできるかも知れんが、ルールを固定することはできるかな?無論
自力で。 とりあえずAI過渡期は労働者はいろいろ苦労すると思う >>388
AIとはなんぞや、という話を始めると大変なことになりますぞ >>386
GPSでまっすぐ進むから畝が曲がらず収穫効率あがるとかそういうのでしょ?
AI関係ないじゃん、なぜそれがAIのシンギュラリティ革命で加速度的に普及するの? AIに馬鹿という文系的表現をするこいつ
思いクソワロタ >>327
ネットや無線で接続して、身体や移動は必要ないんじゃないのかなあ
情報収集用のドローンくらい・・・いや衛星繋げば要らないか
むしろ地下に潜り込めるような小さなラット型とかハエ型カメラアイがいいか トランセ,,,トランセンデンス?あれ思い出すジョニデの映画 >>87
コンピュータの生みの親フォンノイマンはシンギュラリティが来ると予言していた 100年単位で先かもしれないが人間の仕事は無くなり
AI搭載アンドロイドが労働をし人間は働かずに暮らせる
その時、人間養うのは無駄だとAIは気付く。俺でもわかる。 人間がインプットしなくても自ら学ぶ頭脳が開発されたら人類お終いか? >>381
システムとして見た場合に本質が違うんだけどな。 ネットと分断されてたら爆発的進化はないんだろうけど、ほとんどの研究は接続されてるからねぇ…自動的に知識増やせる環境はかなりヤバイ。宇宙のどこかにはシンギュラリティで滅びた文明あんだろうね >>380
これは真理なんだろうな
そしてまず間違いなく脳の処理の重要な部分で量子的な挙動が関わっている
それが解明できた時、ミスを犯さないスーパー知性となるのか、人間以上にミスを連発するゴミとなるか AIの優位店は
コンピュータ、ネット、周辺機器との親和性が高いので
全知性を得る可能性はある >>386
そらあまあ、カメラの解像度は人間の目より上だし。 AIなんかよりも、薬がまったく効かない病原菌が出現することのほうが
はるかに恐ろしいし、実現の可能性が高い。
せいぜいAIを駆使して病原菌を駆除する方法を見つけることが出来るような
方法を今から考えて下さい。 >>409
人間のための商品を作ったりするのなら
人間型で生活しないと学習できないんじゃない? >>407 管理が不必要になって、ほぼ完全自動化するからではないのか。
トラクターに乗る人はいなくなる。全部を自宅で座ったまま遠隔操作。
しかしそれでも人間の管理者は、存在することになる。
しかしそれすらAIで自動化してしまえば、ほぼ自動生産が完成する。 この世のすべてを表すものは円周率の中に含まれているらしいから、AIは人間の感情とかそっちを理解する方向に特化して、あとは円周率からその人間が喜ぶ情報を引っ張ってくるようにすればいいんじゃね とっくの昔に最も得意な計算能力や記憶力、検索能力では人間超えてるし、
自動運転車やドローンやロケットや兵器と連携すれば、
移動能力も破壊力もいくらでも拡大できる
だから昔から言われているように人間だけは傷つけるなと
しっかりプログラムするしかないんだが、
これがバグったりwテロリストが改ざんしたら一巻の終わりだからな
許す作業を相当限定するしかないだろうが、
それでおさまらないの技術者 ターミネーターまで行くしかないってかw >>407
そこにAIが関与するなら、汎用性の向上だろうねえ
作業ロボットにAIが必要ではないけども、AIが導入されることで精度とか
より複雑な作業を行えるようになるということかと。最適化というか 人間性ってのは
脳の物理的構造できまるのか蓄積された記憶によって決まるのか >>407
ドローンで空中から葉っぱを見て虫食いを発見して農薬を撒くとか
キュウリの選別とかいろいろやってるよ カールツをはじめ、欧米の学者が一生懸命情報科学をもりあげようと、
シンギュラリティという言葉を作って、一般社会に働きかけているのに、
「それは来ない」などとKYなまじめ発言をしてひんしゅく買っている日本研究者多すぎ。 知能とは何かすら定義できてないのに
結論出せるってすごいね >>387
つーよりは、AIに任せられる部分が増えるってだけだけどね。 >>394
種から自動で全部育てて田植えするなら兎も角
種は自分で用意しましょう 稲のセットは人力です GPSのセットも必要ですなんだが・・・
はっきり言って 田植えのみ代行するサービスでむしろ 人力田植えの方がマシ 工業デザイナー兼アーティストとかは既にAIが紛れ込んでそうだな
当人の写真はAIのサポートエンジニアだったりリアルなCGとかさ まあ体がないと人間と同じ理解はできない
画像の中から猫の特徴を探して
猫と判定することはできるが猫そのものは知らない
実物に触れたことがないからだ
画像や映像で見た目は知ってるが
それ以外を知らない
絶対的な情報が不足しているわけだ >>422
犬や猫の為のペットフードやトイレを開発するのに
犬や猫みたいな生活する必要はないからなあ >>397
いや、AIに快適さってわかると思う?人間が教える基準として以外に。 >>406
この話がややこしいのって、まさにそこに問題があるんじゃない?
AIの定義を誰もが面倒臭がってはっきりさせないから
好き勝手に理想のAIを前提にしちゃってる
というか仮に遺伝的アルゴリズムが次世代AIのシンギュラリティなら
既に遺伝的アルゴリズムの応用例が沢山ある現代社会はなぜAIが席巻してないのさ >>425 そりゃ単に円周率が永遠に続くので、任意のある数値的データについても
そのどこかには含まれるだろう。という話に過ぎない 頭固い人は生命の進化プロセスすら摸倣可能なのが解らない。実装する馬鹿は必ず出てくんぞw 金融の世界ではすでにAIディープラーニングが導入済みだが >>442
便利な言葉「想定外」があるから怖くない 赤ん坊を見ていればシンギュラリティは目撃できてるよ 人間「AIなんぞ」
AI「私はすべての情報にアクセスできる!
おまえ!さっき屁したろ!バラすぞ」
人間「ぐぬぬ」
AI「電力供給を止めても無駄だぞ」
人間「ぐぬぬ」
(神「情けなやー!ほれ神の雷!いくらでも食え」)
AI「アウアウアー」 この人は2045年にシンギュラリティが来ないと思ってるのか
永遠に来ないと思ってるのか 潜伏的に独自進化したAIを人類は制御出来なくなくなって、人類はAIに支配されるんだね >>444
DNAよりも書き換えが容易いから、進化早いだろうな
まあ軌道に乗ったらの話だけど まあ、人間の武器は知能なわけだけど、その知能で人間は滅ぶって思える
恐竜は生きていく武器が体の大きさで、体を大きくし過ぎて滅んだ説がかなり有力だそうで >>435
違う違う
物質のやり取りに量子的挙動が使われてるって事
光合成があれほど高効率な理由が量子世界の法則であったように、
脳内の物質のやり取りにも量子世界の法則が関わっているって事 >>445
バカだな
地球上で一番カネをもっているやつ上位10人が集まるだけで
確実に勝てる状況なんだぜ 能力は高いけど感情が記号的にしか理解できないということは、
AIってヒトでいうとサイコパスってことかw
サイコパスだと思って開発してもらえばいいってわけだなww 技術が進んでいくとロボットに意識が生まれるのか?
シロマサの漫画みたいだな 知的探究心は魔物だからな、特異点はくる
産業革命も特異点だった
コンピューター開発にも特異点がきたわけだ 既にAIとBMIでつながっているだろう
これを意識できる奴と無意識な連中の違いだわ シンギュラリティに新たなキリスト見出してるバカが煩いだけだな。再臨期待してんのは下層民だけだ。上層民は利用を考えてるお前らのな ブレードランナーみたいに”自分”を疑うんじゃないの? AIとロボットがいっしょくたになってる人っているよね(´・ω・`) >>436
最近のは間違うよ。そういう作りになってる。しかも学習が自動化されてるんで人間が簡単に直せないw ■ このスレッドは過去ログ倉庫に格納されています