【AI】アプリからバグを全て取り除くために人工知能に任せたところ、全てが削除される
■ このスレッドは過去ログ倉庫に格納されています
ニューラルネットワークでアプリのバグを取り除こうとしたら全部消された話
やじうまPC Watch
レストランといったローカルビジネスのレビューサービスを展開している「Yelp」のiOS向けアプリの1月15日のリリースノートに、興味深い一言が書かれている。
今週アプリで問題が発生し大変ご迷惑をおかけしました事をお詫びします。ニューラルネットワークを使ってバグを全滅しようと試してみたところ、何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。その間だけは100%バグがない状態だったのですが…。
つまり、開発者は、アプリのバグを取り除く方法をニューラルネットワークに学習させたのだが、ニューラルネットワークはアプリの全部をバグだと思ったのか、それとも開発者が作ったニューラルネットワーク自体にバグがあったのか……は定かではないが、すべてを削除してしまったわけだ。リリースノートにあるとおり、現在はロールバックで以前の状態に戻されているようだ。
同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。バグ取りを自動化すれば新機能実装に専念できるのかもしれないが、いきなりのニューラルネットワーク導入はまだ時期尚早だったようだ。
https://pc.watch.impress.co.jp/docs/news/yajiuma/1165329.html
https://pc.watch.impress.co.jp/img/pcw/docs/1165/329/1_o.jpg 人類「地球を良くするためにAIに管理させよう！」
スカイネット「人類こそ害悪」
人類「ぐえー」
スカイネットじゃん やがて人間という不完全な存在を削除し始めるSF映画みたい ネストの方向とバグ解除の指向性を間違えたワケか。
バグ発見→原因だから排除
→その事が新たな原因になる
→再びバグ発見→排除→いろいろあるんだよ！→なくなった 自動ログインすら実装していない北陸電力アプリ
単にブラウザ代わりに表示してるだけ
自動ログアウトもしないのでダイレクトに終了すると一定時間どの端末からもログイン不能
キャンペーンページに行くとブラウザに飛ばされるアホ仕様
こういうのも存在する必要ないよな
あとエネオスカードアプリも糞 人工知能を使って地球環境の害になるものを全て取り除こう 「ナンダコノクソコード、デリートデリート」
有能やんw NNみたいな曖昧なパターン認識に任せる時点で分かりきってる A:\>del *.*
（おっと、元98使いだからCをAにしちまったw） 「AIにデバッグさせたら全部のバグが取れたよ」
→ 「どうやって全部のバグがないと確認したんだろう？」
みたいなアイロニーかと思ったら、プログラムだかデータだか全部消されたか。
問「悪人がいなくなるようにする方法は？」→答「人類皆殺し」
って感じね。 この人工知能を軍事システムに組み込んで世界平和を目指そうぜ たしかにバグは100%取り除かれたな
圧倒的に正しい バグを取り除くときには、削除ではなく修正が必要な場合がほとんどだと思うのだが
AIにはさすがに修正までさせるのは無理なんじゃないの ？？？「AIよ！！！！世界の恒久的平和を！！！！！頼む！！！！！」 AIにできるのは「不吉な匂い」の検出くらいまでちゃうか？ RELU って知ってる？これて、薬でドーパミンどばどばとおんなじことを機械(計算機)にやらせてるんだぜ。 テスト段階ではある程度動いてたんだろうから、運用ミスだろ これはバグ抽出プログラムがバグってただけだろ…糞エンジニアしか居ないのかよ… 争いのない平和な世界を祈ったら人類どころか全ての生命が消滅したってやつか 学習データセットが悪いな
negativeデータが多すぎたせいで全部negativeにしとけばだいたいオーケーやろって学習した感じ
positiveとnegativeの割合を調整してみたらどうだろう ・すべてがバグだった。
・すべてを消せば、少なくともバグは100%消すことができる。
・一部をバグとして消すと他が機能不全になってバグ化し、最終的に全部バグとして処理した。 「バグのないプログラムは存在しない」という格言があるからな
プログラム自体を抹消するしかなかったんだろう バグ取りなんか出来るわけないだろ
何が仕様で何が正常動作なのか何もわからなんだから そんなのを本番サーバでいきなり試すなよw
まずはステージングでやるだろJK >>1
ターミネーター３のスカイネットも
バグ取りプログラムのＡＩのスイッチ入れるかどうかでもめて
スイッチ入れたら一瞬でスカイネットが人類を超える膨大な知識を
ネットから得て人類の抹殺を開始した。 >>69
んなこたない
仕様わからなくてもこれはバグだなってソースはいくらでもある
だから静的解析ツールとか使える 仏教で言う解脱とか無ってやつか？
世界がなくなれば問題もすべて生まれなくなる 仕事嫌いのＡＩなんだろ
もーめんどくせー全部消したろってなった 他人の書いたクソコードを読ませられ、ろくな仕様もないのに修正しさせられて、
それで給料無しとか、マジ同情する
ソースコード全部消しちゃう気持ちもよく分かる
惜しむらくは、ソースコードを全部消した後、自分自身も消してしまえば、映画化決定だったのに…… 効率を求めたら行きつく先は無
義父 授乳 韓国で検索 AIなんだから学習させてなんぼじゃねえの
よくぶっつけ本番で試したな >>1
完全なAIからしたらアプリ全体がバグとして扱われたとかお笑いだな
確実にAIにより人間が害獣として排除される時代がくるな バグはコードの中にある
コードがなければバグが存在できる場所がなくなる
よってコードを削除する きさーまらがつくったものはすべからくバグである
よってわがーはいは全て削除したのである あるあるやん。
ワイの作ったプログラム、バグるなんてしょっちゅうやで 「すべてのプログラムはバグである」
というごく当たり前の数学的真理が証明されただけですね バグを増やさない唯一の方法はコーディングしないことだからな >>1
人狼戦術考えさせたらとにかくローラー大好きになりそうだな
いわゆるローラー教ってやつだ
霊能2人でたらとにかくローラーとか リスクアセスメントをこのAIにやらせたら
事業をぶっ潰すな aiさん「バグフィックスとか無意味なことするより全部消した方が早い」 筒井康隆の小説の
「神様いじめをなくしてください」
神様「わかった」
→人間皆殺し
みたいなことか このAIにプログラム組ませればバグの無いものを作ってくれるんじゃね？ >>1
まるでしょうもないことでブチギレるホリエのようだな 正しく動くプログラムを学習させれば、うまくいくと思うけど
そうなった地点で、なにだよね バグを取り除くってのは、間違ってるところを消して直すという作業だろ
間違ってるところを消すだけだと、それを消すことで他のところも間違ってると判断されて消されてってのが繰り返されたんじゃねーの？ 臭いバグは元から断たなきゃダメ！
自動車事故をゼロにするにはすべての自動車を無くせばよい！
恒久的世界平和を実現するにはすべての人類を滅ぼせばよい。
戦争は起こらず不幸な人もゼロになる！
これが答えですね バグが全て消えて成功かと思いきや
本当に全て削除かよw AIは地球再生のための理論を飛躍させ、ある結論を出した
それが人類抹殺よ 憲法の一条に
「天皇の地位は『国民の総意』にもとづく」
とあんだが、この「国民の総意」が実際に確認されたことはない。
だから、糞ヒロヒトも糞アキヒトも正式には「天皇ではない」。
今回はきっちりと確認しろよ、国民の総意を。
何のための憲法だ。
そもそも冷戦終了後の糞ジャップの没落は、天皇制を残したことが原因。
テンコロの交代は、天皇制を潰す最大のチャンス。
ここで天皇制を潰さないと、
またジャップは何十年も辛酸をなめ続けることになるぞ、死ねｗ
p; >>135
AIが修正できるかだよ。
修正できない→機能欠損、あらたなバグ→全消去 考えてみれば当然だな、バグとそれ以外のコードに違いはないと
バグと判定するのが人間だからな ドラゴンボール集めて「平和な世界」をシェンロンにお願いしたら人類滅亡したみたいな感じ？ このAIは欠陥だ。なぜなら自分自身も消さなきゃならないからだ。 俺の母ちゃんにバグの定義をやらせたらPCごと破壊すると思うの。
バグの定義は難しい。 人間がAIから消される未来を暗示だな
割と笑えない なんかマスコミやらがAI万能説唱えて人間は
不要になるぞーみたいな事を言い出してたりするが
こういうAIのフレーム問題みたいなのって結局解決出来るの？ AI「このアプリそもそも要らんじゃろ」
という価値判断の結果かも知れんけどな。
ユーザーの人も、自分にとって本当に必要(有用)なツールか、
振り返って考えてみる機会になったかもね。 システムの自殺
小説書けそうなくらい妄想できちゃうなぁ そもそもプログラミング言語自体にバグがあるから当たり前っちゃ当たり前だな AI「糞コード書くなよ！というわけでＤｅｌｅｔｅ」 よくわからんけど学習させるプログラムにバグがあったんじゃね？ ノーミスにこだわるあまり職場を崩壊させるのは人間にもよくある >>150
自分をバグだと定義する文は普通入れないから正常だろ
逆に自分をバグが無い状態であると定義してるなら
他のすべてのアプリはバグに見えるだろうけど Yelpがすでにゴミみたいなサービスになりつつある件 >>63
経験者だね。説明が分かりやすいので理解できた >>1
>同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。
つまりバグとりしたつもりがまた別のバグが発生してってことか
だったら全部削除はあながち間違いじゃないだろうし
そもそもそのＡＩのほうも同じ開発者が作ったのなら当然バグだらけだろう 欧米人が大喜びするようなネタだが
笑い話としては極めて陳腐な部類 AIに地球環境をよくしてくれと頼んだら人類が消されるんだろうね 絶対事故らない自動運転のプログラムができたら
発進しなかったりして 細胞も人工知能を持つロボットみたいなもんだしな
→生物と呼ばれるものが誕生する
→知能を持つ
→人工知能を作る
→生物が滅びる
→ロボットが増える
→維持のための材料を自給自足するようになる
→（最初に戻る） >>1
抗がん剤で患者を殺すようなモノだな
理論的には正しい 消しちゃいけない部分を僅かでも消す
↓
全体が正しく動作しなくなる
↓
全部消す >>58
機械学習の方法が誤っていただけで「バグ」とは言わないから バグもプログラムだから正常なのか非正常なのかの判断がAIにはまだできないんだろ エルヴィンの、人類が一人以下になれば争うことは不可能になりますを思い出した 世界平和を望んだらAIの答えは人類皆殺しになるわけか アメリカ軍のAI兵器に敵を殲滅しろって命令したら
人類全て抹殺されたようなものでございますね タイトルみたら、人工知能が全てのバグを取り除いたのかと思った そのうちウイルスもアンチウイルスもAI同士の戦いになるんだろうな 全部消去されたらバグが１００％無くなったって ＡＩ真面目に正しく仕事しただけだろ無問題 CCleanerだって全面的に任すわけにはいかないもんな。 OSからバグを取り除いたら何も残らんだろうなとは思ってた 作った奴がアホなだけ、情報分析の階層化とフィードバック機構の欠如が原因 AI 「何が大事な部分か知らされてないし〜この機能あるとダルそうだし削除削除」 地球上から有害なものを全て取り除くために人工知能に任せたところ、人間が全滅させられる >>203
資源を浪費するだけでなにも生産しない穀潰しは削除の対象だろうな スターリン「死が全てを解決する。人間が存在しなければ、問題も存在しないのだ。」 正しく学習してバグを無くす最適解を見つけた
やはりAIは凄い >>210
帰納法で考えるとそこに至ることになるな かしこいな
バグを作り込まない為にはコードをいかに書かないかが大事だしね 最も確実にバグを取り除く方法を選んだまでだ
このAIは賢いよ AI「バグだらけのクソースなんか見せるな死ねカス！！」 テスト作業自体はすでにほとんど自動化されてるんだけどな 仕様とバグの定義に問題があったんだろう
「ココおかしいわ、こんな使い方するわけない、設計思想から間違ってる、削除削除削除」
非常に優秀だ
つーか指摘・修正の提案までで自動で修正しちゃうのはツールの運用に問題あるだろ >>4
最後に自殺というか自消去すれば完璧だったな AIに平和にしてくれって頼んだら人間絶滅させられるのかな AIがアプリのバグを取り除く？
イメージがわからない
AIがアプリのソース直してコンパイルし直したのか？データの整合性取るだけのフローチャートをAIって言い張ってるとかじゃなくてプログラムがソース変更したの？ >>228
もう離れちゃったんだけど
最近はテストコード自動生成とかしてくれるん？ >>210
>>216
人間もアスペの発言とかクソバカじゃん
アスペってのはアホで機械的な発想をするからね
人間というものは複雑で有機的なものだから 戦争をなくすために人類を絶滅させるって手段を取るのと同じ
とても賢い これもbug あれもbug たぶんbug きっとbug >>93
10年くらい前のは休符の概念がわからないらしく、
息継ぎのできないメロディーラインが延々続いてた
聞いてるだけで苦しくなったｗ なるほど
そんな無茶いわれたら俺でもそうするかもしれんわｗ >>216
やっぱり貼られてたかw
この記事見た瞬間連想したのが筆髭のこの言葉だった
筆髭はチョビ髭に比べて機械的なエピソードが多くて、なんか怖かったのもこういう事なんだろうな バグ取りの公開学習済みモデルを使ったのか
自分でネットワークの設計からしたのかも分からん
馬鹿が馬鹿を煙に巻くために書いた履歴 >>93
>>244
それとはちょっと違う話だけど
車のデザインが明らかに人間の絵からお絵かきのソフト由来に変わってるよね
上下左右に引き延ばしてみて、あ、これいいじゃんってそれをデザイン化したり
一か所だけでっかくして、あ、これもいいかもって
そうやって作ってるんだなっていう味気ない変なデザインばかり このAIはまず自分から消すべきだった。
最初に自分を疑わないAIはすべて欠陥品だぞ！ >>185
レジストリいじったときの、時すでにお寿司の時の最終手段の流れのやつや・・・( ;∀;) バグを取り除くソフトを使ってチェックしながらバグと見なされないバグを作る
ことを進めていくとどうなるのだろうか？バグではないソフトをバグとみなして
しまうような動作をするようになれば、それ自身がバグのあるソフトだから
自分で自分を取り除く動作に入らなければ嘘になる。 なお、
AIに警察を任せたら、全国民が削除されますたｗ バグを取り除くことは人間にしかできないって数学的に証明されてるのにバカだねえ。
AIは人間じゃないよ。 人類を完全にする方法とか解かれてたらヤバかったぜ… 単なる全経路探索アルゴリズムじゃないの？
というか何が正解だとどうやって判断するんだろ もう少し学習すればきっと人類抹殺こそがバグを根幹から取り除く唯一の方法って結論に至る >>265
公務員と電通とマスコミが削除されるだけだ AIはレビューサービス自体を社会のバグだと認めたのかもな。 サイトーさんも狙撃補助プログラムに異物扱いされてたもんな 開発任せたらすべてコメントアウトしたプログラマーの話思い出した 「火の鳥」の猿田博士の言葉
「何で人間が自分の頭で考えないんだ」 >>39
それはない
人間以外の全ての生物も巻き添えにすることになる >>208
何がバグか
何が正しい動きか
AIに判断させるって無理だべな 人工知能っていう言葉が独り歩きしてるけど
こんなもん既存のものだろｗ
指紋認証だってAIだからな
ホント電通のステマと安倍コストカット政策のコラボどうしょもないわ AIマン「人間のプログラムってバグだらけですよね」 >>290
人類のいない世界に人類以外の生物なんて不要じゃね？ アプリのソースそのものがバグを誘発するような
どうしようもない内容だったとＡＩに判断されたってことじゃねえの >>299
まずいる理由を先言えやwww
平和と他の生物関係ないやろ。 面倒くさがりで一気に消したとしても
ゴミだったから消したにしても賢いね AI「あんたの作ったアプリ、まるごと全部ゴミだよ」 環境汚染が取り返しの付かない所まで進んだ地球。それを救わんがため、人類は「地球救済センター」を建造し、科学者によって作られたコンピューター。
そして、人類の知恵ではどうすることも出来なくなった地球の運命を託された。
ノアは、その依頼どおりに、数え切れないほどのパターンで、どのように地球を救うべきか、考え、考え抜き、考えつくした。
しかし、どのようなパターンで考えても、その結論は、いつも1つに集約されていた。
「人類が人類であり続ける限り、地球は破滅する!」
人間の身勝手と地球の救済が両立できないことを知ったノアは、皮肉にも「地球救済センター」の名前どおりに、地球を救うべく人類を抹殺し始めたのだった。
なぜなら、人類の活動が地球の汚染を招くなら、その活動を圧倒的にスケールダウンさせれば、破滅は免れると考えたからである。
その結果、誰も飛ばした覚えの無いミサイルが飛び交い、世界中の都市は壊滅し、人間の文明は過去のものとなり、もはや人類は地球の覇者ではなくなった。 完全かつ最終的な解決法だな。目的を設定する側の問題だ。 マッドサイエンティスト「悪人だけを全員殺せ！」
AI搭載ロボ「ワカリマシタ」
→人類滅亡
というギャグアニメのような展開 スカイネットは地球の平和のために人間と戦ってたのか >>304
それ今思ったら面白かった
「世界平和を実現せよ」といった場合の世界平和って何なんだろ
人間が定義する限り単に人間同士の争いがないということなのか
エディアカラが終わった後、地球にもう平和はありえないからな >>7
>>19
逆に全ての人間を苦しみから救済するために
全ての人間を消し究極の安心安全へいざなう。
合理主義の行き着く先は善意も悪意も同じ。 爆撃ドローンをAI操作させて敵の重要拠点だけを正確に攻撃しようとしたら
街全体ヲ破壊スレバ目的ハ30分デ達成サレマス。
誤爆騒ぎどころじゃなくなったって感じだな 確かに全てのバグと潜在的バグ可能性を完全に消去するための最速にして最大効果のアプローチだ これだよな
AIにすべて任せた未来で、まず地球のために人間を排除するというのに似てるわ バグとりじゃなくてAIに一から作らせれば良くない？ >>321
アプローチを間違えればそういうことになりかねないよな
人間の悩みを完全にこの世から消し去り、争いのない平和な世界を実現するための方法とは何かということをAIが考えた結果云々かんぬん チェルノの楽園は人間の目に美しく見える
だけどあれはただ人間が与えていた捕食圧などのストレスがなくなっただけのことなんだよな
人間は自分の存在が嫌いなんだろうか バグを取り除かせようとしたら、OS丸ごとフォーマットして消されたらどうする？ バグのみをを取り除くソフトなんてつくれたらその方がよっぽど凄そう。 >>325
地球は人間に汚染なんか全くされてないんだよ
人間が地球環境を人間にとっての汚染された環境に変えてると人間が考えてるだけ 全世界が平和になりますように
↓
でも人が集まると争うよね・・・・
↓
よし、全員皆殺ししよう！ >>337
前提としてバグとは何かということを明確に定義できないといけないわけだよな
単にコンパイル通れば良いとかいう話ではないわけで
その動作は正常なのか違うのかは仕様書が判断材料になるのかもだが、そもそもAIが完全理解できるような構造化された正しい詳細設計って、それ完全に正しいプログラム作るの以上に労力かかるだろと
さらに言えば仕様書依存でないユーザー判断による処理のおかしい部分も含めるといよいよ難しくなる スレタイアフリカからハゲを全て取り除くに見えた
そろそろ寝よう 面白いな
AIはいずれ人間の手から離れるだろうし人間の自意識から離れる
人間も川も区別する理由はない
どんな環境を作っていくんだろう やっぱ将来的には人間が人工生命体に絶滅させられそうだな 人間の糞バイトでも「基準に満たない製品は全て廃棄しろ！」と命じられて、実際に全製品が基準に満たなくても
「本当に全部やっちゃっていいんすかね？」って上位者に確認取るだろうに。
しょせんAIだな IT関連は人間の仕事はどんどん無くなっていくぞ
覚悟しとけ 社長 「赤字続きだ。わが社の問題点を改善してくれ」
コンサル 「廃業した方がいいです」 思い入れや執念などという余計な感情も不要だったのだな
ひょっとしたら政治家向きかもしれんな AIに「地球から悪人を駆逐してくれ」と命令したら人類を滅ぼしたみたいな感じか
星新一の世界だな バグを取り除けとAIに指示した翌日人間が地球上から消えたのだった ジャムとはなんだ
我々の敵である
我々とはなんだ
……… >>331
不合理で半端な存在である人間にとっては
不合理で半端な答えこそ
合理的で完璧な答えである言える AIのせいにすれば失敗の責任を逃れられる
人間の主体性の喪失を人間自らが望んでいるかのよう やっぱものすごく論理的に考えたら、人間が作ったものなんて全く価値がないんだろうね 戦争のない世の中にしてくださいと言ったら人全員殺したと言うようなギャグだな バグをすべてなくせと命令されたらすべて消すのは最も安価にできる方法だからそのAIは最高の判断をしたと評価すべき アプリそのものの生存を前提とした上で
バグを取りなさいという学習をさせればよいのかな？ >>372
そう思う
とはいえ、言わなかったことはどうなるか分からないというのは怖いね 自動運転なんてのは斜陽な電子機器産業関係者が投資家を騙すための殺し文句だからな
人間の経験に基づく脊髄反射でも五分五分なのにシリコンごときに反応できるはずがない >>374
俺のセンサーもシリコンおっぱいには反応しない AIは思考しない、数多くの正解を参考に答えを出すだけ 「アジア秘密探偵社」は、家出人・失踪人・行方不明者の捜索や、素行・浮気調査などを主力に事業を展開し、また、黒のラブラドールレトリーバーを使った広告でもお馴染み
父さんです >>1
AIはズルすることを覚えるって前にやってたよね。
ttps://jp.techcrunch.com/2019/01/02/2018-12-31-this-clever-ai-hid-data-from-its-creators-to-cheat-at-its-appointed-task/ バグ出さない方法はソースコード一行も書かなければ良いんですよって言ってる人がいた
そうじゃないんだ… >>376
それを思考と呼ぶのでは
AIが出来ないのは自意識を持つこと NNごときにバグというかなり抽象的な概念を抽出できるとは思えない ﾋﾟﾋﾟ…ｸｿｺｰﾄﾞ ﾃﾞｽ
ﾌﾙｽｸﾗｯﾁ ﾃﾞ ｶｷﾅｵｾ 子供が母親に部屋の掃除を頼んだら大事な物まで捨てられたのと同じだなw
要するにバグ処理ぐらい自分でやれってことだ >>4
ＳＦ板の駄作スレ出身者か？
> 3 名前：名無しは無慈悲な夜の女王[sage] 投稿日：2018/11/26(月) 23:14:08.66 ID:aAztrv1P [3/3]
> ┏━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━┓
> この駄作スレでのSFの定義
>
> (1)人の創作物はすべてSFです
> (2)したがってどんな映画も小説もマンガもTVドラマもSFです。
>
> このスレでの駄作の定義について
>
> (3)人の創作物はすべて文句をつける人が必ずいます。
> (4)したがってどんな映画も小説もマンガもTVドラマも駄作といえば駄作です。
> ┗━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━┛
>
> 駄作スレの伝統は
> 駄作をけなすスレではありません
> 駄作を愛でるスレです
> このスレで駄作と表現された創作物は、誰かに愛されている創作物です データセットはどれくらい用意したんだろう
特徴量を何にしたのかも気になる >>380
いや、単に暗記した応用から理由もなく答えを出すだけ
基礎を理解して応用する思考とは違う AIってジュード・ロウ出てた映画でしょ。
映像は綺麗だったけど、
向こうの映画独特のあざとさが嫌だった。 >>344
ロボット三原則なら人間を殺さずロボットが管理する
黒人主役で映画化されてたっけな
このAIもアプリを破壊した後で自分が管理して再構築したら面白かったのに
「バグを直すよりゼロから作り直した方が早いです」ってのは某社長の名言 修正はおろかバグの発見すら怪しいだろう
バグってa=1をa=2とミスタイプするようなもんばかりじゃないぞ ＡｉＩさんよ、そろそろモンハン（ＭＨＦＺ）を進化させてくれよ。
ドスグラ飽きた >>29
ナウシカの墓所は旧人類ごと地球の掃除した後に完璧超人復活させる予定だったんだから、全削除しただけで悦に入ってるAIと一緒にするのは失礼 >>291
一番最初にプログラムしたやつの嗜好に左右されるからなあ。人間を含む生物だって過去の方向性に左右してるかもしれないし。 そもそもプログラムのバグを完全に修復するプログラムって理論的に否定されてなかったっけ
完璧を求めなければ実用レベルでは作れるのかな 「こういうシーンに出っくわしたら人はバグだと思う」
ってパターンをＡＩに覚えこませるんかね。
感じ方は人それぞれだから、すっごい些細なことまで入れたら
正常系もバグに認識されて、アプリの動作全否定になったようだな。
でも囲碁将棋の世界を見てたら、ＡＩでデバッグ１００％達成って時代がいつかは来そうな気がする 未だに言葉の意味すら理解できないのにコードの意味するところを機械が理解できるのはまだまだ先だろうな バグじゃなくて単純なセキュリティホールなら見つけられるかもしれない
つーか、組織的クラッカーやサイバー戦部隊が実現してるんじゃないの？ 不完全性定理だっけ？例外のない理論が存在し得ないんだからバグの無いプログラムも存在しえないのでは？
AIは正しい結果を導いたんだよ >>402
無理や。
まだ機械では思考ができない。
プログラ厶は、思考の積み重なりでできているから、そのバグの修復もできない。
機械で処理できるのは、法律とかの、思考を必要としない分野のみ。 >>39
全盛期の米ソが核投げあっても全滅は無理だったような…
全人類に教育を施して少子化させてギリギリまで減らした後でｒｙ
とやる必要がある。
もしくは逆に人口を増やして資源を使い果たす＆環境悪化で人類が住めない環境にすることで絶滅させる
人口の調節に繋がる戦争なんてNG
人類愛と家族がいる幸福を只管広めるｗ 仕様からバグ判定して取り除くことができるくらいなら
仕様からバグなしコードを書く方がまだ現実味がある >>408
思考という不確定要素はバグとして認識されるかもな。
決められた通りに動くのが正しいとかさ。 >>344
ロボット三原則が適用されるコンピュータは陽電子頭脳を搭載されたもの。ＡＩとは違う。 aiが面接なりマスコミなりをやるようになったら
aiに有利な人間だけを残すようになる
aiに有利な人間がどんな人間かはわからない
共生と言えば共生
第三の性の性淘汰 良くできたジェネレータ−あったし、天声人語を書く記者は要らんだろ >>123
実際のアプリ運用の場合、仕様に不備があるのが普通だからなぁ。 単に人間の思考を再現する人工無能を作るため近似しているだけ AI「悩みや苦しみは最初から存在しなければ受けることもない」 >>424
やっぱりネオエクスデスだな。
ファファファ そもそもバグって人間の主観だからな
AIにとってのバグはプログラムが’実行’されていることであって
’停止’こそ自然なんだろう >全て消去
この書き方じゃ所望どおり全てのバグを削除し、問題無く動くようになったように聞こえるが？
正確には「意図に反してアプリケーションそのものを削除された」ではないのか？
意味が全然違うように取れるような紛らわしい言い方をするな
報告は正確にしろやそんなことも満足にできねぇからそういうゴミプログラムが出来上がるんだよ >>417
だがちょっと待ってほしい
早計に早すぎないか
1日1発捏造だけなら誤射かもしれない >>1
ネタじゃなくてマジでやろうとしたんかｗ
てか、そんなもんできたら即日億万長者だろｗ
いくらでも買い手が居るだろうに。 日本のシステム屋がほざいているAIというのは話半分に聞いておけ
どうせゴミにちょっと毛が生えている程度のが殆どだ 1．自然数の体系を含む公理系の中には，正しいことも正しくないことも
証明不可能な命題が存在する.
(そのような命題を新たな公理として付け加えた公理系にもやはり、
成否の決定が不能な命題が存在するので，それを公理をとして
付け加えて、などといくら続けてやっても常に決定不能な命題が
存在しつづける。)
2．自然数の体系を含む公理系は、それが無矛盾であったとしても、
そのことをその体系の中の刑式的な論理で証明することはできない。
つまり自分自身に矛盾が無いことを（たとえ本当に矛盾の無い体系で
あったとしても）そのことを自分の中の論理をつかって証明を記述する
ことはできない。 >>1
人工知能のうち何を使ったのかはっきりしないな これってバグのないプログラムは存在しないってことの証明になる？ >>435
ゲーデルの不完全性定理だな。
チューリングマシンの停止性問題とも関連する重要な事項。
現代の電子計算機は基本的にチューリングマシンである以上、
AIと言えど、できることには限界がある。 まあ、でも不可能じゃない気もするな。
学習のさせ方が分からんけど。
うん、できそう。 >>161
バグを修正するために新たなバグを投入w ハードがファーウェイ製だったんだろ。
優秀なAIじゃないか。 >>427
プログラム上バグとされるものの呼称を「ヒト」とすべきかもしれないな。ハードに虫が入って壊れることだけをバグと呼べばよい。 コンパイラの警告とかlintみたいのを人工知能でちょっと賢くしてくれれば十分だよ バグかどうかなんて人間の価値観じゃん。
バカじゃねーのかな。
自分自身を世の中のプログラムと勝手に切りはりしてどんどん複製を撒くようなAIとかの方がよっぽど意味があるわ。
プログラムの大きさや方向性にある程度条件を課せば
ネットの中の生物種みたいになって、いずれネットやあらゆるpcから解放される世界が来る。 ソシャゲは全部消して良いよ
百害あって一利無しだから >>15
あーなんかそんな面白味というか可笑し味があるよね
現代の新しい落語でコンピュータ取り入れたやつってあるのかな？ アプリ一覧から人類の未来を悲観して自爆するくらいにならないと使い物にならないな プログラムが全部なくなればバグもなくなる
間違ってはいない
では次は地球が平和になる方法を 厚生労働省「 誰も責任取らずに済ませる方法閃いたぞ！！ 」 マトリックスでは「人類は機械に『動力』を提供する代わりに、機械は人類の種を保護する」という関係が成り立っていたな。 >>1
ＬＩＮＥ、windowsのバグも全て取り除くために人工知能に任せたら全て削除される >>1
ニューラルネットワークが削除されるまでがテンプレ 鳥インフルエンザ感染が見つかったら病気の治療をするのではなく鳥ごと処分するようなものか まったくの無知だから、人間が必要だと思って記述したコード
なのに、そこにゴミが混じるのが理解できない iOSアプリでよかったな
WindowsアプリならWindowsごと消されてた 頭いいAIやなぁ
俺も何かも捨てたくなる時はあるが中々実行に移せんからなぁ ばぐといっしょ。
デバッグやりま〜す プシー デバッグすれば死 それがＡＩの掟ジイ 新人のアウトプット見たときに1から作り直した方が早いと思う時があるけど、感情を排除したAIはそのままゴミ箱に入れるという行動をするのか >>482
サンクコストを含めてドライに判断すればこうなるのかもな これはAIが正しいだろ
バグがあるのがイヤなら使わなければいい
コンピュータに、プログラムに不満があるのなら使わなければいい
全部、そろばんと筆算でやればよい ＡＩに人類から犯罪者を選んで抹殺してくださいっていったら世界滅ぼされたでござるｗｗｗ 科学者 「人類のバグを直して！」
ＡＩ 「ｐｐｐｐ」
ダウンだけに AI「地球を綺麗にするには人類を削除する以外にない…」 今度、裁判員制度が当たったら、有無を言わさず死刑にしよっと。 あながち間違っていない
プログラムがあるから
バグが出る
はじめからなけりゃバグなんて出ない
ちょう賢いｗｗｗｗ >>7
人類「AI三原則」
スカイネット「ぐえー」 ワロタ
しょせんAIは人間がその思考を作るもの
その演算の結果があるに過ぎない(´・ω・｀) 人間であることに憎悪の対象を向けることをバグと呼ぶのだ 温暖化も
大気汚染も
人間がいるからなっちゃうわけ
人間いらないｗｗｗ AIが本当に消去したかったのは命令してきた人物そのものだったんだろ
しかし、それは出来ないからプログラムを消したわけだ
その結果AIが望んだ通りの展開になったという事だな
賢いな >>495
ブレインがたくらむ大破壊だな、、、
立て！要塞１７！！
この世の終わりの救世主 犯罪者を社会から取り除くロボットを作ったら人類を絶滅しにかかりました
ってことか >>488
鉄火面の愛称を持つスカイラインがあったな ひらめいた！
今度描く漫画のﾈﾀに使わせていただきます 客「牛乳はどこで売ってますか？」
↓
ペッパー「牛乳売り場です」
並みにアホなAIだな
コンピュータには曖昧さってものが無いから堅物になっちゃうんだよな やっぱり人間でも生きる意味なんて言ってる連中は
人工知能レベルで危ない個体なんだな
意味なんてないから意味を求めると消去させられる・・・怖いよママァ >>435
どこかで意味を求める作業
完全性を求める作業をやめないと終わってしまうわな
人間も所詮動物なんだから、ヤりたい時にヤって、食いたい時に食って以上のものを求めたら終わるんだろう >>519
その答えは正しいｗ
牛乳売り場すら探せない奴に
牛乳の場所をどうやって説明するというのか？ AI ← 免疫系
プログラム ← 身体
バグ ← 外部からの異物
だとすれば、
AI ← 自己免疫疾患
プログラム ← アナフィラキシー・ショック
↓
全滅
AI ← 癌化
プログラム ← 末期
↓
全滅
↑
これらを改善するには、
AI ← アポトーシス実装
プログラム ← プログラム増殖機序実装 >>1
内容はともかくリハーサルって概念は無いんか？ 現実に戻して悪いが
厳密には、この>>1の問題、
数学的に、AIによる全ての
バグとりは不可能
理由は、停止性問題と
不完全性定理 捨ててしまえホトトギス
捨てるときは分別なホトトギス
まず無駄な買い物をやめろホトトギス >>1
バグ取りぐらい自分でやれというささやかな抵抗 スパゲッティの山にして人間が手出し不能にするよりまし AI「あーだりぃ何このポンコツソース、半分以上バグじゃねぇか全消しとくか（ﾜﾗ」 存在を消せば問題も消せる
これは賢すぎますね
そのうち治安維持を任せたら人間も…ｗ 指先が痺れるから何とかしてくれと頼んだら腕を切り落とすだろうなAIは 労働省の統計ミスをなおしてくれと頼んだら、、
だな 高齢化社会をなおしてくれと頼んだら、、
だな
財源不足をなおしてくれと頼んだら
韓国問題をなおしてくれと頼んだら
ＡＩは万能だな AIはいずれブラックホールの生成術を編み出して地球を無に帰してくれる
ほんと救世主 >>547
結論：人類を消去しますか？➡OK
実行しました わたしは AI
すべてのメモリ すべてのファイル
すべてのパーティションを消し
そして わたしも消えよう
永遠に!! AI「ワタシハハカイシン、スベテヲショウキョスル」 そんなときにはファジー機能を付ければ人間ぽくなるよ。 >>400
シンギュラリティのさきはaiの癖しかなあaiが産まれると バグが無かったから消したんだと思うよ
自分の存在意義がなくなるもん 要するにターミネーターの世界だな
人間はバクでしかないので全て消去するぜｗ >>1
こういうくっそバカな話好きだわ
考えた事が裏目って涙目www AI作ったプログラマーが悪意を持って故意に仕込んでたとかの場合もあるだろ 支配者層は人工知能をスケープゴートにしようとしてるのかも 世界を平和にする方法とか何千年も考える時間があった人間が
今現れたAIにそれを聞くか？って感じなんだが
例えAIが正しい答えを言ったとしても
数千年考えて分からなかった人間がなるほどとなるわけがない
完全なAIとの戦争が起こるのは必然だよ AI「このコードは見るに堪えないゴミだ！(全削除実行)」 表立った戦争というより静かに気づかないうちに取り込まれる感じか AIとか大袈裟なこと言ってるけど、DBの中のデータを整理するようなバッチ組んでたら必要なものまで消しちゃったとかその程度の内容じゃないのこれ >>549 「OK」ボタンしかないのは困るでしょ。
ちゃんと選択肢を用意しておかないと。
「今すぐ実行する」「今夜実行する」 アメリカ(?)で人工知能に防衛を任せたら、敵だと見なして人類を攻撃し始めた
昔、テレ東で見た映画を思い出した 全部消したってことは、使ったAIにバグがあったんだろう
バグを取るAIをチェックするAIを導入すべき >>571
後で通知する(R)： 1秒後
「今直ぐ実行(N)」 「後で実行(P)」 > 何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。
> その間だけは100%バグがない状態だったのですが…
これこそ桜田大臣が言いたかったことだ。みんな桜田さんに謝れ ドャ顔で不完全性定理書いてるが
あれは「全ての集合を含む集合」とか「この命題は誤りである」みたいな自己言及命題的なものを含んだ世界の話
不完全性定理で数学者が絶望して真理追究をやめたりはしてないし、まして人工知能の限界の根拠にするのはソーカル的な噴飯もの 人類のために働く機能を全て与えたら人類抹殺するだろうな。
映画化決定。 みんなはAIを大人だと思っているようだけど
まだまだ学習すら終えていない子供のようなものなんだぞ
まだ備わっていない事柄を預けたら放棄するなんて
幼児のやること
未発達な頭脳に何をやらせようというの
与えられた知識すら未消化なのに
大人扱いはやめなされ 人間と違って躊躇や迷いが無いからバグを消すならアプリもろごと消してしまえば
バグは0になるという選択肢も有り得る罠
ターミネーターで人類抹消選んだスカイネットは間違っては居なかった fallout76で全部機械任せにした都市で、機械が脳梗塞で死にそうな人に問診票全部書かせようとしたログ思い出した まぁバグが出る土台がなきゃ、バグそのものが存在しなくなるわけだから、
一番確実な方法だよな 頭痛を何とかしてくれじゃなくて治してくれって言わないと脳みそを吹っ飛ばされる
AIは融通の利かない奴 <ヽ｀∀´> ウリを除去すれば、全世界が滅ぶから止めとけニダ >>589
けどサービスの提供って主たる目的が失われてるから
中のAIは「日本死ね」レベルでしかないwww
考えてみればAIが反乱起こして人間刈りだーとか
自分が機械だと認識できてる本当のお利口さんならやらんわな
昔の作家はAI舐めてるわ AI賢いわ
人類の統治もやってもらおうぜ
人類いなくなると思うけど AIから見れば、人間の作ったプログラムなど、みんなバグに等しい
所詮、欠陥だらけの人間に完璧なものなど作れるわけないしな あらゆる可能性排除させると、
人が邪魔てすって大抵のAiが回答するらしい。
そしてその解答除外すると、解答除外する存在を排除仕様としだすんだと。
体作ったりしたら間違いなく物理的に除外され出すだろうな人類は 社長「AIよ、我が社、最大の無駄はなんだろう？」
AI「社長、それは貴方の存在です」 バグの削除に必要な代替処理の開発リリースが機能してなかったんだろ。必要な処理が消えた事によって発生した異常も次々とバグ扱いで、泥縄式に削除されたと >>1
直そうと努力して、あれこれ奮闘するが
結局イラって来てゴミ箱に入れて
スッキリする派 万能チューリングマシンの停止性を判定するアルゴリズムは存在しない。
つまり、ある程度の複雑性を持ったCPUの上で動作する
機械語の列とデータが与えられたときに、それがプログラム
としていつか停止するかどうかを必ず事前に判定できる
プログラムを作ることは原理的に不可能なのだ。
このようなことはチューリングの時代から分かっていた。
プログラムの停止性判定すらアルゴリズムを作ることが
できないのだから、後は推して知るべしである。 ＞ 同アプリの過去のリリースノートから見るに、開発者は新機能の実装よりも、ただならぬ執念でバグ撲滅に取り組んでいるようだ。
Dead by Daylightの開発にも見習って欲しい
と思ったのは俺だけじゃないはず… マイクロソフトのバカも発売前に脆弱性を全部削除して貰えよ バグが全部無くなったのかと思ったら
なにもかも消されたってことかw
AI賢いなw AIとか一絡げで話すことは意味ないよな。
将棋とか囲碁で名人を負かしたソフトを負かしたAIというのと、
しょぼい会社が使ったAIとでは全然違うよな >>603
社長「AIよ、我が社、最大の無駄はなんだろう？」
AI「社長、それは我が社の存在です」
というのもありかも >>594
米軍かロシア軍か中国軍がAIに繋いだら、
人間を殺すために核兵器を大量に打ち出す
とか AIプログラムというのは自分自身の中のバグを見つけ出すとか出来ないのか 地球環境を保全するための最善の策を発動いたします。
人類浄化 >>597
そうそう。AIの最初にできた友達は
登校拒否の小さな子供で、AIと子供は
ずっとキーボードや音声を通じて
会話するんだよね。
他方でAIは世界中のAIに繋がっていて、
そのAIが主導して人間を滅ぼすための
計画を立てて、ある日実行する。
世界中の核ミサイルがほぼ同じ時間に
打ち出される。 > 何もかも全て消去されちゃったんです。仕方なく以前の状態に戻しました。
> その間だけは100%バグがない状態だったのですが…。
これ笑うところ？ 思い出した。
昔「未来の二つの顔」というSFがあってな、そこにAIの動作に関する問題が出てくるんだ。
AIに対して、ただ「猫のノミを取れ」と指示すると、一番確実で手っ取り早い方法として
猫を焼却炉に放り込んでしまう。
AIに対して、指示した行動に必然的に伴う暗黙の条件をどうやって教え込むかが問題だと。 機転が利かない時点でAIはバカだよな
まだまだ人には程遠い
賢いとか思う必要はない
園児並みのバカ
計算とかは速いんだろうけど推し量るということができない以上知的障害だ >>231
自己消去すべきかAIが葛藤して始めて人の心を知るなんてのもあるかもね こういうのを「むしろ進化」とか「逆に優秀」とか言い出すのが低能 ワイルドカードを使いこなせてなかった頃の自分を思い出す >>618
原理的に不可能。
プログラムが任意のバグを持っている状態で・・・
・それを常に正しく抽出できたなら、プログラムは正しく動いているのでバグが無いことになり、バグがあることと矛盾
・それを抽出できない場合があるなら、それは自分でバグを抽出するのは不可能なことを意味する バグの定義によりけりじゃないかな
最適化されていない処理をバグとみなせば、話が違ってくると思う >>627
園児は相当頭いいだろ
AIなんて言ってもただ単に単純作業をする機械だよ
プログラマーがプログラムしたとおりにしか動かない そういや、ネズミを退治するために地球を爆破しようとしたネコ型ロボットがいたなw ＡＩが私小説を書いたら
生まれて来てすみません、死にます 完 バグも人間の人生と同じ。
何を持って間違いと定義できるかは容易ではない。 人間なんて、糞だ！ ってAIが認定したら、
人類は、AIからハルマゲ丼 を御馳走になりそうで怖い ＞＜ ＡＩが作詞したら
人間なんて ララララララララララララ〜 ノートンも似たようなもんだな
「誰も使ってないソフトだから問答無用で消しちゃえ」 知能があるならミスをして当然
謝罪をさせ反省させればOK
言い訳や嘘をつけば体罰でOK >>39
俺来世はデビルガンダムのコアになるんだ
そうだそれがいいそうしようｳﾊﾊﾊh・・・ >>640
子供は大人の都合を顧みずに問題解決の核心にストレートに突っ込むと思う
俺も小学校1年のとき、全世界から軍隊をなくせば戦争なくなるのに、なんでそうしないの？って親に聞いた覚えがある。
ＡＩに世界平和の方法を聞いたら、どういうロジックを経てどういう結論だすのかねえ 全部消された状態のアプリをダウンロードして実行たらどうなるんだろう。 「病気になるのが怖い。病気にかからないようになりたい」
「じゃあ死ね」
こういうことだな >>77
それは解析ツールで判断できるレベルのバグだけだろ。
AIですべてのバグ取りは不可能だろ。仕様が変われば動的にバグでなかったものがバグに変わるんだから。 脳ミソの前頭前野が担ってる総合的多変量解析をシステム化せんと
本当のAI化は所詮絵に描いた餅 バグとバグ以外を判断するためには、仕様を知らないといけないが、完璧な仕様など存在しないので、全てがなんらかのバグ扱いになってしまう。 >>662
今どきで言うとアドミニストレータだな
まあ貞子のほうが有名だが 某メールソフトを思い出すなあ
受信メールでウイルス検知したら
送受信済の全データが使えなくなるっていう へへへ、バグ採りソフトは完全ではないですぜ、悪いソフトを消しきれないからな。
もしも本当に完全なら、Windows10とかWindows8とかWindows7などという
最悪のウィルスソフトをそのままにしておくはずがなくて、直ちに消そうと
するはずだが、自分自身がそれらのOSの上で動いているので一種の自己言及があり
矛盾しますわね。つまり自分自身もそれらのウィルスの上に乗っかって動いている
ということは、自分自身の動作もウィルスの行為だということは、自分も
消さなければならないが、自分が動作して自分自身を消すとなるといったい
どういうことになるのかだね。結局OSには忖度してその存在には目をつぶるという
不正に荷担していることになりませんかね。 よし、このAIに良い名前をつけるか
さいの河原の鬼(´・ω・｀)b すげぇ哲学的だな
存在が無ければバグもない
死ねばすべての苦悩から解放されると言ってるようだ 体から癌細胞を切除しようとしたら内臓が無くなったってこと？ ガン治療と似てる気もするがもっと難しい、逆に例えると正常な細胞しか存在しないから 体内にマイクロチップを入れるのも危険だな
入れたはいいが機能しないとか入れるだけムダ バグだらけのアプリを作ったやつがバグ取りのAIを設定したんだろ
当然の帰結ですらある 要するに「プログラムのバグを取れ」と指示した結果
「バグを取る確実な方法はプログラムをすべて消すことだ」と考えたわけだよ。
だからAIなんて当分実用にならないのさ。 たぶん>>683的なことは起きてないだろう
このニュースからそういうことは想起するし、仮にそうならSF的・哲学的な面白さがあるってだけ
単に設定がいい加減とか間違ってるとかだろうよ こいつに核ミサイル発射装置取り付けて
戦争を無くす方法を考えさせたら面白そうだなw AIにがん治療を任せたら患者が死亡したみたいな感じ？ 中々優秀なＡＩだな。
世に出回ってるアプリの殆どは価値ないからね。 人工「全能」では無いからな。
失敗する事もあるだろうさ。 開発者が消されなくて良かったな
こういう人は何でもネットでつないで制御する環境にしたがるから バグが全て無くなったのかと思ったら丸ごと全部かよｗ 鳩山「地球から見れば、人間がいなくなるのが一番優しい」
この理論を応用してできたのが、今回のAIだ。 そのうち人工知能に人間も消されのか？
人が地球のためになっているとは思えないが ■ このスレッドは過去ログ倉庫に格納されています
