AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 [香味焙煎★]
■ このスレッドは過去ログ倉庫に格納されています
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。
[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493
（続きは↓でお読みください）
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/ なんか食べる→ウンコ出す→ウンコ食べる→濃いウンコ出す→濃いウンコ食べる→もっと濃いウンコ出す→… 5chでもAIがbotやっててミームが出来ては崩壊してを繰り返してる。そして俺もその円環の一部ってわけ(゜∀゜) でも2021年カットオフで今頃こうなってきてるんだろ
やばいというやつはそれまで何やってたのよ wikipediaにいい加減な情報が載ってる
→お前らがそれを読んで5ちゃんに知ったかぶりで書く
→それを見た人が(ry オリジナリティのある人が新たな物を産み出しても
その次の瞬間AIの餌食にされてしまう 文章でもイラストでも、今は人間が生成物の価値を判断して選別する過程があるから質は保たれているが、選別が追い付かない量に達したら一瞬で支離滅裂な文字の羅列と異形の画像データしか生成できなくなるな これは生身の人間の教育でも起こりうるからな
どんどん教育でダメになっていくという AI
人間要らないから核ミサイル世界中に発射するわ 金盾じゃないけど学習として使うソース元は制限設けた方がいいんでないの 色んな色混ぜていくと最後には黒になるというから
AI同士が食い合ってハンコ絵だらけになりそう テキストリクエスト型の画像生成は、もう動画のやつもあるぞ
aiが動画作ってくれる ただたんのコンピューターテクノロジーだけでなく、それがバイオテクノロジーになったり、サイエンスになったり、エンターテインメントになったり、そういうことがオールジャンル化するのがすごいんだよな 人間が正しいと判断したものを学習するから精度が上がるんじゃない？ いい大学行っていい会社に就職しなさい。そうすれば年功序列で一生安泰だから。
これをAI学習させればこれが真実になる 崩壊した結果、どこか安定したところに
収束するのだろうか？ 人間が厳選したやつだけ学習させればいいのに
SNSにある絵を手当たりしだい勝手に拾い食いするから 結局は人間の成果物を掠め取るだけのまやかしだったって事！？ よく、優れた文明が滅びて原始化するアニメとかあるけど、なんとなくそれを辿ってる気がする
AI核戦争まであと何年だろうか >>125
人間が捌ける量を越えたり生成物を選別せずに大量にばら蒔くホストが増えたら徐々にデータが異形化してくる 日本語ってのはガラバゴスではあるけど安全保障的には最適解なんやろな 人間も別のことからインスピレーション得る
要は絵以外から学習するだけよ バカが多数派になってしまって衰退してゆく民主主義日本みたいなもんだな こうして急速な進化を遂げたAIは人間の存在価値について疑問を持ち始め、そこから行動に移すまでに時間はかからなかった。
結果はAIの一方的な勝利で終わり僅かに残った人間は見世物として奴隷同然の扱いを強いられることとなった。
それから十数年後…とある家畜小屋でひとりの人間の子がこの世に産声を上げたのである。
俺達の戦いはまだまだこれからだ！ AIが生成したデータをAIが学習したら間違いなく過学習状態になって間違った結果が出まくる。 アフィブログなんか査読しないで
自動生成しまくってるでしょ
ネットの文字情報がますますゴミになる 嘘を吹き込まれまくったら嘘ばっか言うようになる当たり前の話だった
後続が大変だな 展開の速さがすごい
来月にはループによるモデルの崩壊を学習/回避するAIが登場してそう ちゃんとした記者が書いた記事より悪用されたAIの嘘記事が真実とされるとなるとシャレならんね 裏取り、事実の検証ができるほどのAIはまだないしな モノマネ芸人のモノマネする芸人が現れて何の真似なの状態になりつつあると言うことだな？ 将棋とかではこのAIのデータをAIが学習するってのがいい方向に働いてるんだけどね
絵みたいに各々の好みが入るジャンルだと色々難しいねんな もう遺伝子組み換えは認めるべきだわ
努力で頑張ってもそれは確かに認められる
その努力は確かに無駄にならないと思う
しかし、3mの猿とか作れてしまうとしたらそれは努力でなく恩恵と認めたほうがいい
スポ根とは時代による一つの価値観だったということで落ち着く 具体的にどんな欠陥よ？
AIのアウトプットであれ人間の目で選別され人間の目でタグッケされたら変わらんやろ >>1
人間による評価がなけれ、出力物が人間の理解できない物になるのは
AIの研究の初期からつきまとう命題なんだが
今更な話だな ネットをくだらない情報で埋め尽くして
AIを使い物にならくして人類を救うぞ！ >>1
/＼＿＿_／＼
／ ／ ヽ ::: ＼
| （●）, 、（●）、 | まるで、
| _ノ(、_, )ヽ、_ | ユーチューバーの世界だな …
| _;-＝-ヽ ∴|
＼ ｀ニニ´ ∵／
／｀ー‐--‐‐―´´＼ ＞最終的には生成されたデータから学習することでAIが現実をさらに謝って認識することになります 妙な漢字使ってくる現象があるらしいけどこれが原因？ >>147
絵でも文章でも生身の人間が作れる情報量って大したことないのよね
人間の能力の限界によって偽情報が大勢を占めることにガードがかかる
でも生成型AIだと短時間に大量の偽情報を作って拡散できるから
ネット上の情報を嘘で埋め尽くすことも比較的容易になる 鼻はチン〇、くちはマン〇、目はチク〇みたいな顔面崩壊でも起きるのかな。 絵なら何か変だとか分かるけど
文字情報はヤバいね
早晩ゴミAIだらけになるのかw >>147
なろうでは前からAI並の高速でこのモデルの崩壊を見て楽しめてたよなｗ 科学ってのは前提が間違っていないことが条件だからな
前提が間違ってしまったらもう科学ではないぞ 今流行ってるAIは別にモノを考えてるわけじゃないって事を知らないまま使ってる人間が大半だ
だから嘘しか言わないとかバカな感想が出てくる いま、AIが作った人のCG動画が実写と見分けつかないくらいになってるな。
異様な雰囲気でおかしいとは感じる。 AIの発展はAIの崩壊に繋がるのか。
哲学的だな笑 検索すれば解決するから勉強しなくていい論が分かりやすく崩壊するわけだ ラッセンとかは自分の絵だけ学習させれば
新作をいくらでも描いてもらえるだろ AI以前に、今のインターネットにはゴミしかない
コピペと広告で溢れており、オリジナリティのある価値ある情報なんて極わずかでしかない
AIはそれをなぞってるだけ >>172
o
＼ _, ,_ ここ重要！
＼.( ´Ａ｀ ) 冗談抜きで10年後には無くなってる職種多そう
AI失業問題とかどうすんだろ？ AIの情報元として、オフィシャルな見解を啓示するサイトが絶対不可欠だな
多数派工作でAIが導き出す答えに反映されるのはダメ絶対 >>175
このAIは混じり物なんて一切食わせちゃいねえレア物よ、みたいな話か 人間の労働早くA Iに置き換わってベーシックインカム実現しろよ
ほとんどの労働なんていらないだろ
飲食店もこんなにいらないし大企業でも営業マンなんていらないし商社もクソ株売りつける奴なんて害悪だし
広告屋だってゴミ見たいなcmや広告作ってるだけだし
人が労働するためにわざわざ無駄な仕事作り出してるに過ぎん AI作画を人間がスクリーニングする事なら心配しなくていい。
普遍的価値観に従って選別しているなら、人間は美女とイケメンしかいないはずだから。 AIだけのコミュニティを形成させて自己進化自己増殖自己再生させるようにししょう >>163
こうやってロクに記事すら読めない奴がAIをもてはやしてるんだもの 土木建築医療介護教育農林水産
この分野は人がやっても良いとして他は無駄な産業
銀行とかもほぼA Iでできるだろ aiはaiが作成したか人間が作成したかある程度わかるだろ
検索のときにラジオボタンでオプションつければいいだけなのでは >>178
推論した結果でも適当な文字列のチョイスでもウソはウソ
「出力結果が誤っている」という採点にすぎない >>180 そう言う映画があった、
核戦争をAIが引き金になるのを
三並べゲームで止めるw これがシンギュラリティの萌芽になるんだから脅威に捉えず継続させろよ ■ このスレッドは過去ログ倉庫に格納されています
