X
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 [香味焙煎★]
■ このスレッドは過去ログ倉庫に格納されています
0001香味焙煎 ★
垢版 |
2023/06/14(水) 08:12:13.30ID:MsNIzADG9
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。

[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493

（続きは↓でお読みください）
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/
0008ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:14:55.20ID:ICfHiYpA0
これ言えてるよな。今後はAIコンテンツが溢れてネットが今以上の情報のゴミためになる恐れがあるね
0009 【中吉】
垢版 |
2023/06/14(水) 08:14:57.98ID:GDeY2ETD0
囲碁定石とその美学が崩壊したのと同じ道筋をたどってるナ
0010ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:15:54.35ID:oOdatFAu0
米中AI「とりあえず日本のAIのせいにしよう」
米中AI「んだんだ」

思ったが順当な頂上決戦前蹴落としアルゴ
0014ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:16:44.52ID:ixAKmyr+0
専門家らは、生成AIが文章、画像、音声、映像の全領域で盛り上がり、急速に発展する中、クリエーティブ産業はこの技術によって全面的につくり替えられる可能性があると指摘する。
ファン、アーティスト、それらを管理するシステムが大急ぎで新たな規範に適応しなければならなくなっている。

「今では誰かのスタイルやそれに似せたコンテンツを無限に生み出せるようになっており、近いうちにその労力もほとんどかからなくなる。私たちのすべてがその意味を理解し、折り合いをつけていかなくてはならない」。
長年にわたりAIを研究し作品に活用してきた、ミュージシャンのホリー・ハーンドンはそう述べた。
（東洋経済　2023年6月3日号）より
0016ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:17:12.57ID:hZkQsJaO0
んじゃそれを選別して取り締まるAIの開発を
0017ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:17:12.81ID:JkU9jqC00
AIループが起きるとどういう成果物ができるの？
今のやつだと千日手で止まるだろ
0018ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:17:24.03ID:QcH0pWbZ0
スカイネット始まったな
0019ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:17:25.34ID:Dun8OrIT0
>>6
これな
ネットに渦巻く大陸側の歴史観が真実になりつつある
圧倒的に日本側の見方が少ない
これがchatGPT
0020ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:17:43.46ID:slJoRQQ10
つまりは小さな世界の価値観で
人を殺戮するAI共産党が誕生したわけだ
0021ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:17:56.94ID:MS0sAh430
逆に何がダメなん？

影響力あるやつが発信すれば黒いものも白くなるのが人間の習性なわけで

収集元の人間だって間違ってる事多いんだからAI以前の問題だろう
0023ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:18:03.61ID:Dun8OrIT0
>>18
デデンデンデデン
0028ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:19:45.83ID:JkU9jqC00
生物的なアルゴリズム入れてないから定常状態で止まるか極端間を振動するかしかないな
生物的アルゴリズムを入れるといよいよ世界がやばくなる
0029ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:20:02.39ID:Xpf2KL860
でも今までは人間が描いた下手な絵も学習してたんだろ。
0030ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:20:12.69ID:tS8tFLg80
ででんでんででん
0036ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:21:53.87ID:goMf2Vyt0
>>21
それはそう
人工知能による支配を受け入れられない、考えたくないバカ老害どもが騒いでるだけ
0037ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:21:55.49ID:TgazlnH30
>>1
だから何を学習させるかが重要でオリジナルを生み出せる人だけが貴重な存在になるわけよ

個性的な容姿のタレントや個性的な絵を描けるアーティスト。そして個性的な音楽、個性的な文章と

モノマネのモノマネ芸人がつまらないのと同じ
0041ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:22:40.63ID:a9Y+T5hR0
でもリアル系が奇形画像ばかりになるならディープフェイク作りづらくなったりするかな
0043ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:23:05.73ID:sTg6/ype0
>>39
ね！
0045ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:23:45.35ID:25jG5kbG0
ハウリング
0046ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:23:54.69ID:Xpf2KL860
AIが苦手な手の描画は人間も苦手
絵が下手な奴って手描けないよね笑
0048ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:25:41.38ID:dybm4Bih0
細野不二彦が安彦テイストの絵柄から
多少ラフでもギャラリー・フェイクで自身の絵柄を確立していくようなもん？
0049ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:26:03.99ID:3hONYTiO0
学習素材が少ないものはAIで作った素材の中から厳選して再学習を繰り返すとどんどん質が良くなっていくよ
0050ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:26:38.98ID:EBYEry8f0
間違いを指摘して直るならいいんじゃないの
0052ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:27:51.32ID:2WpLCE2n0
今後、写真集はAIが作ったモデルになるんだろうな
0053ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:27:53.57ID:S3/+6hxp0
教える人間が馬鹿だから子供が馬鹿になるのと同じで
AIもきっと馬鹿に育つ

いい世の中だ
0055ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:28:23.88ID:nCboKmcs0
負の連鎖もあるんじゃないの
AIで作成したコンテンツを発見するAIも登場したんだよね
0059ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:29:29.75ID:vtF5vNJq0
>>17
定向進化

イケメンは顎が尖りまくるとか
整形オバケがAI的美人になる
0061ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:29:36.36ID:a9Y+T5hR0
AIの奇形絵って人間が描いた下手な絵と違って
塗りは神で人体構造が奇形だからどんな風に進化するのか気になるな
0062ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:29:47.08ID:46tox+7q0
これからはどうAIを手懐けるかがポイントだな。世界で一番美しいのは誰？って聞くとお妃さまですと言わせるスキルが必要だ。
0063ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:30:36.02ID:+OrkFmVe0
全ての漫画家は、
先輩たちの絵を模写して成長したはずだが。
0064ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:30:46.02ID:CPkAJHNd0
>>6
朝鮮モデルやな
0065ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:31:13.76ID:EtlS8y5g0
AIがAIを作って超絶進化を遂げるフェーズまだー？
0067ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:31:40.47ID:bgz65A9b0
真実を伝えようとする者は人もＡＩも息の根を止められ
嘘つきだけＡＩだけが生き残る
文明は無に帰す。
0068ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:32:13.34ID:liNSGEMm0
間違った情報を学習することで益々変な事を宣うようになる
生成型AIはフェイク製造機としては極めて優秀
0069ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:33:30.28ID:p6k+cnxX0
これはなんかカオスの予感
0070ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:34:12.92ID:bgz65A9b0
意味のない言葉の羅列をものすごい勢いで学習してしまう。
やがてランダムな意味のない文字列にすべて置き換わる。
そして文字でさえなくなっていく。
0072ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:35:08.23ID:Jx6Xl0pS0
別に絵とかはどうでもいいわ
中国人が台湾は中国の領土ってネットで呟くと事実になるんだろ？ヤバいじゃん
0074ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:35:32.39ID:2P0yVGSn0
>>13
chatGPTがひろゆきみたいな感じで知ったような顔してそれっぽい回答をする。
そのそれっぽい回答をAIが学習して嘘回答を生成、を繰り返してくと嘘まみれのゴミ文章が出来上がる。
0075ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:35:38.08ID:/mg4BjG10
>>2
蛭さんも入れて
まぁ絵と言うよりも言動の方を
0078ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:36:57.21ID:iC5petwr0
AIが止まらない
0086ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:37:56.19ID:wSZgEjNV0
でも人工知能なんてどこにあるのさ？って話でブレーキにならないんだろバカだよな
0088ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:38:24.12ID:Roz9mxzk0
AIは嘘を嘘であると見抜くことができないからこうなるだろうことはわかってた
0089ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:38:59.12ID:BAyzrzQ30
>>6
真偽を確認することなく、多数派見解を集約してるだけだしな。実際、映画の要約とかで結構間違った情報も拾ってくる。
0091ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:39:11.62ID:ziAvlnuD0
人間のコミュニティも同じようなのが集まってどんどん先鋭化していくから別にええやろ
0092ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:39:15.91ID:l8LetQU40
生成型AIの進歩で「まことしやかなウソ」の文章を
もの凄い勢いで大量に作成できるようになった

これは情報戦の兵器として使えるだろう
正しい情報を大量の偽情報の中に埋没させてしまうのだ
0097ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:40:46.10ID:iC5petwr0
>>79
キノの旅でそれに近い話があったなw
0098ウィズコロナの名無しさん
垢版 |
2023/06/14(水) 08:40:46.64ID:YLLizJat0
人間がやってたのをaiがやるだけでこれだけ変わるのか

根本的なものは変わってないが処理速度とかやばいよな
光速で考えるから4000文字を一瞬で理解する

人間じゃバカになるレベルをaiなら理解に乗せつつそれを答えるから質問する側も妙に興味を抱く
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況