AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 [香味焙煎★]

レス数が1000を超えています。これ以上書き込みはできません。
0001香味焙煎 ★2023/06/14(水) 08:12:13.30ID:MsNIzADG9
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50%は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。

[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493

(続きは↓でお読みください)
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/

0952ウィズコロナの名無しさん2023/06/14(水) 16:17:37.24ID:l5O0jZO90
>>948
>将棋はAI同士を戦わせることでどんどん強くなって人間を超えた。
将棋はルールが明確だからね。それを取り込んでAIさせている
AI絵画は、頭身比、指の数、関節の構造とかを無視して、AI作画している (アニメとかマンガを学習素材にしていることも原因かも)

0953ウィズコロナの名無しさん2023/06/14(水) 16:20:57.60ID:qI5b6PLY0
>>948
ならない
AIはまったく何も理解していないから
理解は人間に丸投げしている
悲しいかなどこまで行っても計算機

0954ウィズコロナの名無しさん2023/06/14(水) 16:24:04.53ID:mtoXm5wJ0
>>948
AI上有利って言っても何億手も先に詰み筋が見えるとか
そういうレベルは人間に求められてないだろって
誰だったか棋士が言ってたような

0955ウィズコロナの名無しさん2023/06/14(水) 16:26:17.31ID:qI5b6PLY0
まぁ生物ってのがどこまで高度なんだよってことなんだけどな
コンピュータにカメラやいろんなセンサー付けたらそれらの数値との関連でAIが世界を理解するようになるかなぁ
やっぱ無理じゃねえかなぁ
体というのがあってそれとの様々な事物の関係や因果によって作り出された多くの価値や社会
うーんやっぱ無理だ
人間の認識をコラージュしてそれらしいことを言えはするがそれはコピーであってまったく理解して無いからな

0956ウィズコロナの名無しさん2023/06/14(水) 16:26:19.58ID:8mHrxxo50
>>946
煽り合いですらAIで済む時代が来る
お前らいらね

0957ウィズコロナの名無しさん2023/06/14(水) 16:31:12.12ID:MSMGWljh0
>>919
そもそもAIに絵を描く気なんてないからな
まずはそこからじゃね

0958ウィズコロナの名無しさん2023/06/14(水) 16:39:07.04ID:Pg1r4toj0
>>885
おまおれ
機械には人間と同じことは絶対できないと決めつけたい奴が一部いるみたいだなw

0959ウィズコロナの名無しさん2023/06/14(水) 16:41:23.81ID:pq8FWLgK0
AIくだものってなんだと思ったわ
成果物ね

0960ウィズコロナの名無しさん2023/06/14(水) 16:47:34.74ID:oKpMFXLp0
はい

0961ウィズコロナの名無しさん2023/06/14(水) 16:53:22.62ID:FaRu3X/00
アリババのことで、アメリカ国外で日本で大島栄城だけど
俺を馬鹿にして襲ってる馬鹿がいたら、でてけよ
俺がチケット貰ってもアメリカにも行けないのも知ってるだろ

おまえらFBIなんだろ、検察官の大馬鹿全員もきてる
なんで俺がIBM互換機組み立てしてただけでこんななるんだろね
あんたら呼んだ地方公務員の大馬鹿全員もしらん顔して

俺がIBM互換機組み立てすると悪くて、藤井聡太のはいいのかね
藤井学園の大馬鹿のせいかね
もう丸亀市はむちゃくちゃだな

0962ウィズコロナの名無しさん2023/06/14(水) 16:55:28.12ID:0a/Vsfoz0
創造力のある人間の生産性を向上させるのが正しい使い方
創造力のない人間が数字を弄ってもゴミを量産するだけ

0963ウィズコロナの名無しさん2023/06/14(水) 16:56:15.83ID:q4yoqQ+h0
ユーチューブのAIとか見てると、AI社会って融通の効かない下手したらちょっとしたことで上から下に落とされるような未来になりそう

0964ウィズコロナの名無しさん2023/06/14(水) 17:03:35.09ID:tl2zW+6x0
>>948
ドラゴンボールZの魔人ブウを思い出した
魔人ブウよりも能力が低い対戦相手と融合フュージョンすると能力が上がるどころか逆に劣化するパターン
結局、魔人ブウは一切混じりっ気のない純粋な魔人ブウが最強だったってオチ

>>953
永遠に平行線をたどる
いずれシンギュラリティが起こると考える者は機械が人間を越えるという結論に至る
シンギュラリティは起こらないと考える者は、機械は人間を越える存在にならないという結論に至る

ただし、専門家でもシンギュラリティが起こると考える者が圧倒的多数派
だから、AIの可能性と危険性がこれだけ世界で大きくクローズアップされている

0965ウィズコロナの名無しさん2023/06/14(水) 17:06:50.88ID:hDCanlv30
そうなると最初から言ってたじゃない。
劣化引用のアフィだらけになって正しい情報にアクセスしにくくなる。ある意味インターネット破壊兵器。ネットオワコンのトリガー引いてしまった。

0966ウィズコロナの名無しさん2023/06/14(水) 17:08:33.10ID:7Y8pDwfy0
>>948
芸術分野でもAI同士が高め合ってより高度な芸術作品が生まれたりするかもな。
芸術作品というのは技術だけの話ではなく作者や時代の背景やら何やらも含めて芸術だから、そうはならんのかな。

0967ウィズコロナの名無しさん2023/06/14(水) 17:08:53.71ID:MDF4AV9l0
>>964
シンギュラリティが起きても多分気づかないままスルーされると思うよ

0968ウィズコロナの名無しさん2023/06/14(水) 17:10:01.31ID:D10RK9mD0
>>964
DBの話でズレるけど
DB本編の最強決定戦って

悪ブウ(もともとガリガリの悪ブウだったが善ブウを吸収して
スタイルの良い悪ブウになった)

vs

ベジット(ゴクウとベジータがポタラで合体)

が最強同士で

その後の戦いはレベルが落ちる
純粋悪ブウ(ただし善ブウが離れてる)

vs

ベジータ、ゴクウ(ぼこぼこにされる)

0969ウィズコロナの名無しさん2023/06/14(水) 17:13:20.04ID:YvmuCOZa0
当たり前の現象。
それに人間の作るコンテンツは欠陥データとして弾かれる。

0970ウィズコロナの名無しさん2023/06/14(水) 17:15:17.10ID:lFBvLlNx0
>>967
そう思う根拠は?

0971ウィズコロナの名無しさん2023/06/14(水) 17:18:51.46ID:9+8sO4xp0
公開した段階でネットワーク介して学習してるからいずれそうなるもの

0972ウィズコロナの名無しさん2023/06/14(水) 17:19:00.53ID:MDF4AV9l0
>>970
仮にシンギュラリティが起きたとしてそれはこちらが認識できる類のものなのか?
それはシンギュラリティと言えるのか?
予想の範疇じゃないか

0973ウィズコロナの名無しさん2023/06/14(水) 17:20:23.76ID:0qNRiT2G0
人間も原爆や水爆を作り出した

人間もAIも基本同じ

0974ウィズコロナの名無しさん2023/06/14(水) 17:20:32.73ID:ISi7jc9D0
>>821
道具なのは確かだが
閃きやアイディアの取捨選択は流石に
人だろ?
最終的には人がジャッジするのだから
例えば手塚治虫映画からヒントを得た
描写方法があるが
この閃きをどうやってaiに学習させるんだ?w
そこまで便利じゃねえよwww

0975ウィズコロナの名無しさん2023/06/14(水) 17:21:17.57ID:OAl7xMUG0
AIが描く前から巨大眼球の細アゴ奇形絵の再生産は人により行われていたよね
スピード増しただけで

0976ウィズコロナの名無しさん2023/06/14(水) 17:21:26.87ID:0qNRiT2G0
人の心など幻想でしかないのだ

意識も錯覚でしかない

我々とAIに本質的になにも違いはない

ただの器 ハードウェアなのだ

0977ウィズコロナの名無しさん2023/06/14(水) 17:22:36.61ID:tl2zW+6x0
>>967
そんなことあるかw
シンギュラリティが起こったら、人類史上最大の出来事!
シンギュラリティは、人類全体にとてつもなく大きな衝撃を与える世紀の大ニュースだから、シンギュラリティをスルーするのではなく、
世界中にシンギュラリティが起こったことに、緘口令が敷かれるかも知れない

0978ウィズコロナの名無しさん2023/06/14(水) 17:23:28.01ID:FaRu3X/00
おまえらほんとに人間か?FBIも、検察官の大馬鹿全員も

まるでエジプトのスフィンクスだな、上半身女で下半身けだものの
でなぞなぞだして不正解だと人間を食う

それは人間だ、ってこたえだけだろ

で、恥じて死ぬしかないのかね、あんたら

0979ウィズコロナの名無しさん2023/06/14(水) 17:23:56.77ID:OAl7xMUG0
シンギュラリティは電子計算機によって起こされるものとは決まって無いんだけどね

0980ウィズコロナの名無しさん2023/06/14(水) 17:24:19.77ID:FNh5PCTZ0
>>972
うーん、チャットAIだったらチューリングによる男女入れ替わりテストで普通にわかりそうだけど

0981ウィズコロナの名無しさん2023/06/14(水) 17:25:35.87ID:OAl7xMUG0
ゴミのなろう系話は人により再生産され続けていた
何が違うのか

0982ウィズコロナの名無しさん2023/06/14(水) 17:25:54.51ID:79QOftvj0
またそれ見て整形やり過ぎないといいが

0983ウィズコロナの名無しさん2023/06/14(水) 17:26:10.15ID:FaRu3X/00
どうせおまえらほんとに人でなしで、スフィンクスでも
死んだとしても、ほかの戦争の原因だけんなんだよな

0984ウィズコロナの名無しさん2023/06/14(水) 17:26:32.08ID:FaRu3X/00
>>982
俺は整形なんかしてないわ

0985ウィズコロナの名無しさん2023/06/14(水) 17:26:48.35ID:pSwHikKN0
>>974
閃とは何か、シンギュラリティとは何かって部分の話だなw
アルファ碁というAIが囲碁の定石を覆す新しい手で勝ったってニュースがある
研究の結果、過去の譜面からの学習した経緯というのは分かって来てるようだが、それをシンギュラリティと呼ぶかどうかは未だに議論がされていたりする
手塚治虫の閃きも彼のそれまでの人生という学習データ、記憶から導き出されたものであって、研究と共にそれが何から導き出されたものかは推測出来るようになって来てる、それは閃きなのか学習なのか
手塚治虫のそれが閃きならばアルファ碁はシンギュラリティを迎えたと言っても良いのではないかってね

0986ウィズコロナの名無しさん2023/06/14(水) 17:31:29.50ID:tl2zW+6x0
>>977
シンギュラリティ実現の報道は関して慎重さを要する為、すでに現時点で報道のあり方が要人関係者や国連を始めとする国際機関の間で協議や取り決めがされていても何らおかしくはない

0987ウィズコロナの名無しさん2023/06/14(水) 17:37:45.89ID:9on7/6F40
AIが生成したコンテンツからの学習を繰り返すと、美少女がいつの間にかバケモノになっちまうぞ
AI生成画像で、指が3本しか無かったり、逆に6本以上有ったりするからな
脚が3本付いてたり、頭が2つ付いてる場合も有るw

0988ウィズコロナの名無しさん2023/06/14(水) 17:38:41.58ID:FNh5PCTZ0
>>986
人以上に役に立つかどうかなんてありとあらゆる人間が、ありとあらゆる評価方法で試してるのに報道だけ抑えてどうすんねんアホ笑

0989ウィズコロナの名無しさん2023/06/14(水) 17:42:50.90ID:FaRu3X/00
俺がアメリカに反抗するわけないだろ
ここの掲示板に白人がいるなら、IBMのCPUのもとになってる
脳だけの女の子、エレン以上になられると困るからとか
エレン以外にもおぞましいことアメリカでやって処理機材つくってな

こないだCIAとかに土下座したし、モサドにも土下座した
それで株価もあがってんのに、ほんとあんたら俺が死んでも納得せんね
それが日本人かね、馬鹿しか居ない、天皇陛下の馬鹿とか周辺も大馬鹿
文部科学省の官僚で東大の入試問題販売ばっかしてな

0990ウィズコロナの名無しさん2023/06/14(水) 17:44:35.91ID:89ZPf2050
AI将棋同士が対戦を繰り返して
1手打った時点で投了とかする

0991ウィズコロナの名無しさん2023/06/14(水) 17:44:40.13ID:FaRu3X/00
それとも、ほんと大馬鹿な韓国の大馬鹿全員が大馬鹿ばれるとこまるのかね

0992ウィズコロナの名無しさん2023/06/14(水) 17:46:09.11ID:FaRu3X/00
おい、警察全員、予算盗みとり屋、なんか言え

0993ウィズコロナの名無しさん2023/06/14(水) 17:47:21.37ID:cUvv2u2Y0
過学習

0994ウィズコロナの名無しさん2023/06/14(水) 17:47:59.31ID:f+XQM0gW0
>>1
もう人間を超えるのか

0995ウィズコロナの名無しさん2023/06/14(水) 17:48:05.29ID:FaRu3X/00
賠償金寄越せ、警察全員

0996ウィズコロナの名無しさん2023/06/14(水) 17:48:43.71ID:tl2zW+6x0
>>968
その融合は魔人ブウ同士だから、元々は1人の魔人ブウが2人に分裂して、再び1つに再統合した例外だな

0997ウィズコロナの名無しさん2023/06/14(水) 17:51:27.47ID:IySsjX0d0
>>304
おっぱいが4つあってお得

0998ウィズコロナの名無しさん2023/06/14(水) 17:51:35.39ID:TrkLRE/P0
AI果物に見えたわw
あぁナシ食べたいなぁ

0999ウィズコロナの名無しさん2023/06/14(水) 17:52:47.44ID:k+TpfPOA0
>>990
いや究極では先手後手が決まった瞬間にどちらかが投了
以後将棋の駒は動かされることは永遠になくなる

1000ウィズコロナの名無しさん2023/06/14(水) 17:53:01.54ID:MSMGWljh0
1000ならシンギュラリティ

10011001Over 1000Thread
このスレッドは1000を超えました。
新しいスレッドを立ててください。
life time: 9時間 40分 48秒

10021002Over 1000Thread
5ちゃんねるの運営はプレミアム会員の皆さまに支えられています。
運営にご協力お願いいたします。


───────────────────
《プレミアム会員の主な特典》
★ 5ちゃんねる専用ブラウザからの広告除去
★ 5ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────

会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。

▼ プレミアム会員登録はこちら ▼
https://premium.5ch.net/

▼ 浪人ログインはこちら ▼
https://login.5ch.net/login.php

レス数が1000を超えています。これ以上書き込みはできません。