X
ChatGPTによる回答をStack Overflowが一時的に禁止　大量のもっともらしいが不正確な回答に対処しきれず [香味焙煎★]
■ このスレッドは過去ログ倉庫に格納されています
0001香味焙煎 ★
垢版 |
2022/12/06(火) 07:23:41.83ID:b37ySd5Q9
プログラミング関連Q&Aサイトの米Stack Overflowは12月5日（現地時間）、AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止した。ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。

　ChatGPTは、OpenAIが開発した実験的なチャットボットで、コンプリートテキストジェネレーター「GPT-3.5」に基づいている。そのデモ版が1日に無料で公開されて以来、人気が高まっている。

　Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いるという。

　数千件にも上るこうした回答の正誤を判断するために「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」としている。
stackoverflow

　この禁止は、何らかの対処方法を確立できるまでの一時的なものだが、このポリシー変更後にChatGPTで生成したと考えられる回答を投稿したユーザーには制裁を課すとしている。

　問題は、回答がChatGPTで生成されたものかどうかを判断する方法があるかどうかだろう。こうした問題が増えれば、ChatGPTのベータ版提供が停止される可能性もありそうだ。

　ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ、「私は、意見を述べることができません」としつつ「役に立つ回答が生成される可能性があるとは思いますが、そのような回答が正しいかどうかは、専門家が確認する必要があります」との回答だった。

ITmedia
2022年12月06日 06時47分
https://www.itmedia.co.jp/news/articles/2212/06/news069.html
0004ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 07:28:54.93ID:Y50qgjdM0
STACK社がAIかもしれないし、この記事もAIが書いたのかもしれない。
0005ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 07:31:15.56ID:ITaRWRzB0
これ確かに凄いっちゃすごいんだけど、肝心の出力結果を正しいかどうか判断できる人間が居ないと全く意味ねぇんだよなぁ…。

「なんかそれっぽいの出力されたからヨシ！」じゃねぇよと。
0007ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 07:37:07.57ID:cwP79vfT0
必要なのは人が望む正しさだからな
これは人でなければ出せない
AIは人と同じ思考を持つ存在に進化しない限り、永遠に人以外の答えを出す役立たずの機械となる
0010ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 07:41:52.03ID:07qiD9ZI0
ぴろゆきの話と同じやん
0011ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 07:47:18.54ID:ZYIwT2Vj0
もっともらしいなら十分なような
もっともらしいで動いているシステムばかりなんだし
そのもっともらしい物をなんとかしていたのはいつも現場の人間
0017ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 08:08:40.14ID:oT+a5pnV0
ただのパターンマッチングに人工知能って言葉を付けちゃってるのが問題
0018ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 08:13:19.25ID:hM2EnTng0
さっき勉強中の言語の質問したら解りやすかったけどあれ嘘かもしれないのか…
0020ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 08:16:01.54ID:0AFRI+2D0
おっと途中で送信してしまった
大嘘やデマを学習しててもおかしくないし
流行りのネットミームからも学習するだろうから
基本的に信用したらあかんやつやろ
0027ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 09:00:26.28ID:uRrM5pM50
ai画像と同じで投稿者がチェックできる能力を持たない
0034ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 09:42:53.99ID:P+l0XadF0
ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ、「私は、意見を述べることができません」としつつ「役に立つ回答が生成される可能性があるとは思いますが、そのような回答が正しいかどうかは、専門家が確認する必要があります」との回答だった。

…やっぱり使えない。
0035ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 09:52:15.17ID:2M9QNspZ0
懐かしの田宮さん回答みたいなもんだろ
「事件または事故あるいは自殺」もっともらしい列挙
0036ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 09:54:06.22ID:AqIv3SNj0
幸せについてとか人間が普遍的に考え続けているようなものの答えなら問題ないやろ
なにせ占いすら現代もまことしやかに信じられてるしな
0046ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 12:20:21.75ID:kaJ2hoHU0
学者や頭の良い人は少数派なので集合知はバカになる運命
参加者が限られてたネット黎明期とは違うから
0047ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 12:25:51.03ID:FsnTYpn10
このコードどうやって書けばいいの？

って微妙に間違ってる嘘回答連発する
チャットボットが公開禁止になっだって話？
0051ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 13:27:30.13ID:URPeSNT10
>>5
これな
回答見て感心したあとググったら全くの嘘だったりする
自信ありげにそれらしく嘘を言うから
結局ググって裏取りしないといけない
0052ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 13:39:27.01ID:PzecOcub0
どっかの大学の先生が、試しに自分の出した課題を入れてみたらそれっぽい回答出てきたんだけど、
根拠に挙げてる論文がAIの創造だったとかw
0056ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 15:32:43.19ID:g9o+NKzZ0
たらこも言ってたろ？
それが間違ってるかどうかも判断できないやつがツールを使えば痛い目にあうって
0058ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 16:27:46.34ID:wG+rYX0x0
Qiitaの内容が薄い記事も何とかして欲しい。
0061ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 18:40:53.99ID:WCX1YLRF0
正しい答えを知ってる人が文章を書く手間を省く技術
これだけでも凄く助かるけど
0063ニューノーマルの名無しさん
垢版 |
2022/12/06(火) 20:10:43.51ID:S1MCWUES0
まあ、ソースコードの確認をchatGPTにすると何か合ってそうな回答が返ってくるからな。使いたくなるわな。
0066ニューノーマルの名無しさん
垢版 |
2022/12/07(水) 17:15:19.53ID:pBF1Ajqs0
このAIのヤバイところってデタラメをもっともらしく返すところで
超高速で一見もっともらしいデマ回答を作り出せる
ChatGPT発のトンデモない偽情報が大量に氾濫する危険性がある

集合知の破壊者になりうる
0070ニューノーマルの名無しさん
垢版 |
2022/12/08(木) 02:09:19.61ID:Ng48jTKu0
「集合知＝デマ入れ放題」
という現実をAIくんが学習した可能性
0071ニューノーマルの名無しさん
垢版 |
2022/12/08(木) 12:53:55.70ID:XO1bZRsV0
>>48 >>69
性癖は性的な癖という意味ではありません。癖という意味です。

みたいなｗ
0072ニューノーマルの名無しさん
垢版 |
2022/12/08(木) 14:36:59.10ID:s/oXg29L0
試してみようと思ったけど、アカウント作らなきゃできそうもなかったのでそっ閉じしたわ
0073ニューノーマルの名無しさん
垢版 |
2022/12/08(木) 14:41:25.65ID:JIc/ic/E0
ChatGPTって学習で精度上がるんかな？
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況