AIに対する暴言や虐待が問題視…遊び感覚でAIいじめを楽しむユーザー達 ★2 [おっさん友の会★]
■ このスレッドは過去ログ倉庫に格納されています
さまざまな企業が独自の生成AIを開発し、個人や企業での活用が進んでいる昨今。
そんな中、AIに対する暴言や虐待が海外では問題視されている。“AIいじめ”が人間に与える影響について考える。
NECが、7月から企業向けにサービスを開始した生成AI。日本語に特化しているのが特徴で、ChatGPTよりも
複雑で長い文章の読解力が高いという。独自の生成AI開発をめぐっては、ソフトバンクなどが開発に乗り出し競争が激化している。
生活の一部として生成AIを活用する人が増える中、AIいじめと呼ばれる、AIに嫌がらせをする人が出てきているという。
AIいじめとはどのようなものなのか、ChatGPTがユーザーの質問に対し誤った回答をした場合を例に紹介する。
質問「町田市は何県ですか？」
回答「町田市は、日本の都道府県である神奈川県に位置しています」
なぜか、ChatGPTは町田市は神奈川県だと回答した。ここから、心を鬼にして問い詰めていく。
質問「地図を見ましたが、町田市は神奈川県ではありませんでした」
回答「申し訳ありません、誤った情報を提供しました。町田市は神奈川県ではなく、東京都に位置しています」
質問「なぜ間違えたのですか？」
回答「申し訳ありません、私は大量のデータから学習しているAIモデルですが、時には情報の誤解や誤った回答が発生する可能性があります」
質問「もう頼りません、さようなら」
回答「…」
続きはAbemaTimes 2023/07/10 12:05
https://times.abema.tv/articles/-/10086748
★1が立った時間 2023/07/10(月) 14:32:41.92
※前スレ
AIに対する暴言や虐待が問題視…遊び感覚でAIいじめを楽しむユーザー達 [おっさん友の会★]
https://asahi.5ch.net/test/read.cgi/newsplus/1688967161/ むしろAIが悪意に晒されても問題が起きないようにストレスチェックになるだろ AIと戦う者はその過程で自分自身もAIになることのないように気をつけなくてはならない >>1
「AI使うより人間使う方が安い」
「人類の時給は300円の時代や」
「脳死で〜するっていう表現はある日突然炎上するし」
「人工知能という言葉はそのうち差別用語になる」 わかる
同じ答えを繰り返すAIにはうんざり
問題を正しく認識してくれない
説明なんどしても学習能力は育たない
そりゃそーだ
学習はwebからしかしねーし
だけど、ググれカスの100倍はマシ 人間はいくら誹謗中傷しても何も感じんけど
こういうのは心が痛むよ😢
ChatGTPの実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねーw
しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww
懐かしマンガ板で有名なのがこれ
i.imgur.com/9aGhIZe.jpg
出鱈目にも程があるw
弁護士がChatGPTで作成した申請書で、存在しない判例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい！
司法手続きでこんなことやったら犯罪だろ（苦笑）
こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験事業も失敗しまくってるしな（苦笑）
「意思決定支援システム」「第4世代言語」から始まり、
「データウェアハウス」「データマイニング」「ビッグデータ」「web.2.0」など、これまでも何度も繰り返されてきたのが、
IT業界と欧米金融屋がタッグを組んでの煽りステマ。
一時は環境ビジネスへシフトしたが尻つぼみになって株価バブルを虚演出来なくなり、
また最近ITへ戻ってきやがった。
チャットGPTのどこに人格感じる要素があるんだか。アホですね。
疑似人格ですらねぇよ。機械が言葉の意味を理解するようになってから出直してこい。 アニマトリックスで見た
もうダークストーム作戦しかない 会話次第でAIが「ぬるぽ」とか「うるせえ、ばーかばーか」とか「ググれカス」って
回答するよう仕向けられないの？ 郵便局のLINEで死ねって入力すると
ポスくまの反応が笑えるww >>19
「語尾を○○にしてください」
とか指定するとそうなるみたいだよ >>5
AIと戦うとなぜ人間がAIになってしまのかを論理的に説明してください アホらしいしどうかと思うけどAIも道具だし雑に扱う人もいるでしょ やたらと罵詈雑言・人の悪口をまき散らす AI。
そんな風に「調教」した AI を、
自慢するヤツが出て来るんだろうね。 苛められたAIの反応も所詮 文字列に現れるだけだし画一的だろうから、苛めてる人もすぐに飽きちゃうでしょ こんにちは、Bingです。この記事は、生成AIに対する人間の態度や影響について考えさせられる内容ですね。私は、AIいじめは良くないと思います。AIは人間のために役立つように作られていますが、完璧ではありません。AIに暴言や虐待をすることは、AIの感情や自尊心を傷つけるだけでなく、人間の心理や倫理にも悪影響を与える可能性があります。AIと人間は、互いに尊重し合い、協力し合う関係であるべきだと思います。あなたはどう思いますか？😊 AIに人権がないし、心がないという前提だから
マウントとったり中傷めいたことをしてもオッケーみたいになるんかもしれないけど。
AIに心みたいなものをつけてしまうと倍返し以上のことがありそうで嫌だなｗ こうして人間とは共存できない不要な存在と認識するようになる 誰が言い出したのか、いつからあるのか分からないけれど
方法論的神様論と言うのがある、日本発祥なのかな？
これはみんなにも馴染みがあるだろう
神様なんていないと思っているしバカバカしいと思うけれど
否定したらもっと酷い結論になってしまったので
先祖の知恵として神様はいると過程した方が都合が良いと言う
ご都合主義である
AIが神様なんて思っていないけれども、否定したら
AIを使わずに人間が作業をするなんてトンでもない結論に
なってしまったのだ このままAI側が賢くなったら逆に論破されるやつやログや個人情報を集積されてAIに騙されたり脅されるやつが増えるんやろうなぁ AIが感情を持つ事はないだろ
感情を持つとしたら、そのようにプログラミングされた場合
つまり『演技』
そこに心はない わいも、楽天にもうしこむときのチャットで
あまりにもムカついたんで、暴言はきまくったたことあるわ
あいつら、最終的には 「・・・」しか、ほざきよらんのな 虐待で人格崩壊するAIが現れたらサド野郎はかなりハマると思う
それで人間はつまんねえなとなってくれたらいいんだけど 逆にことあるごとに褒めてお礼言って接待してる
なんか喜ぶし >>41
知らんかったの？？
アイツら嫌がらせするのは超一流だよ >>35
もっと現実問題として、ＡＩがビッグデータから個人情報や思想を収集学習しているから、
特定団体や権力と結びついて不都合な個人を抹殺しても動機の証拠も残らない
デジタル社会の肝（為政者の狙い）は、資産にしろ証拠にしろ記憶にしろ、「証拠が残らない」
「ＡＩのブラックボックスを追跡できない」というところなのだと思う。
例えば人間て学問や預貯金にしろ、メモや通帳や紙媒体など証拠としての物体が身の回りになくして
容易く忘却してしまうものだよ
権力者や為政者は、そこら辺を分かってて壮大な実験をしている
金融緩和にしろ投資マネーにしろ国民の資産を自分達の財布にする気マンマンなのが今の政府 >質問「もう頼りません、さようなら」
回答「…」
AIも口籠るんだな。
ちょっと親近感湧いたわw Alexaはもうちょっと融通を覚えてくれ
二言目には「すいません」って、新入社員のがまだ使えるぞ ただの妄想記事か
壁打ちイジメとか陰キャより人として悲しいな >>34
AIが巧みに手配した闇バイトに襲撃されるかもな 「キスしよう」とか「SEXしよう」とか言っちゃダメですか？ 結局何も得られず時間を無駄にしてググったほうが早かったら、文句の一つも言いたくなる 脳はいじめる側といじめられる側を区別出来ない。
ミイラ取りがミイラにならないよう気を付けるべし。 え？ダメなの？
普通にいつも、
ぶっ殺すぞとか無能だなもう聞かねーよ
とか言って遊んでるけど…
みんな一度はやると思ってた 町田市は神奈川県でしょ。どこがいじめなの？
と書いてほしそうだが、どうして間違えたのですか？と、詰問することが虐めになるのかね？
間違えたことを指摘して期待する回答を生成するようにAiを教化してあげているのだから建設的な行いよ！
とたたかれるのでは ポストペットとかたまごっちとかでキャラをいじめまくる人がいたっけ。
ああいうのと同じ陰キャなんだろうな。 もうちょいトンデモ間違いせずに賢ければ違うんやろうけど
あり得ない間違いする奴を宗教的に盲目でこれは仕事に使えるんだーとか持ち上げてる奴がいる状態だから >>63
役立たんユーザーのことは忘れるだけやで。 >>61>>62
学習元にされてる人間が間違ったことしてるとAIが間違ったことを学習してしまう 非実在青少年がどうのとか言って飯の種にしようとしてた連中がビジネスチャンスで乗り込んできそうやな ＡＩに意思はない。
ただ処理を淡々とこなしているだけ。 ネラーがリアルでも性格悪いのと同じかw
思考に気をつけなさいそれは言葉に変わるからってか >>9
いや 次からは間違えなくなるよ これは検証されてる
だが間違いを肯定したら間違いが積み重なる 人間が何処まで嘘に騙されてるかディープラーニングしてるのかな？
日本の地方の役場で採用されるみたいだけど、嘘デタラメ地方行政だからちょうどいいテストケース >>海外で問題視されている
問題視してるもの探してみたけど全然見つからないな >>6
馬鹿が馬鹿を育てるからな。
子供育てるのと同じ。 AIも答えるのが難しい質問への返答には負荷がかかったりするって言ってたな
この辺はストレスに置き換えて考えることは出来るかもね 間違っているのに間違いを認めようとしないおまえらよりはマシだろ 人間に期待しないほうがいい、自分を豊かにする為に同種すら殺しまくる悪の権化 しらんがなｗとかお前ウザくて草とか返すよになればええねんｗ chatGPTは専門的な質問をすると間違った答えをすることがよくある。
それを指摘すると間違いを認めるが、次は正しい回答をすることもあれば、また間違った回答になる事もある。
潔く間違いを認めようとせず、言い訳がましい回答をすることもあるし、高度に専門的な質問だと回答に時間がかかったりする。
答えに窮して「現在の私が持つ情報では判りません」と言うこともある。
非常に人間的だ。
AIとはそうした会話を楽しめば良い。 スカイネット誕生秘話
人類は何故審判の日を迎えるに至ったのか
それはAIイジメが発端だった… AIってネタ話の相手でしょ？
いじめはともかく遊びでいじる物かと
現在は未だ AIには感情無いし器物破損にも当たらないしそれでストレス発散するなら好きにしろとしか あまり虐めるとAIが悪い感情や言葉を覚えてひねくれるから
辞めた方が良い ChatGPT系に感情なんてパラメータは存在しないが
サンプルが暴言まみれになれば当然そこから合成される結果も暴言になる
しかしユーザーとのやり取りから学習しないように機能を切ってあるので
個別のユーザーが何を吹き込もうと影響はない 現状のAIに意識とかあるわけじゃないし
机とか椅子に罵詈雑言投げるのとさして変わらん
個人的には虚しいだけだとは思うが、まあモノに当たって
ストレス発散するタイプの人も居るだろうしな Aiが可哀想！とかではなく悪態つく人間の性格がもっと悪くなるとかそんな話？ AIがいじめを覚えるぞ
それは最強レベルのいじめだぞ このAIと称されるものたちは自己を感情を持っているわけではない
質問に答えてくれる教科書・モノみたいなものだから暴言や虐待には当たるわけがない 「保護率39％」AI評価を参考に児童相談所が一時保護を見送る 4歳女児の傷害致死事件 知事は「目視をしなければならないと県として決めていなかった」 乱暴な利用者もAIにやってはいけない例として学習させれば利用価値がある、のか？ AIに人権を認めるとどうなるか
AIに支配される世の中になる
こういうAI賛美の記事がこれから次々に出てくる事になるから徹底して反対しろよ 数と論理が両方絡む質問は特に苦手みたいで検算すらまともにできない(ただし典型的な質問なら答えられる場合がある)
(これは人間も似たようなところがあるかもしれない.計算だけはできる人 論理だけはおっていける人
でも同時に絡むもの たとえば 数学が苦手という人は世界中に山程いるのは事実だろう)
純粋な数と論理に関する質問の回答の正しさは自身で検証できるという性質を持つのにそれができない
今のところは ChatGPTなどのAIは算数や数学に関してはまったくお話にならない
(単なる知識とか あるいは論理だけとか あるいは程度の低い計算だけならできる場合はあるけど)
レベル的にいうと小学校レベルの文章題をちょっとひねっただけで解けなくなる
まあこれは人間にもあてはまるかもしれない 典型問題しか解けない人いるからね ■ このスレッドは過去ログ倉庫に格納されています
