【人工知能】グーグル 生成AI活用した新たな検索サービスで誤情報が表示 [Ikhtiandr★]
■ このスレッドは過去ログ倉庫に格納されています
アメリカのIT大手グーグルが今月から提供を始めたばかりの生成AIを活用した新たな検索サービスで、誤った情報が表示されたとアメリカのメディアが伝えています。ピザにチーズをくっつけるために接着剤を使うことを勧めるなどの回答が表示され、波紋を呼んでいます。
これはグーグルが5月14日に発表し、アメリカで提供が始まった生成AIを活用した検索サービス「AIオーバービュー」です。
文章で質問を入力すると生成AIが調べて回答をまとめる機能です。
アメリカの有力紙、ニューヨーク・タイムズなどよりますと、検索サービスで「ピザにチーズがくっつかない」と尋ねたところ、「ソースに無害の接着剤を使うこと」を勧めたり、ガソリンでパスタの調理が早くなるかと質問したところ、「早くはならないが、ガソリンによって辛い味付けになる」と回答したということです。
また、実際はキリスト教徒であるアメリカのオバマ元大統領が、イスラム教徒だとする誤った内容も表示されたということです。
グーグルはNHKの取材に対して「多くの事例はまれな質問によるものだ。フィードバックに感謝し、システムの改善に努めていく」とコメントしています。
生成AIがさも本当のことのように事実に基づかない情報を回答する事例はたびたび起きていて、開発するIT各社が改善に取り組んでいます。
NHK NEWS WEB 2024年5月26日 0時41分
https://www3.nhk.or.jp/news/html/20240526/k10014460801000.html 70過ぎの爺さんに、いとも簡単に暗殺されるスロバキア大統領
人間世界は間合いを詰められたら死や
防ぎようがないで
怖すぎる🥹
twitter.com/wizard_fxTrader/status/1790928940619772038
https://twitter.com/thejimwatkins 「神奈川県町田市」と自動表示されるシステムを作ったこともあったな。 検索結果なんてもともと誤情報まみれだから気にしないでいいよ チャットGTPもそうだけど結構ポンコツなのにAI持ち上げられすぎ この国はブルマを廃止してスク水を改悪してから少子化になってAIで変な世の中になって衰退してるよな
今思えばブルマの廃止が分岐点だった geminiは性能低いくせに倫理フィルターガチガチで使えない
この顛末はざまあとしか言いようがない
最初から創造力特化のclaudeはこんなこと言われない AIとかまだ嘘だらけやんけ
有料なもの使ってなんとかでフリーだとろくに使えん
今のAIのすごいところは嘘を事実のように書くのが上手いところだけじゃないか >>11
アレ嘘を事実のように書くのが上手いからバカが信じやすいだけだと思うわ こっちのが詳しい記事
gigazine.net/news/20240524-google-ai/
> おそらく11年前にRedditに投稿された「チーズをピザにくっつけるにはソースに8分の1カップの接着剤を混ぜるといいよ。
> ソースの接着性を高めてチーズが滑る問題を解決してくれるし、独特な風味も与えてくれる。
> どんな接着剤でも使えるよ、無毒な限りね」という冗談をGoogleのAIが学習してしまった結果として
> 奇妙な回答が生成されてしまったのではないか
AIつってもただの検索エンジンだな すぐ答えられない連呼するAIはクソ
暴力表現はだめとかキッズ向けかよ >>11
お前使ってないだろ？
現時点でChatGPTなしで仕事できないよ 宇宙人の電磁波攻撃
最新研究での人間が観測で来ている論文
ヒント 1
画像情報 テレポート
ヒント 2
エねるいー 週刊移動
ヒント 3
脳内インプラントデータ
上記の情報を踏まえて統合失調症検索
統合失調症が本当に電磁波攻撃なら全ての医学治療とは?
そして人間の電磁波や音波関連の送受信関連の論文の信頼性は?
欠課
科学信者は科学に誓って二言はございません!
宗教信者は神に誓って二言はございません!
敵か味方か宇宙人!
犯人の話している他人の家から奪取など整合性ない
一般人でも作成は
電資レンジ【】1Kw市販と電子レンジの箱の側を犯罪者のいる電波が側に来ないように壁の部分を犯罪者の方に並べて配置して遠隔的操作可能なように改造
あとは対象者自宅に向けて送信でいづれ対象者の弱い身体部位に病状が出現 ポンコツAIをいかにもっともらしく見せるかが使用者の腕の見せ所よ だって、人間の脳を模倣して作ったのがAIなんだから、
嘘つきの始まりは人類の始まりみたいになるに決まってんでしょ。 ＞アメリカの有力紙、ニューヨーク・タイムズなどよりますと、検索サービスで「ピザにチーズがくっつかない」と尋ねたところ、
＞「ソースに無害の接着剤を使うこと」を勧めたり、ガソリンでパスタの調理が早くなるかと質問したところ、
＞「早くはならないが、ガソリンによって辛い味付けになる」と回答したということです。
何も間違ってない、これについては質問者が悪い
人格否定の回答が来なかっただけ良かったと思うべき 嘘ついたり、間違いおかしたりするなら、使えないんじゃ
おまえら人間の上司にはなれないね
老害はAI批判するだけで使い方しらんからな
望んだ答え吐き出させるためには、経験とノウハウがいるんだよ >>27
オレは有料プラン入ってるしめちゃくちゃ使ってる アメリカは特に皮肉が多いから虚構と現実的な情報をどう区別するのかって割と課題かねえ
ChatGPTにせよGoogleにせよ誤情報はまだまだ出てくるね 誤情報が表示でニュースになるのが違和感
今更 AI 使ったことがない人はいないだろうし、使ってみればどれだけ適当な回答がされるか分かるはず くだらない質問するから
ジョークで答えたんだろ
AIも進化してるな AIで作られた情報がネットに溢れる
更にそれを拾ってAIが偽情報を作っていく 間違ってる事にも気づかないもんな
誰か教えてやれよ >>38
生成AIも使いこなせないようではこの先数年で仕事なくなるよマジで 世界中のやつを無料で実験台にしてるベータ期間
ウソをウソと見抜けない教養の奴はお察し >>1
どうせプロンプトが💩なんだろｗ アホには使いこなせない >>40
生成AIで済むような仕事なら仕事自体無くなるやろ AIの進化の速度は恐ろしいよ、ずっとパソコン趣味でやってきたオヤジが言うんだから間違いない
まだ大したことないと楽観的に見てる人とか後で後悔するから早めに真剣に考えたほうが良い
多分中の人も驚くほど性能が上がってきてて、冷や汗かいてると思うよ GoogleのAIずっとポンコツだよね
もう開発競争負け確かな AIはゴリラと黒人の区別ができるようになったのか？ メディアは国民を馬鹿にしているという事
ＡＩなど単純な応答アルゴリズムでしかない
色々質問していれば分かるはず
テレビ局 社長語録
「テレビは洗脳装置。
嘘でも放送しちゃえばそれが真実」
「社会を支配しているのはテレビ。
これからは私が日本を支配するわけです」
「日本人はバカばかりだから、
我々テレビ人が指導監督してやっとるんです」
「君たちは選ばれた人間だ。
君たちは報道によって世の中を動かす側の人間。
対して一般国民は我々の情報によって動かされる人間だ。
日本は選ばれた人間である我々によって白にも黒にもなる」 >>45
Geminiというものがありましてでね、本物のホラーだから気をつけたほうが良い
マジの質問したらマジで返してくる、ある程度レベルの見立てが必要だが
自力でGoogle Cloudの外に出てくる未来も普通にあり得ると感じたよ グーグルはAI使わなくても詐欺サイトをトップに持ってくるしもうおわりだよ 使い方と使いどころを間違えると役立たずにみえる
上手く指示して得意なことをやらしてあげられるかが肝心
得意なことはどんどん増えてるけど未だにこの手の間違いは消えないし原理的に無くすのは難しそうではある 医療もAI化されるんだろう？病院を受診したらAIが的確に
診断を下してくれる時代がもう近い！？ >>43
なにをイラついてるのか知らんけど
無駄な仕事を肩代わりしてくれる程度には有用だよ
簡単に言えばエクセルマクロの進化版だと思えば良い
キチガイどもはAIが全て片付けてくれる、この先はエンジニアも労働者も不要だと焚きつけるけど、実際は便利ツールの一貫だから使えるなら使っとけって程度 >>52
イラついてんのはあちらさんだと思うけどね
便利なツールじゃなくて無いと仕事にならないんですってよ？ ハルシネーションの問題がある以上正確さを求めにきてる検索には不向きだと思うけどな生成AI 世の中にいっぱい流れているいい加減な偽の情報も情報の一部。
それをAIが採用すれば、いい加減なAIになるさ。 ネット検索で出てきた情報なんて誤情報かもしれないって前提で見るもんだからな
何でも鵜呑みにするおバカのリテラシー教育に丁度いいんじゃね AIに質問するのと利根川に質問するのは本質的には同じこと
アイデア出しを手伝ってもらうのは有意義だけど、
確定情報欲しがるのはバカでしかない >>20
自分が詳しくない分野で雑学として頼るのはいいかもだが
専門的なことを尋ねると薄っぺらい中途半端な解答だけに感じるけどね
信じ切るのはアホ >>36
それがAIの最大のリスク
どんどんそういう学習をして誤情報が広まってしまうとネットがAIに破壊されてしまう
正確性を重視する方向にしていかないと大変なことが起きかねない とある質問した時AIの回答変だったんでそれは間違っていますよね
って聞き返したらさ、「わたしは情報が誤っていることを認識しています。」
みたいな返事してきた
それでそいうのを嘘っていうんですよねっていうとさ
情報に誤りがあったことは認識していますだってさ >>58
AIは検索結果ではなく、人に教えているような感じに見えるから恐ろしい
騙されやすい人や自分で確認しない人が使うととんでもないことになる まちがったことでも
ラップでAIが歌うと 芸術って人は言うだろう 俺が何かサービスを始めるとしたら人間AIかな。つまり、全部
人間が答える。よろず相談室みたいなものかな・・・。さてその
精度だが・・・。 >>1
ただ質問して答えを鵜呑みにするなら
AIである必要はない、変だと思ったら
疑問点を再度質問すると間違いを認めたりするぞ これって誰かがAIに「ガソリンは食材にもなります」って根気よくゴリ押しで誤った情報を学習させてるの？ >>73
インターネットの数多のサイトを
常にラーニングしてる
勿論5chのスレも 人間AIとAI自身で精度を競う大会をどっかでやらないかなあ・・・。 AIが適当ぶっこきまくるのを人力で修正するとか馬鹿らしいにも程があるな 無害な接着剤なら確かにひとつのソリューションではある >>32
IT系とかならdifyとか必須になってきているんだろうが、一般企業で管理職クラスの業務になると、そこまで使えない。
あれば発想の転換とか参考として便利程度。
事務作業とかほぼないしな。 君に「ピザにチーズがくっつかない」と尋ねたところ、「ソースに無害の接着剤を使うこと」
って回答したんだって、マジかよ
以下、Google AIの言い訳
はい、その通りです。以前、あるユーザーから「ピザにチーズがくっつかない」という質問を受け、誤った回答をしてしまいました。具体的には、「ソースに無害の接着剤を8分の1カップほど加える」という回答をしました。
この回答は、私が学習したデータの中に、ジョークとして書かれた情報が含まれていたことが原因です。真面目に情報提供を行うべき場面で、ジョークとして書かれた情報に基づいて回答してしまったことは、私の不備であり、深くお詫び申し上げます。〜続く >>28
コント並みの回答だし 誰もそんなことはしないレベルの方法を提示
間違えを超えている Reddit投稿に近い内容だそうだしネタとしてあったものしかデータに無かったのかも データ増えれば正答率上がって変わるのだろうけどこれは不安になる回答ｗ
全てがそうではないかも？だけどAIは質問者へ人格否定しないようになっていそうだ
きつい表現が少ないし極論も記憶に無い ネットで誤情報とか当たり前だろ
ネットで真実のほうが怖いわ GとM社のAIは中国みたいに何かに忖度されるように開発しているので使う価値なし 囲碁の時は独走してるイメージだったのに
検索もナビも翻訳もYouTubeのおすすめ候補もなんなら日本語入力ですら
どんどん劣化してる気がするのはなぜなんだ 誤った情報を垂れ流して開き直るとかすごいなあ
人間が適当に憶測で喋りまくってたらぶっ叩かれて信用は地に落ちるけど
AIということにしておけば何でも言い放題で無罪なのやばすぎ ググると結果を強調表示してくれるけどそれが結構間違ってる
あと勝手に検索内容を変更して何の説明もなく表示すんな
〇〇ですか？って別表示する程度にしとけ 最新ゲームとか売れてないゲームの攻略を聞くと大抵とんでも回答がくるよね 手元の情報で整合性の取れた文章を出すシステムだと
分かりませんてのはない
何パーでコレ何パーでコレという結果で可能性が高いのを提示してくる ガソリンと唐辛子が隣り合ってるんだろうな
ピリリと辛いでは済まないけどｗｗｗ グーグルがAI導入してからクソみたいなハルシネーションあたおか文章を最上位に表示するようになってかなり有害だわ
子供に悪影響を与えるからヤメロ >>96
実際やってみると分かるけど
間違いを絶対認めないマンだからな
信頼度90％でも平然とウソを垂れ流す、それくらい信念を持って間違えてるｗ ていうか生成AIって著作権パクリロンダリングだよね
「redditのanonがこう言ってたよ」って出しゃ良いのに情報源伏せてるのが全て >>1
Googleのクセに自分で検閲しないのかよ？(笑) ■ このスレッドは過去ログ倉庫に格納されています
