「保護率39％」のAI判定で“保護見送り”の末の虐待死 子どもの命を守るためにAIをどう活用する？ [煮卵★]
■ このスレッドは過去ログ倉庫に格納されています
2023年6月、三重県津市で起きた4歳の女の子の虐待死事件など、児童虐待は深刻な社会問題となっています。
津市の事件では、児童相談所がAIによる評価を参考にしながらも、一時保護を見送っていたことなどが問題視されました。子どもの命を守るために、AIをどう活用していくべきなのでしょうでしょうか。
■生後間もなく児童相談所に相談 AIの結果から保護を見送る
2023年6月に三重県津市で起きた虐待死事件。43歳の母親が4歳の娘を転倒させて死亡させたとして逮捕・起訴される、痛ましい事件でした。
▽三重県児童相談センター・中澤和哉所長
「シングルマザーですので、仕事をしないと生活していけない。赤ちゃんをみてくれる人もいないという理由で、児童相談所との関わりが始まった」
母親は2019年に児童相談所に相談し、児童相談所は生後間もない娘を一時保護していました。
その後、保育園入園などを条件に母親と娘は再び一緒に暮らし始めましたが、2022年2月、保育園から虐待通告が寄せられます。
「両頬と両耳にアザがある」と通告を受けた児童相談所が、娘を一時保護するかどうか判断するうえで参考にしたのがAIでした。AIがはじき出した答えは「保護率39％」。
つまり、過去の同じような事例では61％のケースで保護していないという結果が出たのです。
母親が指導に応じる姿勢を見せていたこともあり、児童相談所は娘の一時保護を見送りました。
■傷の有無や栄養状態などからAIが保護の必要性を判断
子どもを保護するかどうかを判断するAIとはどんなものなのでしょうか。システムを開発している企業の一つが、大手情報通信機器メーカーのNECです。
三重県のシステムと同様に、子どもの傷の有無や栄養状態など、およそ60項目を入力すると過去の虐待事案を学習したAIが、一時保護に至った確率などを表示します。一方で、開発チームがこの数値以上に注目すべきと考えているのが「重点調査項目」です。
▽NECソリューションイノベータ・井上俊輔さん
「不明になっているリスクの中で、危険なケースに多く関係している項目がここに表示されるようになっている。この不明をなるべく早く解消して、リスクの状態を調べたほうがいい」
例えば、「不登校が続く」や「転居の繰り返し存在」など、危険なケースに繋がる情報を早く調べるべきだと示しています。このように、一時保護などの判断を的確に下すために不足している情報を知らせてくれるツールとしても活用できるといいます。
■「職員の知識が継承していかない」静岡市でもAIを導入
このNECのシステムを2024年4月から導入するのが、静岡市です。
▽静岡市児童相談所・大石剛久所長
「児童相談所で経験を重ねた職員の知識が、継承していかない。体制強化をしても、経験の浅い職員が増えてきている」
静岡市では昨年度、児童相談所が虐待事案として対応した件数が過去最多を更新。対応件数は増える一方で、職員の入れ替わりが激しく、知識や経験が受け継がれないため、AIの導入を決めました。
▽静岡市児童相談所・大石剛久所長
「職員の対応が個の能力ではなく、均一化される。児童相談所の対応が向上していく」
静岡市と同様、職員の経験を蓄積するために2020年、全国で初めて児童相談所にAIを導入した三重県。
幼い命を二度と失わないために、AIをどう運用していくのでしょうか。
続きは
https://news.yahoo.co.jp/articles/58b8b51810e9c3b25e7b435822974481eadf80b3
[CBC]
2024年1月21日(日) 6:02 >>2
これとしか思えない
責任逃れだろ
命が掛かってるんだから児童相談所も保身は止めるべきだよ AIてのは常にヒトが教え込んでないといけないって聞いた AIを最終的な判断や納品物に使うのは絶対にアウトだよな
そこを間違えたらダメ 学習する為の過去判断が間違いだらけなんだろw
そりゃこうなる。 毎日朝晩に母親らしき人が大声で子供を怒鳴りつけ泣き喚いていたので児童相談所に電話しておいたぞ。 AIはちゃんと仕事してるじゃないか
39％って全然低くないだろ シングルマザーやシングルファザーになったら原則子供は施設で育てるにすればいい 保護するかしないかだけ入れて
保護してどうなったか
保護しないでどうなったか淹れてないんやろ どうでもいいケースで親を逮捕しまくって
保護しなきゃならないケースはほったらかし
AI の前にヤクニンをどうにかしろ 公教育なんてまともなことができる教員なんてほとんどいないのに
親から懲戒権まで奪って
東朝鮮人はどうして自滅が好きなの? こんにゃろう
そのＡＩに市役所の役人個別に
雇用し続けるべきかどうか判定させろよ あんまり関係ないけどアニメの虐待シーンでスカッとしたなどとはしゃいでる視聴者たちを見て
現実の虐待事案を知らん人たちにとってはそういう感想になるのかなと最近思ったりした 人間（とくに公務員）の判断よりはAIの方が信頼できるわ AIと書いてるけど今回のはただのデータ集計だよな
過去の１００件中６１件は「人間のスタッフが保護しなかったというデータがある」という話 保護すべきかどうかを判定するんじゃなくて、過去に保護したかどうかを判定するのか
つまり保護しなきゃいけないケースで保護しなかった場合は、延々と保護しないケースが続く、と
控えめに言って、システム作ったヤツがアホじゃね？ 経験も何も児童相談所なんかすぐに異動したいだろそりゃ 政治家「秘書が勝手にやった＾＾」
「AIが勝手にやった＾＾」 >>25
そうだね
過去の事例と比較して虐待死や虐待で重度の障害負った事例などと共通点あったら保護にしないといけないと思う 過去に31％しか保護してないと捉えるか、31％も保護してると捉えるかの違いだろ
AIで児相のやる気のなさが露わになっただけ aiに頼りきらないきゃいい、ってわけにも行かんのか そりゃ39%ならかなり高確率で当たり外れあって当たり前やんけ 39%引いただけ
なんの確率か知らんが二人か三人に一人は保護すべき状況ってことだろ
追加調査するなりすれば良いのでは >>1
降水確率40%くらいだとマンコは折り畳み傘を持って出掛けない
でいざ雨が降ると「雨が降るなんて思わなかったー」と言う 人間だろうとＡIだろうと完全な未来予知は無理だよ。 こーゆー親だろ
土日祝日になると5chに立つ少子化スレで独身に子供産め！と煩い奴
そんなトランタンより、今目の前で生きている子を大事にしろや 過去１００件の殺人事件の判決を平均すると懲役１０年でした
→AIが殺人は懲役１０年と言ってる という理屈 コストの問題上どっかで線引きする事になるんだから
グレーゾーンが救われないのは常や こんなAIなんて、ネットに転がってる鬱病チェックリストと変わらんな 39パーセント。四割直前か
野球選手なら球史に名前が残るレベル、常に打って当然と敵味方から思われるほどの強打者だな 今日の子持ちはここで現実逃避するの？
こっちも土砂降りだけど子供時代の昭和の昔は親と手間暇のかかる料理やお菓子作り、ボードゲームなんかで過ごしたけどな 4割の確率で死ぬかもしれないけどスルーでOKって頭おかしい 過去児相が保護したかどうかを判断材料にしてどうする
ほとんど保護してないんだからよ
危険なケースかどうかで判断させろよ 39歳で子供を産むべきかどうかをAIに判定してもらってたら産まなかっただろうなあ >>21
虐待シーンですかっとするのは異常者やろ
知らなくても胸くそやん 自分もよく戦前産まれるの親父の軍隊気取りの「人間は殴って鍛える」狂育で育ったが、アザが出来ようが訴える場所がなかった
今ならあの世に逃げ切った親父も何回、刑務所にぶち込めたやら
躾のつもりでもDVと判定出来る今はほんと、良い時代だ 保護したしてないの結果どうなったかまで含めて学習してないと意味ない まあ開発者は需要に沿った仕事をしてるとも言えるな
「過去のスタッフが保護したかどうかを調べる時間」を節約できるから業務効率ＵＰ 人を見抜くために訓練積んだ専門家がいるってのに、人間の表裏と子供の命を舐めすぎでしょ >>2
それでいいよ。
誰もやりたくない仕事なんだから。 虐待はスイッチだからな。理由がなくてもやってしまう。悪いと思っててもやってしまう。人間の狂気よ >>1
この記事読んだ人の多くは「NECのAIがやらかしたか、けしからん！」って思ってるんだろうな。
記者はどこの製品なのか明記しろよ、調べてあるんだろ。 AIは人間の見落としをカバーするために使うものって認識にしとけばええやろ
つか、人間がAIの判断に従うって運用なら、判断係は無しにして余計な人件費を減らすようにせんと AIに入力するデータ選びにもっと責任感を強く持たないといけないんじゃAIを導入する意味無いよねw >>2
これでいいじゃん
逆に介入して大阪の無実の親子が半年くらい引き離されたケースとかあったしな AIを虐待見逃しの逃げ口上に使うなよ
見逃した児相は半年給料ゼロにしろよ >>13
親が仕事休みの時は親の家に寝泊まりして
週明けまた戻すとかなら小学生くらいの時に親に戻しても
お互いそれほど違和感なく生活出来そうだが
施設から離れたところに住んでいる人には長期休みの時だけになりそう
しっかりした親なら短期間預けることはあっても長期預けっぱなしにならないだろうけどね >>56
保護するしないの閾値がおかしいのよね。
25％でも高い数値だとは思う。 AIが発展すると人を超えるのは将棋やイラストで証明されたからな
反対団体出てくるよ 問題起こってもボーナス満額出てるんじゃないの？
それじゃあ事勿れ主義の仕事しかせんよ 親は極刑にしたらいい
また作って虐待死繰り返すだけだから
不幸な子が増えるだけ AIを知的労働に使うなんて判例を踏襲できる民事裁判にしか使えんよ
例えば本人のライフスタイルや計画で検査や治療法や術式がいくらでも変わる診断行為には絶対向かない
それなら底辺作業に特化させた方が遥かに効率的で社会的に安全
てことで低学歴あぼーん 責任の所在をハッキリさせないとダメだな
ただでさえ公僕は誰も責任取らない体質なのにAI導入はそれに拍車をかける 虐待って、そんなところにAI使うのは早すぎないか
保護判断すべきかどうかの情報も目で見て判断できないだろうし ひたすら動かない児童相談所のデータを教育データにしたらダメだろw
まずは解体しろよ これAIじゃないだろ
項目ごとにポイントつけてるだけ
新入社員が作るレベルのプログラムだよ ＞過去の同じような事例では61％のケースで保護していない
・それらのケースでは保護しなかった結果どうなったのか
・同じようなケースでも1つ1つは個別のケースだという認識はあるのか 1万件の虐待ケースについて5人で対応してます
こういう視点が無いのが文系 >>83
NPOは雨後の筍のようにポコポコ出てくるからやればよくね？ ■ このスレッドは過去ログ倉庫に格納されています
