スポンサーリンク

児童相談所がAIを利用して保護を見送ったところ虐待死が発生？

未分類

過去のTBSの放送を紹介します。

2023/03/31 #虐待 #AI
子どもを守る切り札として、「AI＝人工知能」を使った取り組みが注目されています。「こども家庭庁」も全国での導入を目指す虐待対応の「AI」とは。

AIで虐待死をゼロに 過去のケースを「見える化」

「もうおねがいゆるして」
「助けて、ママ。お願い」

これらは、虐待を受けて死亡した子どもたちが遺した言葉です。いずれも児童相談所が関わりながら、悲劇を防ぐことはできませんでした。

「子どもの虐待死をゼロに」。そう掲げるAI関連のベンチャー企業があります。

「一つ一つの子ども虐待の事例に向き合う時間をいかに確保するか」
「判断の質が維持・向上できるように『AI』を手段として使う」

AIを活用して子どもの命を守る「AiCAN」と呼ばれるシステムを開発しています。このシステムは、AIがこれまでに児童相談所が対応した虐待事例のデータを学習。子どもの傷や家庭の状態などを入力すると…

株式会社AiCAN 高岡昂太CEO
「AIが計算してくれて、『93％』という形で過去の保護率が高くなった」

過去のケースから見て、子どもを家庭から引き離す「一時保護」すべき度合いが瞬時に表示されました。

高岡代表は、AIを通じて過去の蓄積を「見える化する」といいます。

株式会社AiCAN 高岡昂太CEO
「（児童相談所で働く）皆さん本当にご苦労されてますけど、それを少しでも次の世代に繋げられるような仕組みがない。人が変わっても仕組みができて、専門性を底上げできる」

虐待の相談件数は年々増加していて、昨年度は20万件あまりと過去最多に。一方、児童相談所は団塊世代などベテラン職員の退職が相次ぎ、勤続年数が3年に満たない若手が半数を占めている状態です。

職員の経験不足に1万超の虐待記録

職員の経験不足が課題となる中、全国に先駆けて、虐待の対応にAIを活用しているのが三重県です。

三重県児童相談センター 中澤和哉所長
「新規採用の職員にとっては非常に心強いツール。経験不足のところのフォローをしてもらえる」

三重県では3年前からすべての児童相談所に「AiCAN」を導入。一つの虐待事案への対応日数が半分の100日程度になるケースも報告されるなど、一定の成果を上げています。

ただ、ここまでに至る道のりは決して平坦なものではありませんでした。三重県では2012年、虐待によって幼い命が失われる事件が相次いで発生。行政が虐待の兆候を掴んでいたにもかかわらず、適切な対応をとれませんでした。

三重県児童相談センター 中澤和哉所長
「『危険度をきちんと査定できる仕組みがない』という指摘をいただいた。『やれることは全部やらなければいけない』という考え方で、業務の全部を見直しした」

そこで、2014年から「リスクアセスメントシート」と呼ばれるチェックシートを導入。項目に一つでもチェックがつけば、職員が緊急に対応する仕組み作りを始めました。

こうして集め始めた虐待に関する記録は、今ではおよそ1万3000件に。そのすべてをAIが学習し、膨大な記録に精通した“ベテラン”として職員を支えています。

三重県児童相談センター 中澤和哉所長
「AIはあくまで仕組み・手段・ツールなので、データがないとAIは動かない。業務負担が発生するけど『やっぱりやる意義あるよね』という理解が自治体とか児童相談所の中で進んでいくことが大事」

4月1日に発足する「こども家庭庁」でも虐待防止にAIを活用する方針で、2024年度にも全国共通のシステムの運用を始められるよう準備を進めています。（以下略）

その後…

2023/07/12 #ニュース #CTV #中京テレビ
今年5月、三重県津市で当時4歳の娘に暴行を加え死亡させたとして、母親が逮捕された事件で、児童相談所がAIの評価を参考に一時保護を見送っていたことがわかりました。
　　　　　　
今年5月、三重県津市のアパートで当時4歳の女の子が机から転倒させられるなどの暴行を受け死亡した事件では、42歳の母親が傷害致死の疑いで逮捕されています。

県によりますと、女の子が亡くなる前の去年2月、児童相談所に「両頬と両耳にあざがある」と虐待通告があり、児相がAIのシステムを使ったところ、過去の同種の事例では、保護率が39％と評価されていたことがわかりました。

児相は、この評価などを参考にして、一時保護を見送り、在宅で見守ることになったということです。

　AIシステムは、3年前に導入されていました。

【2023.7.11 放送】

その後、AIに関してこのような発信が…。都知事選に出て一躍有名になった安野たかひろさんの動画です。

これを受けて、今回はフローレンスに関する問題です。

ベビーライフ事件においてフローレンスの説明責任は⁉
ベビーライフ事件においてフローレンスの説明責任は⁉
www.kurashikiooya.com
2023-12-02 23:59
ベビーライフ事件においてフローレンスの説明責任は⁉　その2
ベビーライフ事件においてフローレンスの説明責任は⁉　その2
www.kurashikiooya.com
2023-12-04 23:59
フローレンス、しんぐるまざあず・ふぉーらむとWBPCのスキーム解説
フローレンス、しんぐるまざあず・ふぉーらむとWBPCのスキーム解説
www.kurashikiooya.com
2024-03-17 23:59
朝鮮総連の在日特権、クルド人とPKK、ベビーライフ事件、AV新法、牛レバ刺し規制、等について質問　参議院総務委員会 2024年3月22日
朝鮮総連の在日特権、クルド人とPKK、ベビーライフ事件、AV新法、牛レバ刺し規制、等について質問　参議院総務委員会 2024年3月22日
www.kurashikiooya.com
2024-03-22 23:59
熱海市長選に立候補表明した徐浩予氏のスパイ疑惑、海外への人身売買ベビーライフ事件、沖縄県ワシントン事務所問題、等について質問　参議院行政監視委員会　令和7年4月14日（月）
熱海市長選に立候補表明した徐浩予氏のスパイ疑惑、海外への人身売買ベビーライフ事件、沖縄県ワシントン事務所問題、等について質問　参議院行政監視委員会　令和7年4月14日（月）
www.kurashikiooya.com
2025-04-14 23:59
ベビーライフ事件で関係者が起訴される理由は現時点では見つからない？
ベビーライフ事件で関係者が起訴される理由は現時点では見つからない？
www.kurashikiooya.com
2025-04-27 23:59

大郷大介さん（文具会社の社長さん）がフローレンスの問題を積極的に指摘されています。色々な問題を指摘されている中、今回はAIの問題提起を共有します。

こども家庭庁の10億円かけた”虐待判定AI”の提言は、児童虐待特別委員会に、駒崎弘樹氏が要望として提出したものです。

本件をNPO法人フローレンスが受託しているか否かは問題ではないです。この政策提言が、わずか２日で拙速に閣議決定されたことが問題です。

駒崎氏は、目黒区で起きた児童虐待死事件で、政府が早急に対策を求められている時に、内閣府こども子育て会議（こども家庭庁の前身）委員の肩書で、大キャンペーンを展開しました。

人の生死にかかわることなので、本来は慎重に検討されるべきでしたが、焦っていた安倍晋三内閣は、わずか２日で閣議決定をしました。

駒崎氏は、役所の性質を熟知しています。役人は、強烈な”先例主義”なので、AIのような先進技術は、すぐに受容れられません。

AIの児童相談所での活用が、政府に閣議決定されたことで、先例ができました。

その後、駒崎氏は別の福祉分野で、AIの活用を積極的に政府要人に提言し、さらに自らAI開発会社まで設立しました。

これは、政府に提言する委員という公人の立場を利用した、利益相反行為です。私は、駒崎氏が過去に類似行為を繰り返していることを指摘してきました。

全国で初めて、児童虐待診断AIを導入した三重県（※当時の三重県知事は駒崎氏の友人）の事例を、駒崎氏は先進事例として宣伝していました。

しかし、三重県では児童相談所が「虐待の疑い」の連絡を受けてたのに、AI評価が〝保護率39%〟だったのを理由に、保護を見送り、児童が暴行で死亡する事件が発生しました。恐ろしいことです。

利害関係人が政府に提言をする立場になると、制度が歪められる恐れがあります。私は、継続してそれに警鐘を鳴らしています。

同様の件で『実話BUNKAタブー』５月号の取材を受けました。［詳細はNoteを参照下さい］
https://note.com/hachi0802/n/n789853a8a9af

【駒崎氏が先進事例とした三重県のAI診断事件】
“保護率39％”のAI評価で一時保護を見送った児童相談所 女児虐待死を受けて知事「職員増員を検討」
https://newsdig.tbs.co.jp/articles/-/795733

こども家庭庁の10億円かけた”児童虐待判定AI”についてわかっていることのまとめ

NPO法人フローレンス会長の駒崎弘樹氏が、児童虐待特別委員会に、要望として提出したものだった

全国初の児相AI導入をした三重県知事の鈴木英敬氏は、駒崎氏の友人で団体に寄付をする関係だった

三重県で、AIの診断を元に児相が一時保護を見送ったことで児童の虐待死亡事件が発生

三重県のAIは、駒崎氏がモデル事例として何度も宣伝していた

駒崎氏は、AI事業を立ち上げて、政府要人に積極的に売り込みをしている

児童虐待AI診断は命に関わるので、慎重な検討が必要なはずでした。安全に運用できるものなのか、実証運用が不十分な段階で、国に提言されたために、予算だけが先行して失敗したのでしょう。

国立研究機関が、費用と時間をかけて研究したものですら、死亡事例が起きたのです。
短期間で公募して開発できるようなものではなかったのです。

本来は先進技術を国が取り入れる場合には、知見が蓄積されて安全が確実になってからします。だからこそ、国は原則先例主義です。
AIの福祉分野での先例が出来たことで、駒崎氏が政治家に対して自らのAIを売り込むのには、寄与したでしょう。

駒崎氏は役所の性質を熟知しています。

AIの教訓事例として今後に生かしていかなければいけないと思います。多くの方々が関心をもってほしいところです。

↓もしよろしければ応援クリックお願いします。
人気ブログランキング

スポンサーリンク

シェアする

  • このエントリーをはてなブックマークに追加

フォローする

スポンサーリンク

浜田聡

コメント

  1. とみえさん より:
    2025-05-27 12:33

    ひろゆきが発した「現政権は出生率をあげるために何かしました？」
    質問への共感や児童相談所への批判が引き金だと思います。
    立花さんは「児童相談所の職員はどれだけ頑張っているか分かってる？」
    と「どうにかして欲しい」と電話してきた人を叱ってました。
    国は何もしない。三世代で住むのを奨励、専業主婦の推奨が解決の糸口な気がします。

  2. 名無し より:
    2025-05-28 16:50

    子供家庭庁が消えてなくなるまで、出生数は減り続けると予想します。
    理由は、生まれてくる子供に本来は注がれるお金が、こども家庭庁とその取り巻きのNPOに注がれ続けるからです。