データに基づく“忖度なし”の判断にメリット

三重・鈴鹿市で7歳の長男を殴ったとして11月、27歳の父親が逮捕された。三重県の児童相談所では、一時保護を行うかどうかの判断にAIが導入されている。
AIがどのように活用されているのか、またAIのメリット・デメリットについて調べた。

鈴鹿市で、27歳の男が10月6日に小学2年の長男(7)の顔をイスで殴り、全治1か月のケガをさせた疑いで、11月17日に逮捕された。調べに対し、男は「イスを投げたら顔に当たってしまった」と容疑を否認している。

6月には、児童相談所が虐待を疑い長男を1か月ほど保護したものの、男が「暴力を振るわない」と約束したことなどから、帰宅させていたという。

この記事の画像(7枚)

この事件について、三重県の一見知事は「一時保護の解除についても、AIの判断を取り入れることも考える必要がある」と話した。

三重県は全国で初めて児童相談所でAIを導入している。どういったものなのか調べた。

まず一時保護の流れは、近隣の住民や学校などから通告を受けると、主に児童福祉司が家庭に訪問するなど情報収集をし、「子どもの安全が確保できない」と判断された場合に、子どもを家庭から引き離して専門の施設に一時保護する。

一時保護の判断において、三重県では「リスクアセスメントシート」というものを使っている。21のチェック項目、例えば「傷やあざが首から上や腹部にある」「指導中に保護者や児童と連絡が取れなくなった」「性的虐待の疑い」といったものがある。

その上で、一時保護を行ったかなどを含めたデータ約1万3000件を元に、AIは似たケースで過去にどれくらい一時保護をしたかの確率や、保護した場合・しなかった場合の再発率などを計算してくれる。ただし最終的な判断は、児童相談所のスタッフ、つまり人間による判断だ。

三重県では2020年7月からすべてのケースでAIを使っていて、今回の事件の7歳の長男も、AIの判断を経て一時保護されたと推測される。

AIでどんな効果が期待できるのか、システムを開発した「AiCAN」の高岡昂太さんに話を伺うと、メリットは「ためらわずに一時保護できること」だという。

基本的にスタッフは当事者と対面しながら調査をする一方、AIはよくも悪くも忖度はしないので、データで保護すべきとハッキリと示してくれる。こうすることで正しく保護の判断を下し、虐待の再発率が下がることが期待できるとのこと。

また、実際に取り組んでいる三重県児童相談センターの脇田さんにも話を伺うと、AIは過去の事例を正確に記憶するベテラン職員がいる感覚で、特に若手職員の強い味方になっているとのこと。毎回、命に係わる決断になりかねない決断をAIの判断も含めて行うことで、職員の心理的負担の軽減にも役立っているという。

以前は紙の資料から似た事案を手作業で探していたこともあり、このAIのシステムによって、通告の受理から初期対応までの時間が今までの半分以下に短縮できるようになった。

2020年の三重県の虐待発生件数は2315件で、6年連続で増加している。
しかし、調査などをする児童福祉司は77人と人数は不足していて、AIによる効率化は大きなメリットだという。

三重県の一見知事は、現状行っている一時保護を行うかの判断を助けるAIだけでなく、一時保護を解除するかの判断を助けるAIも考える必要があるのではと話している。

県の児童相談センターとしては、簡単ではないがさらにAIがパワーアップし、予算もつけば導入したいという。

児童福祉に詳しい山梨県立大学の西澤哲教授は、「日本では対応する職員の数が外国に比べて少ない中で興味深い試みだが、重要なのは児童福祉司が虐待事例の的確な分析ができ、子どもの危険度を判断できる専門性を身につけること」と話している。

児童相談センターも、AIには「人間の勘」は全くなく、新しい事例にはめっぽう弱いので、今後とも職員の経験を増やして対応したいとしている。

(東海テレビ)