たびたびニュースで報じられ、社会問題となっている児童虐待。

そのような中で、東京・練馬区とAIベンチャー企業のFRONTEOが今年5月から9月に児童虐待の早期発見をAIでサポートする共同実験を行い、その結果を公表した。AIが相談記録を解析して高いスコアを付けた中に、実際に重篤化した児童虐待のデータが6割以上が入っていたという。

今回の実験で使われたのは「KIBIT」というAIで、その仕組みについて詳しくは以前編集部で取材している。

(参照記事:児童虐待の「緊急性」を膨大な相談記録からすぐに解析…どんな仕組みか開発元に聞いた

出典:FRONTEO
この記事の画像(4枚)

今回の実験では、まず事前に練馬区子ども家庭支援センターに寄せられた、一時保護など重篤化したケースを含む相談記録をAIに学習させる。

つまり、AIは職員が書いた相談記録の文章を解析し、児童虐待に対応するエキスパートの「判断」や、勘・感覚などの「暗黙知」を学び、その知識を活用して今度は実証実験中に寄せられた相談を、重篤化につながりやすい順に点数をつけるのだ。

その後、高い点のついた相談が実際に重篤化したかの調査を行った。

この結果、上位の相談の中に重篤化したケースが6割以上が入っていたとして、練馬区と同社は重篤化する可能性がある児童虐待の早期発見や早期対応のサポートにAIが有効だとしている。

なお練馬区では子ども家庭支援センターへの相談が年々増加しており、2018年度は過去最大の6402件を受け付け、そのうち虐待相談は714件だったという。これに対し相談員は2015年度の26人から今年度は44人にまで増員している。

ここで気になったのが、増員と合わせてさらにAIの実証実験を行ったのはなぜなのか? AIの効果があるとすれば、実用化する予定はあるのだろうか? 練馬区に聞いた。
 

たくさんの相談から虐待を漏らさず見つける目的

――実証実験に至ったいきさつは?

児童虐待の相談は年々増加していますが、重篤なケースはわずかです。大部分を占める比較的軽微な虐待ケースの対応に追われ、重篤なケースの対応に漏れが無いようにすることが重要です。

そこで、重篤な児童虐待の早期発見・早期対応について、これまでの専門職員による対応に加え、AIを活用することで、より一層のリスク管理の向上を図ることができないかという視点で、今回の共同実証実験を行いました。


――今まではどうやって重篤化しそうなケースを見つけていた?

職員の経験不足などにより、重篤なケースの見落としが無いようにすることが必要です。そのためチェックシートを用いて、定期的に各ケースの状況を確認しているほか、面接などを行う場合は必ず複数の相談員で対応する、支援方針について相談員が全員参加する会議で検討するなど、個々の相談員の技量に寄らない仕組みで対応しています。


――AIは重篤な虐待発見に役立ちそう?実用化の予定は?

AIによる解析の結果、虐待リスクが高まったときの記録33件の数値が、上位50位以内に含まれ、AIにより虐待リスクが高まったときの記録を抽出できることが判明しました。現在、現場(子ども家庭支援センター)において、AIを試用して、AIの活用方法や作業量などを確認しています。区におけるAIの実用化については、現段階で未定です。
 

AI企業に聞いた実用化までのステップとは?

練馬区では一定の効果を確認し今も虐待早期発見AIを試用しているものの、実用化は未定としていた。

では、一方のAIベンチャー企業はどうとらえているのか? またどうして共同実験の相手に練馬区を選んだのか? FRONTEOにも聞いてみた。
 

――なぜ「練馬区」と協力して実験を行った?

いくつかの自治体に当社の技術をご紹介したなかで、練馬区は実際に住民税業務などでAIを導入していたこともあり、先端技術を活用した提案を受け入れやすかったのではないかと推察しております。

練馬区側からは、日頃職員が使用している記録データを活用するにあたり、特別な作業やシステム投資などが不要なため、短期間で効果的な実証実験を行うことが可能だったという点が選定理由だったと伺っています。また、当社では官公庁への導入実績も豊富であることも評価ポイントだったのではと考えております。


――実証実験の結果をどう思う?6割以上は想定内?

当社としてはKIBIT(AI)の効果や精度に自信を持って提供しておりますため、今回の実証実験結果も想定どおりでしたが、あらためて今回の結果を実運用に十分使える結果であると考えております。


――実用されるまでにはどんな壁がある?

実証実験を通して、重篤化する可能性のあるデータの発見にKIBITが十分に貢献する精度でスコアリングができていることがわかったため、次のステップとしては、相談へ対応するフローの中でのKIBIT活用の組み込み方を検討していくことになります。
 

実用化までにはまだまだ時間がかかりそうだが、このようなAIも活用して、一刻も早く悲しい虐待事件が減ることを願っている。

【関連記事】
「虐待かも?」と思ったらためらわずに電話を…児相虐待対応ダイヤルを189(いち早く)にした思い
「人間のできる仕事の範囲を越えている」当事者が語る“児童相談所”の実態