児童虐待の増加が社会問題となっている。

厚生労働省の発表によると、全国の児童相談所が対応した児童虐待の相談件数は、統計を取り始めた1990年度から増え続けていて、2018年度も過去最多の15万9850件(速報値)にのぼった。

厚生労働省「児童相談所での児童虐待相談対応件数<速報値>」より

この問題の解決に関し、近い将来、人工知能が役立つかもしれない。データ解析企業の「FRONTEO」が6月12日、“児童虐待の兆候を検知するソリューション”の提供を始めると発表したのだ。

人工知能が「早期に対応するべき相談記録」を抽出

ソリューションの気になる仕組みはこうだ。自治体や児童相談所に寄せられるメールや電話の相談から、まずは実際に児童虐待と判断されたものや重篤化したケースの相談内容を、FRONTEOが開発した人工知能「KIBIT」(キビット)に学習させる。

KIBITは言語処理に強く、学習したデータ(「教師データ」と呼ばれる)をもとに他の文章を解析することで、教師データと類似性が高い順番に他の文章を並べ替えることなどができる。

KIBITの特徴

そのため、児童虐待に関する判断軸を学んだKIBITに、新たな相談記録や家庭訪問の面談記録などを解析させることで、早期に対応するべき記録を抽出することができるというのだ。

解析と並び変えのイメージ

これまで児童虐待においては、数多くの相談・面談記録に目を通して対応する、児童福祉司などの人数が十分に足りていないこと、虐待可能性の判断が人によって異なることが問題となってきた。

人工知能によって早期に対応すべき相談記録を判別できるのなら、児童虐待の防止に役立つとともに、相談対応者の負担なども減らせそうなものだ。実際にはどのように活用できるのだろうか。

FRONTEOの担当者に聞いてみた。

虐待が起きる可能性をスコアリング

――なぜ、人工知能を児童虐待の検知に役立てようと思った?

児童虐待が社会的問題となっているためです。相談件数などは増えていますし、新型コロナウイルスの影響で、潜在的な虐待リスクが増える可能性も考えられます。KIBITは文章の解析に強みがあり、大量のテキストデータから求める内容が記載されたテキストデータを抽出できるので、児童虐待の課題のサポートと高い親和性があると思いました。

さらに、以前よりFRONTEOでは自殺防止(メンタルに起因する)や従業員の離職防止などのKIBITを活用したソリューションを提供してきましたので、今回の児童虐待の社会問題についても我々の技術が使えるという確信があり、提案いたしました。


――KIBITを導入することのメリットは?

KIBITは長年児童虐待の対応をしたエキスパートの判断や暗黙知を学ぶことができます。相談記録などから、虐待が起きる可能性を「点数」としてスコアリングしますので、点数が高い記録を早期に対応するといった、判断の材料に使うことができます。

この点数の高低は、教師データである過去の相談記録などから類似した順に導き出されるので、一貫性ある判断にもつながり、虐待の早期発見に役立てることができます。

児童虐待に関する相談では、対応者が重篤化の可能性について察しをつけることがありますが、現状では多くの相談がありすぎ、場合によっては見逃すことがあるという課題があります。特に深刻なのは、現場で慎重になるあまりに初動が遅くなってしまう場合があることです。KIBITの活用により、点数によって相談内容の切り分けを明確にできるため、対応者が初動に迷った際の後押しになります。
 

相談に対応する側も苦慮しているようだ(画像はイメージ)

虐待の可能性はどう判断する?

――虐待の可能性はどう判断する?

KIBITが提示するスコアは学んだ教師データに影響されます。今回提案しているソリューションはカスタマイズできるのが特徴で、自治体などが実際に導入する場合は、虐待関連の事例や相談内容などを教師データとして学ばせるところから始まります。虐待の傾向などは地域ごとに違ってくると思うので、判断軸もそれで変わってきます。


――精度的な部分に問題はない?

人工知能なので、学習させるデータで精度の差は出てきます。ただ、ソフトウェアには事前に弊社の解析士が精度の高い、児童虐待の可能性を判断するモデルを作成することが可能です。モデルの精度をお客様に報告し、納得いただいてからの契約となるので、ご安心ください。
 

人工知能の判断精度はモデルで確認することができる(画像はイメージ)

――価格は?導入したいときはどうすればいい?

価格はカスタマイズ内容や解析するデータ量などで変わるため、公表はしておりません。導入をご検討の際は別途、見積もりさせていただくので、弊社までご連絡いただければと願います。


――自治体や児童相談所での導入予定はある?

複数の自治体よりお問い合わせをいただいており、ご提案を進めているところです。

人工知能に全てを頼るのではない

――現場レベルではどのように役立てると思う?

各地の自治体や児童相談所には、虐待に関する多くの相談が寄せられていると思います。そうした大量のデータを数分程度で解析できるので、援助要請をするのか、児童相談所で保護するのか...といった判断を、早期にすることが求められる中でのサポートが可能になります。


――このほか、伝えたいことはある?

今回のソリューションは人間の判断を支援する役割として提案しております。人工知能に全てを頼るというわけではなく、評価基準をサポートするツールの一つとしてお使いいただければと願います。児童虐待の兆候を早期に検知することにつながればと思います。
 

人工知能と人間の判断を併用して虐待被害の防止につなげたい(画像はイメージ)

新型コロナウイルスの収束が見えない現状では、児童虐待の相談や面談においても、感染予防に注意を払わなければならない。また、外出自粛などでたまったストレスが、子供にぶつけられてしまう可能性も考えられるだろう。

児童虐待では、ささいな対応の遅れが子供の命を左右してしまう可能性もある。保護に踏み切るかどうかなどの最終的な判断は人間がするべきだろうが、虐待の可能性を探るという点では、人工知能も手助けとなれるはずだ。

【関連記事】
外出自粛による「コロナDV」増加に政府危機感 加害者と同じ屋根の下…問われる対策とは
見ているだけで心が痛い…子ども視点で児童虐待を“疑似体験”する動画に込めた思いを聞いた