映画の中ではAIやロボットが氾濫を起こし人間社会に大きな被害を与えるのがお決まりのパターンだが、さいたま市では導入したAIのトラブルに職員が緊急対応する事態が起きたという。
トラブルが起きたのは、保育所に子どもを入れたい保護者の希望をできるだけ叶えるために開発された「MICJET MISALIO子ども子育て支援V1 保育所入所AI入所選考」というAIシステム。
このAIは「ゲーム理論」という複数人の利害関係を合理的に解決する数理手法を高速に処理できるという。
例えば、定員2名の保育所が「A」「B」の2つあり、2組のきょうだいが入所するとき、組み合わせのパターンは全部で6通り。
さらに保護者がみな「きょうだい2人ともA保育所に入所させたい」「きょうだいが別々になるなら、2人ともB保育所に入れたい」と考えているとき、子どもの優先順位を考慮しながら最大限に希望を満たすのは、1組のきょうだいはA保育園、もう1組はB保育園という組み合わせになる。
全体で4人なら簡単に思えるかもしれないが、例えば8000人の子供が第5希望まで出すと、単純計算で組み合わせは「5の8000乗」通りにもなる。
これを全員の希望を最大限にかなえてあげられるように、人間が考えるとしたら膨大な作業になることは想像に難くないだろう。
実は、さいたま市は2017年1月から富士通と共同で入所選考AIの実証実験に取り組んできた。
翌年11月にはAIシステムの一般提供がスタートし、滋賀・草津市や東京・港区などが導入に向けて動いていたというところまでは以前編集部でも取り上げていた。
（参考記事：わずか数秒…AIが入所選考すれば「希望の保育園」に通える子が増える!? - FNN.jpプライムオンライン）
待機児童の問題や職員の負担軽減を解決する救世主として期待されていたAIシステムだが、今年さいたま市が満を持してAIを本稼働させたところトラブルが発生してしまったという。
一体どんなトラブルだったのか？そしてどうやって対応したのか？
さいたま市保育課の担当者に聞いてみた。
9000件強の申込を約390施設に割り当て処理中だった
――どんなトラブルが起きた？
1月7日に入所選考のAIシステムを実行したところ、ずっと処理中が終わらない状態になりました。
システムの処理時間として設定されている5時間が過ぎても終わらず、タイムアウトしました。
――どんなデータだった？
2020年春の入所希望データで、正確な申込者数はまだ集計中ですが、だいたい9000件強。
保育所の数は約390施設です。
去年12月27日にテスト実行した時は30分程度で終わったんですが、その後データの更新が数百件あったそうです。
――その後AIはどうなった？
1月10日に開発元の富士通から改良版を提供され、翌日実行したところ30分程度で処理が終わりました。
その日からの3連休で、AIが出した選考の確認作業を行いました。
AIのキャパを超えた原因は「その他」
AIのトラブルで平日に予定していた職員の確認作業がずれこみ休日返上となったようだが、改良版を富士通から提供され、AI自体は復旧したようだ。
実はさいたま市では例年1月の3連休などに20～30名の職員が割り当て作業を行っていたのだという。
これほど手間がかかる理由の一つは、さいたま市が細やかな入所選考を行っていることにありそうだ。
さいたま市は、きょうだいを保育所に通わせる際、別々の保育所でもいいか、上の子を優先するかなど、保護者の要望を「その他」を含めた8つのパターンに分類し、できるだけかなえようと奮闘している。
――分類の「その他」とは？
「その他」は他のどのパターンにも属さない希望を、特に制限なく伺っています。
例えば「駅の東口と西口にある保育所で、きょうだいが別れるような入所は避けたい」という希望があれば、東口ならどこ、西口ならどこと候補を探します。
――このような分類は他の自治体より多い？
他の自治体についてはあまり詳しくないんですが、個人的にここまで細かい希望を伺っている自治体は存じあげません。
――トラブルの原因は？
きょうだいで申し込みをする保護者様の希望が複雑になる場合があり、処理ができなくなったそうです。
パターンが多くなければ処理ができたとのことなので、キャパシティを超えてしまったと言えそうです。
「最適な割り当てになっていました」
――トラブル後のチェック作業は想定していた？
AIが出した割り当てについては、当然中身の確認を行う予定でした。
――中身を確認した結果は？
最適な割り当てになっていました。
――作業時間や人員は減った？
総時間は約半分ぐらいになっています。
――選考結果を公開するのはいつ？
市民の皆様への案内は2月10日を公表日としています。
トラブルはありましたがこれは変わりません。
――トラブルがあったけど、これからもAIを使う？
今回はトラブルが発生しましたが、原因究明も進んでいますし、より厳しい条件での負荷テストも行っていくものだと思います。
一方、保育所への申込件数は、今後も増えることが予想されており、改善をしていただきながら予定としては今後も使用することを考えています。
さいたま市は当初、AI導入によって従来より1週間ぐらい作業を早められると見込んでいたそうだ。
取材してみるとAIのキャパをも超えるほど、保護者の複雑な希望に対し最適な割り当てで応えようというきめ細かいサービスを行っていたさいたま市の職員に頭が下がる。
現実の社会では“AI崩壊”とならず2021年こそ職員が3連休を取れるように、編集部は引き続きさいたま市のAIに注目している。
