今や我々の生活の身近な存在となっている“AI(人工知能)”が搭載された製品。
人がいるかどうかを判断して温度や湿度を調整するエアコン、話しかけると必要な情報を教えてくれるスマートスピーカーなど、様々な製品が我々の生活を豊かにしてくれている。
 

資料提供:消費者庁

しかし一方で、
・勝手にショッピングサイトでモノを購入していた!
・自動運転の掃除機が家財を破壊した!
・誰もいないのにエアコンを運転する!
など、AIが自分の思い通りに動いてくれないことが、今後起きるかもしれないという。


最悪の場合、AIが搭載された機器が人や財産に損害を与えるようなケースも想定されるという。
こうした中、消費者庁がこれらの注意点をまとめた「AI利活用ハンドブック」を作成した。

資料提供:消費者庁

AI利活用ハンドブックは、AIの専門家たちがAIを利用する利便性やリスクについて議論したものをまとめたもの。どんなことが書かれているのかというと、例えば、スマートスピーカーを賢く使うためのポイントはこうだ。
 

〈スマートスピーカーを賢く使うためのチェックポイント〉

CASE① 指示した内容と違う情報が提示されました
⇒スマートスピーカーは、インターネットの検索エンジンと基本の仕組みは同じです。
提供された情報が誤っていたり、偽のサイトが紹介されてしまうこともあることを理解して利用しましょう。

●CASE② 指示していないのにショッピングサイトでモノを購入してしまいました
⇒音声の誤認識等によってモノを購入してしまう可能性もあります。
購入時にパスワードを入力する必要があるように設定をするなど、誤作動を防ぐ対策を心がけましょう。

資料提供:消費者庁

続いて掃除機、エアコンなどのスマート家電をかしこく使うためのチェックポイントはこうだ。

〈スマート家電を賢く使うためのチェックポイント〉

CASE① 自動運転の掃除機が家財を壊してしまいました
⇒使用前に、片付けておくべきもの、床面から取り除くべきものや通れない場所等、取扱説明書を読んで理解した上で使いましょう。 
 

CASE② 不要な時に運転してしまい、電気代が高くかかりました
⇒AIエアコンの制御機能について、ユーザーが評価をして、AIエアコンをかしこくしていく必要があります。
ユーザーが間違って評価すると、不要と思われる時にAIエアコンが運転することがあります。
正しくAIエアコンの評価をして、AIエアコンが、自分の好みの動作をしてくれるようにしましょう。 

AIについてこのような注意を呼び掛けているが、なぜ消費者庁は今回、このようなハンドブックを作ったのか?そして、映画のようなAIが暴走する未来はやってくるのか?
消費者庁の担当者に詳しく話を聞いてみた。

AIのメリットとデメリットを理解した上で安心して利用して欲しい

――現在、どれくらいの人がAI製品・サービスを利用している?

現状、AI利活用製品・サービスの利用者は、音声認識・コミュニケーションで3割強、AIによる機器操作で1割強、その他、AIによる取引契約、審査、レコメンドでは、1割弱にとどまっています。

資料提供:消費者庁

また、AIの利用経験のある消費者の多くが「今後AI利活用サービスの利用を増やす」意向があるのに対して、利用経験の無い消費者では今後も「利用しない」意向の消費者が多いです。
利用経験のない消費者への特段の働きかけがなければ、AIの利用者と非利用者で二極化していく可能性があります。

――なぜAI​利活用ハンドブックを作成した?

消費者がAIを安全に利用するためには、最低限必要となる知識を身に着けておくことが大事です。
その際、AIを利用する上でリスクについて注意喚起するだけでは、AIに対して不安を抱き、実際にAIを使ってみようという選択をしなくなる可能性があります。
AIのメリットとデメリットを理解した上で、一般の人が安心してAI​を使っていただきたい。そのために、今回、ハンドブックを作成しています。

AIの融資審査では過重債務を招く可能性も

――AIを利用する上で、他にどんな被害が想定される?

「健康相談のサービスの場合、利用者は体脂肪率10%以下のムキムキの体を求めている。しかし、AIは体脂肪率20%以下の健康的な体を作るためのアドバイスをする。」
AIは良かれと思ってアドバイスしているが、利用者の求めているものとズレが生じている場合があります。

――この場合、どんなことを注意しなければいけない?

AIは高い精度を示すことができるものの、100%の精度ではありません。
アドバイスを受け入れるか自分で判断しましょう。
アドバイスを受け入れて実行してみて、アドバイスの内容がおかしいと思うことがあったら、アドバイスの受け入れを中止しましょう。
 

資料提供:消費者庁

――今後増えるAI​の融資審査サービスも注意が必要?

一般的な融資審査では、個人信用情報や、収入に対する借入れの比率、返済見込額の調査等を考慮して審査していましたが、近年、取引データその他の情報をAIで分析することで、融資の判定を行うサービスが見られます。

AIによる融資審査の場合、これまでの融資とは異なる方法で審査ができる一方で、場合によっては、「過重債務」を招く可能性もあります。自分に支払うことができる金額か、十分検討して借入れを利用するようにしましょう。

資料提供:消費者庁

困った時はメーカーや消費者ホットラインに問い合わせを!

――AI​の暴走、自分では止められない時はどうすればよい?

AIを搭載した製品またはサービスについて困ったことが起きた場合は、事業者(メーカー・サービス提供企業)に問い合わせください。
それでも解決できない場合には、一人で悩まずに、消費者ホットライン「188(いやや!)」に相談してください。

――映画のようにAI​が人類を攻撃する未来はあり得る?

それはないと思います。
AIは人間が設計した範囲内で判断しているため、映画のようなことは起きないと思います。

 

AIを利用する人・しない人で二極化しないように、今回ハンドブックを作成して消費者への働きかけをしたという。

AIの製品・サービスが身近になる中で、注意しなければいけない点も多いが、こうしたハンドブックでAIのメリット・デメリットを把握した上で自分にとって最適な方法で付き合っていくべきではないだろうか。