人工知能が詐欺の電話をかけ、3600人が騙されるという事件が発生した。人工知能は、人と整合性のある会話をするため、騙されてしまうのだ。詐欺犯行グループも人工知能技術を活用する時代になったと銭江晩報が報じた。
女性の声でかかってきた詐欺電話
2019年11月9日、寧波市寧海県公安局の大佳何派出所に、ある男性が「WeChatを使って5000元（約8万円）を騙した取られた」という詐欺被害の相談にやってきた。
数日前の午前中、被害を訴える呉さんは、一本の電話を受けた。その電話は女性の声で、自分は「360金融」の人間だと名乗った。360は中国では有名なセキュリティ企業で、アンチウイルスソフトを始めとして、数々のセキュリティ製品、サービスを提供している。フィンテック絡みのサービスも多く提供していて、その中のひとつとして消費者金融サービスも行っている。つまり、中国人にとって、360金融の名前は有名だし、信用力のある金融サービスになっている。
その女性が「借入金はお要りようではないですか？」と尋ねてくるので、呉さんが必要だと応えると、360金融の担当者である小劉のWeChatアカウントを紹介するので、詳しくはWeChatで小劉と条件などを相談してほしいという。
先に手数料を要求する典型的な借入金詐欺
呉さんは、言われるままにWeChatで小劉とメッセージにやりとりをした。呉さんが10万元（薬160万円）の借入をしたいと申し出ると、小劉は現在5万元（約80万円）部分までは非常に低利息で借りられるようになっている。ただし、その場合には先に5%の手数料を収める必要があるという。
呉さんはその言葉を信じてしまった。5000元をWeChatペイで送金したが、貸付はなかなか実行されない。
小劉に問い合わせをすると、今度は30％の保証金を積む必要があると言う。さすがにこれはおかしいと感じ、先ほど支払った保証金を返金してもらい、この話は無かったことにしてほしいと言うと、小劉の反応がなくなり、連絡が取れなくなった。
それで、派出所に被害相談をしにやってきた。
▲犯行グループとやりとりをした呉さんのスマートフォン。犯行グループは、被害者を釣るのに人工知能電話を利用し自動化し、その後のSNSでのやりとりだけを自分たちでやっていた。緑色が呉さんのメッセージで、言われるままに個人情報なども伝えている。
犯行グループのリーダーは、AIの専門家
寧海県公安が調査をしてみると、この被害は全国に及んでいることがわかった。わかっているだけで、3600人が被害を受け、そのうちの15人が寧波市でのものだった。
12月15日、警察は、武漢で５人の犯行グループを逮捕した。取り調べをしてみると、リーダー格の鄭某は、大学時代に計算機科学を学び、特に人工知能技術の研究をし、大手テック企業の勤務歴もある人物だった。その鄭某が、詐欺グループと知り合い、人工知能技術を詐欺に応用しようという話になった。
被害にあった呉さんは、最初の電話の女性の声は少し変な印象を持ったという。これは、合成音声による電話で、相手の話す言葉を自然言語解析し、用意されたシナリオに沿って、小劉のWeChatアカウントまで繋ぐのが目的だ。
従来は、人間が電話をかけて、カモを釣る作業に大きな労力が必要だったが、この詐欺グループはこの作業を自動化し、業務効率を大幅に改善していた。詐欺グループは釣れたカモに対して、WeChatでのやり取りのみ対応すればよかった。
詐欺グループは、わずか2ヶ月間の間に、300万元（約4800万円）以上を稼いでいた。
▲犯行グループの現場検証。PCとスマホだけで詐欺の犯行が行える。リーダーは、人工知能の専門家だった。人工知能が応答する電話は、宅配便の在宅確認などにすでに使われ始めている。
人工知能による電話応答の普及が始まっている
人工知能による電話は、次第に普及をし始めている。テープに録音された内容を一方的に聞かせるのではなく、相手の言葉を解析して、適切な反応をすることができる。宅配便での在宅確認の電話、営業電話、カスタマーサービスなどに使われ始めている。
このようなAI電話が普及をすることは、企業の業務効率を大幅に上げることになるが、犯罪者たちの業務効率まで上げてしまうことになる。寧海県公安では、営業電話がかかってきて、手数料、保証金、調査料などの名目でお金を要求されたら、詐欺の可能性が極めて高いので支払わないようにと訴えている。詐欺かどうかを判断するのは、結局は人間しかないのだ。
