中華IT最新事情

中国を中心にしたアジアのテック最新事情

アリババがデマ判定器を開発。正解率は81%

中国では、SNSを通じて、さまざまなデマが拡散している。よく考えればありえない話であっても、信じ込んでしまい、愚かな行動をとってしまう人もいる。アリババのDAMOアカデミーの研究員が、このようなデマを判別する人工知能を開発したと銭江晩報が報じた。

 

SNSでのデマの拡散が止まらない

SNSが発展し、中国でも他の国と同じようにデマが流布することが多くなっている。その多くは、食品や健康に関するものだ。

例えば、以前から廃棄した食用油を回収して、再利用する「地溝油」が問題になっている。ドブから回収した油という言葉の響きがある。地溝油でないかどうかを調べるにはニンニクを入れてみればいいというもの。地溝油であれば、中に含まれるAFTという化学物質と反応して、ニンニクが黒くなるという。

あるいはアフリカで流行した豚コレラが中国にも上陸し、鄭州で多くの人が死亡している。あるいは、キクラゲを栽培している農民が液体を噴霧している映像付きで、キクラゲの栽培には除草剤や殺虫剤を大量に噴霧するので食べてはいけない。新築の部屋、新車の車内はホルムアルデヒドが充満をしているので、みかんの皮で丁寧にこするとホルムアルデヒドを除去できる、などなど。

f:id:tamakino:20190401104057j:plain

▲日本でも有名になった地溝油。ニンニクを入れておくと、地溝油であれば黒く変色するのでわかるというデマが流れた。

 

デジタルに関するデマも増えている

また、この時代ならではのデジタル系のデマもある。

また、WeChatなどのメッセージに@を使わない方がいいというデマもある。システムは@を検索をして、そのメッセージの主を監視し始めるからだというもの。ATMでお金を下ろす時は、暗証番号を盗まれないために、カードを入れる前に、取消ボタンを2回押しておくといい。ガソリンスタンドで給油中に、子どもがスマートフォンを触っていたら、その電波によって着火し、爆発した事故が起こった、などなど。

 

人工知能がデマかどうかを判別する

アリババの研究機関DAMOアカデミーシアトルオフィスの李泉志研究員は、このようなSNS上に流れるデマを、人工知能を使って判別するシステムを開発した。このシステムの判別率は81%に達しているという。

このシステムは、3段階でデマを判別していく。

1:発信者を分析し、発信者のプロフィールを調べる。その人の専門領域、デマを発信、拡散した経験、所属している機関、アカウントを作成してからの時間、発現パターンなどだ。さらに、発言とは異なる内容を発信している人の比率、その発信者のプロフィールなども調べて、デマ判定をしていく。

2:ネット上のすべての発信源を調査し、その発信源が例えば新華社などの報道関係、政府医薬管理局などの信頼できる発信元があるかどうかを調べる。

3:メッセージの内容を解析し、知識データベースと照合し、矛盾がないかどうかを調べる。

f:id:tamakino:20190401104102j:plain

▲デマ判別人工知能を開発した李泉志研究員。清華大学卒業後、米国で博士号を取得。ロイター通信で情報処理担当者をしていたこともある。

 

人間と同じ思考方法でデマを判別していく

李泉志研究員は銭江晩報の取材に応えた。「このAIシステムは、人間の思考プロセスを模したものです。人間と同じように、発信者が確かな人であるかどうを確かめ、信頼できる機関も同じ内容を発信しているかを調べます。システムはさらに大量の知識データベースと矛盾がないかどうかを調べますが、人間の場合、この知識データベースは小さいのです」。

このシステムは、アリババのサービスの中での運用はまだしてないという。しかし、データを取得して学習は進めている。世の中が必要とするのであれば、短い時間で本格運用することも可能だという。

f:id:tamakino:20190401104054j:plain

▲デマに踊らされる人は多く、各地の警察、関係機関は定期的にどのようなデマが流布しているかを警告している。

 

剽窃、盗作にも応用できるデマ判別器

このシステムは、さまざまな方面に応用が可能だ。例えば学術論文の内容が剽窃でないかどうか、文学作品などが盗作でないかどうかも、内容と書き方から判別できるようにもなるという。

また、デマの流布に関しては、発信源の追跡を容易にする。誰が発信をして、誰が転載をしたのかがわかり、内容をコピーして二次創作したケースも分析ができる。

李泉志研究員は言う。「しかし、まだ多くの学習が必要です。人がメッセージを拡散するときには、その内容を否定するコメントをつけたり、風刺をしたりします。また、暗喩で反対の意思を表すこともあります。そのような転載者の感情まで理解する必要があるのです。現在、このようなことまではできません。しかし、大量の学習を経ることで可能になると考えています」。