in

トレンドマイクロ社とFLOW AIのアノテーションチームが提携、 Lineで虚偽報道撲滅に一役買う

文/ 日本Flow AI Blog 編集チーム

スマートフォンの普及で増加する詐欺被害、コロナに便乗するフェイスニュース。被害撲滅に尽力し、自ら詐欺防止の専門家へと変貌を遂げたエンジニアチームと、膨大な情報とデータの影の立役者 FLOW AIアノテーターが共同開発し誕生した、この優れた人工知能アプリでインターネット社会の脅威を防ぎます。

フェイクニュースや詐欺被害が増加の一途をたどる中、トレンドマイクロが発表した「詐欺防止マスター」のLINEチャットロボットは、「米国-台湾科学技術チャレンジ」でイスラエル、オーストラリア、及び各国のチームから見事に勝利を収め、最優秀賞を受賞しました。

500万台湾ドルの賞金と、さらに、台湾IT大臣である科学技術の政治委員唐鳳氏(オードリー・タン)自らのFacebookにて称賛していただきました。

「詐欺防止マスター」のLINE公式アカウントを友達として追加し、不審なメッセージを転送すると、内部のAIロボットは転送したメッセージに瞬時に反応し、信憑性を即座に識別します。

このアプリ機能は無料かつ操作が簡単で、リアルタイムで危険を防ぐことができるため、台湾では人気アプリになっています。LINE公式アカウントにログインして確認する人は毎日6万人から7万人で、最低でも32万人ものユーザーがいます。また、このLINEアプリ機能は、今年日本への展開も見込まれています。

トレンドマイクロ社 グローバルマーケット開発部 シニアマネージャーの劉彥伯氏( Paul Liu)率いるエンジニアチームメンバーたちは、「詐欺防止マスター」の開発に向け「詐欺防止の専門家」に変身しました。

彼らはさまざまな詐欺やフェイクニュースの掘り下げに取り掛かり、新型コロナウイルスに便乗した詐欺被害の情報を多数発見しました。例えば、マスクを並んで買う必要はないなどと誘導するフェイクニュースや、日本では特定の石や水道管を交換する事でコロナを予防できると思わせる詐欺被害でした。彼らは、台湾の刑事局へ出向き犯罪モデルについて協議を行いました。

アプリ内に転送されてきた被害メッセージの検証にはスピードが最も重要ですが、詐欺防止マスターのアカウントには毎月4500万から5000万もの詐欺メッセージが通報されてきます。

この膨大な情報量処理と、相次ぐ詐欺の新しい手口と戦うため、機械学習だけではなく常に最新データにラベルを付け機械に学ばせ、アルゴリズムのパフォーマンスを最適化し続けなければなりません。

アノテーションは、早速でバックステージにログインし作業を行わなければならないので、劉彥伯氏とエンジニアは僅かな時間すらも作業に追われ、その結果、一日の仕事が終わっても、アノテーションをし続けなければなりませんでした。

データ量が多く、忙しい中時間を割いてアノテーションして更新しなければならないことは彼らにとって一番大きな課題であり、大きな負担になりました。そこで、彼らはFLOW AIと共に、AIロボットとアノテーターたちのフィルタリング、判断を通じて、台湾の人々のために信頼できる情報セキュリティ保護壁を共同で構築しました。

データ量が多く、アノテーションの更新に時間を割かなければならないことは彼らにとって一番大きな課題であり、大きな負担になりました。そこで、彼らはFLOW AIと共に、AIロボットとアノテーターたちのフィルタリング、判断を通じて、台湾の人々のために信頼できる情報セキュリティ保護網を共同で構築しました。

アノテーターがセキュリティ脅威分析の専門家になったとき

FLOW AIは台湾最大規模のAIデータサービスチームで、100件を超えるマルチタイプAIデータプロジェクトの経験を持っています。アノテーターは台湾各地の在宅障がい者です。彼らは体の不自由が原因で、一般の人々のように仕事に出かけることが非常に困難です。 ですが、彼らは専門的なトレーニングを受けた後、FLOW AIの多彩なノウハウを持ち合わせたプロのAIアノテーターとして活躍しています。

当初、トレンドマイクロのエンジニアたちはFLOW に行き、アノテーターにさまざまな詐欺の見抜け方を教えました。 劉彥伯氏が一つの例を挙げました。コロナの影響で、偽の医薬品メーカーのFacebookページが多数出てきています。彼はアノテーターたちに、ページの名前の横に認定された公式の青いチェックマークがあるかどうか、設立の日付けと評価欄を確認するように教えます。

彼らは非常に迅速に学び、プロジェクトは1か月足らずで非常に良い状態にあり、正確性も高いです。マークされたデータは非常に価値がある」と劉彥伯氏は述べています。プロジェクトの進展とともに、FLOW AIアノテーターも更に進化し、彼らもまた、プロの「詐欺防止対策専門家」となりました。トレンドマイクロの自作フィッシングWebサイトでさえ見抜けることができるようになり、今では民間から通報された情報の真偽もアノテーターにとっては朝飯前です。

システム開発に最も重要なのは、アノテーターが「詐欺防止マスター」の最高のテスターになり、直接フィードバックを提供することです。最初のバックエンドインターフェースの開発はトレンドエンジニアによって作られ、アノテーターはそれを利用しましたが、操作するには少し複雑であるとフィードバックしました。双方は詐欺のデータ特性と組み合わせて議論し、現在の一目瞭然のベストバージョンの開発に至りました。

民間から通報された詐欺メッセージはシステムによって「詐欺」として識別されたあと、FLOW AIアノテーターによって引き継がれ、バックステージで情報源を一つ一つアノテーションし、ドメイン、使用者、レジスター年数、国などのデータが含まれ、同時に詐欺の種類を分類します(例えば成人、ギャンブル、ローン、投資など)。

今では多くの時間を節約し、さまざまなタイプの詐欺をより精確に把握できています。これは、FLOW AI がデータのアノテーションを協力することにより、ユーザーフィードバックを得ることができ、総合的な効果を発揮しているからです」と劉彥伯氏は微笑みながら語っています。

より多くの種類の詐欺を収集することによって、更に多くの台湾の人々の安全が守られるだけでなく、ソフトウェアの専門家は世の中の流れをいち早くキャッチし、グローバルユーザーに一流かつ厳密なセキュリティサービスを提供できます。 「ハッキング技術の観点から見ると、ウイルスの脅威の種類はより多様化しています。インターネット上のフィッシングや偽のメッセージによって引き起こされるセキュリティ問題は、従来から知られているコンピュータウイルスよりも深刻です」 と劉彥伯氏が分析しています。

この協力体制により、FLOW AIのアノテーター達は、豊富な産業知識を積み重ね、仕事にやり甲斐を見出し、産業と社会に貢献することができます。

「これは弊社の設立の初心を反映しています」と、FLOW AIデータ処理事業部の台湾地域責任者である簡季潔(Jessica Chien)氏は述べています。それはつまりー

「AIの時代では、人々を最も働きがいのあるポジションに置くことによって、人々が機械に置き換わることにはなりません。」


【欠陥検査】プリント基板製造へのAI導入の仕方とは?AOIの誤検出率を抑える3つのコツ

【データ処理の戦略的思考】防犯監視はデータから始めます