Google DeepMindとシンガポール政府、プライバシー保護型AIで詐欺対策を強化

Google DeepMindとシンガポール政府が詐欺検出AIを共同開発

Google DeepMindとシンガポール政府技術庁（GovTech Singapore）が協力し、詐欺検出のためのファインチューニングされたAIモデルを開発しました。この取り組みは、シンガポール政府との国家AIパートナーシップの一環として進められています。

シンガポールでは、投資詐欺、偽の求人、公務員なりすましといった詐欺が報告される犯罪の半分以上を占め、2019年以降の損失は40億シンガポールドルを超えています。特に、複雑なソーシャルエンジニアリングによる詐欺が損失の最大80%を占める状況に対応するため、このAIモデルが開発されました。

オンデバイスAIによるプライバシー保護と詐欺検出

開発されたAIモデルは、Googleの軽量なGemmaモデルをベースに、現地の詐欺会話データでファインチューニングされています。これにより、公共機関、銀行、地域の著名人へのなりすましや、流行している地域のスキームなど、ローカルな欺瞞の手法に対応できるようになります。

このモデルの最大の特徴は、プライバシーを保護しながらオンデバイスで動作する点です。従来の脅威検出がクラウド上でのメッセージのスキャンに依存するのに対し、このモデルは会話データをデバイス上で直接処理します。これにより、操作的な意図をより迅速に分析し、金銭や認証情報の漏洩が発生する前に市民が対応できるよう支援します。

アプリケーションへの導入は、シンガポール政府との連携のもと、慎重に段階的に進められます。モデルは、ユーザーの同意とアプリケーションの利用規約に従って、オンデバイスの会話にのみアクセスします。モデルが完全にオンデバイスで動作するため、シンガポール政府もGoogleも、展開を通じてユーザーの会話にアクセスすることはありません。

ローカルコンテキストとエッジ効率

モデルが操作的な会話パターンを検出すると、ユーザーのデバイスにリアルタイムで警告が表示され、機密情報や資金を共有する前に一時停止し、注意を払うよう促します。現代のスマートフォンで複雑な詐欺分類モデルを実行するには、バッテリー効率が重要な課題となります。

この課題に対応するため、2段階のパイプラインが採用されています。

• ステージ1: 軽量で効率的な分類器が、最小限の電力で受信メッセージをスクリーニングし、潜在的な脅威を検出します。
• ステージ2: ファインチューニングされたGemmaモデルによるインコンテキスト分析で、会話のより大きなスナップショットを分析し、脅威を確認するか、誤報を破棄します。

厳格なガバナンスに基づく開発

このコラボレーションは、シンガポール国際サイバーウィーク（SICW 2026）で発表されました。開発全体を通じて厳格なガバナンスが維持されています。

• Sovereign Sandbox: ファインチューニングは、GovTech Singaporeが管理・維持するGCP環境内で実施され、トレーニングデータは隔離されました。
• No Citizen Data: トレーニングには、詐欺報告やインテリジェンスフィードから派生した匿名化されたデータセットのみが使用され、プライベートな個人識別情報は厳しく除外されました。
• Stress-Testing: モデルは、合成ダイアログやローカルコーパスに対してテストされ、多様な詐欺カテゴリや進化するなりすまし戦術に対応できるか検証されました。

このプロジェクトは、安全性やプライバシーを損なうことなく、AIがいかに犯罪対策に貢献できるかを示しています。また、政府とモデルプロバイダーが協力して公共の利益のための技術を構築する方法も示しています。この軽量なオンデバイスモデルにより、チャットのやり取りを安全に保ちながら、ローカルなリアルタイム詐欺検出の能力が証明されました。