Gemmaで詐欺を見抜くAI｜シンガポール政府とDeepMindがスマホ内で検知

シンガポールでは、2026年の上半期だけで4億1,060万シンガポールドルが詐欺で奪われています。日本円にすると約507億円。前の年より17.9%減ったとはいえ、警察は今も詐欺がこの国で最も多い犯罪だと言っています。

そのシンガポールで、Google DeepMindと政府技術庁（GovTech Singapore）が、スマホの中だけで動く詐欺検知のAIモデルを作りました。発表は2026年10月14日。シンガポール国際サイバー週間（SICW 2026）で披露されたものです。

Gemmaを地元の詐欺で鍛えたモデル
スマホの中で2段階に分けて見る仕組み
なぜ「1通ずつ」では足りないのか
会話は政府もGoogleも見られない、という説明
いつ、どのアプリで使えるのか
あわせて読みたい
出典

Gemmaを地元の詐欺で鍛えたモデル

土台はGoogleの軽量なオープンモデル、Gemmaです。それを、シンガポールで実際にあった詐欺の会話で追加学習（ファインチューニング）させた。公的機関や銀行、地元の有名人になりすます手口、それに東南アジアで出回っている手口が中心だそうです。

追加学習の考え方そのものはファインチューニングとはに書きました。汎用のモデルに「この国の詐欺の言い回し」を覚えさせた、と考えるとイメージしやすいと思います。

モデルの大きさ（パラメータ数）、どの言語に対応するのか、検知の精度は、発表には書かれていませんでした。シンガポールは英語・中国語・マレー語・タミル語が使われる国なので、どこまで対応しているのかは気になるところです。

スマホの中で2段階に分けて見る仕組み

会話をサーバーに送らず、端末の中で分析します。怪しい流れを見つけたら、その場で警告を出して、お金や情報を渡す前に一度立ち止まるよう促す。

電池を食わないための工夫が、2段構えになっていることでした。

段階	使うもの	役割
1段目	軽い分類器	届いたメッセージを1通ずつふるいにかける
2段目	追加学習したGemma	引っかかったときだけ、会話をまとまった範囲で読み直し、本物の脅威か誤報かを判断する

Google DeepMindの発表（2026年10月14日）をもとに整理

言語モデルを常に動かすと電池がもたない。だから普段は軽い仕組みで見張り、重いモデルは必要なときだけ起こす。手元の端末でAIを動かすときの定番の考え方です。小さいモデルを端末で動かす話は量子化とはやLFM2.5-24B-A2Bとはでも書いています。

なぜ「1通ずつ」では足りないのか

シンガポール警察の2026年上半期の統計を見ると、理由が分かる気がします。

項目	2026年上半期
被害額	4億1,060万シンガポールドル（前年同期は5億20万）
詐欺の件数	1万6,821件（前年同期は1万9,644件）
投資詐欺の被害額	1億6,980万シンガポールドル（種類別で最大）
公務員なりすましの被害額	9,080万シンガポールドル（2番目）
被害者が自分で送金した割合	10人に8人

シンガポール警察「Mid-Year Scam and Cybercrime Brief 2026」（2026年8月26日）の内容を報じたThe Straits Times（ANN経由・8月27日）より

10人に8人が、自分の手でお金を送っている。口座を乗っ取られたのではなく、だまされて自分から振り込んだ、ということです。投資詐欺は、ネット広告で無料の投資講座をうたい、WhatsAppのグループに誘って「先生」と「さくら」が信用させる流れだと報じられていました。

こういう手口は、1通だけ見てもただの雑談に見えます。何日もかけて信用させ、最後に送金させる。2段目のGemmaが会話をまとまった範囲で読み直すのは、この流れをつかむためなのでしょう。

警察の元の資料（PDF）も開いてみましたが、手元の環境では中の文字をうまく取り出せず、上の表の数字は報道の側で確かめています。換算の約507億円は、1シンガポールドル＝123.54円で私が計算した目安です。

会話は政府もGoogleも見られない、という説明

政府が詐欺対策で人のメッセージを読む、と聞くと身構える人もいると思います。発表では、会話にアクセスするのは利用者の同意があり、各アプリの規約に沿う場合だけで、政府もGoogleも中身には触れられない、と説明されていました。

学習のほうでも線を引いています。追加学習はGovTechが管理するGoogle Cloudの環境の中で行い、学習データは外と切り離した。個人を特定できる情報は使わず、詐欺の通報や情報提供から匿名にしたデータを使った、とのこと。合成した会話と地元の文章で負荷をかける試験もしたそうです。

GovTechの信頼・安全部門のディレクター、Mark Chen氏は、個人のやりとりのプライバシーを守ったまま、AIの守りを市民の端末に届けるやり方だ、とコメントしていました。

いつ、どのアプリで使えるのか

ここはまだ決まっていません。アプリへの組み込みは「慎重に段階を踏んで」進め、シンガポール政府と一緒に開発する、という書き方でした。具体的なアプリの名前も、開始時期も出ていない。ほかの国と共有したり展開したりする可能性にも触れていますが、予定は示されていません。

Google自身は、Androidの「Googleメッセージ」と電話アプリで、端末の中のAIで詐欺を見つける機能をすでに出しています。今回はそれとは別に、国ごとの手口に合わせて鍛えたモデルを政府と作った、という点が新しいところだと思います。日本でも公的機関や警察を名乗る詐欺の電話は珍しくないので、同じ形が日本に来るのかどうか。現時点では何も発表されていません。

AIは詐欺を防ぐ側にも、仕掛ける側にも使われています。AIを悪用した攻撃の例はClaudeのトークンが勝手に消えるに、オープンなモデルをめぐる議論はAnthropicはオープンウェイトに反対なのかやオープンウェイトとオープンソースの違いにまとめています。個人情報をAIに渡すときの考え方はAIに個人情報を入れてよいかをどうぞ。