2025.02.05【不正トレンドレポート】急増する「AI不正・詐欺」—企業が直面する新たなリスク

AIの進化はビジネスに大きな革新をもたらしましたが、それと同時に詐欺や不正の手口も劇的に変化しています。

特に生成AI（GenAI）を悪用したフィッシング詐欺やアカウント乗っ取り（ATO）、ディープフェイク詐欺などが急増しており、従来の防御策では対応しきれないケースも増えています。

この記事は、AIを活用した不正検知サービスを提供するSift Science, Inc.が四半期ごとに発行している、デジタルトラスト・オンライン不正に関する最新レポート「Q2 2024 DIGITAL TRUST INDEX Managing Risk in the Era of AI-Fueled Fraud」を基に執筆されています。Siftは、グローバルネットワークを活用し、米国を中心に収集したデータと豊富な実績をもとに、不正の動向や企業が取るべき対策を分析しています。

本記事では、このレポートからAIを活用した最新の不正手口と動向について一部をご紹介します。
本レポート詳細版はページ下部のバナーよりダウンロードください。

AI不正・詐欺の進化

近年、サイバー犯罪者はChatGPTをはじめとする生成AI（GenAI）ツールを駆使し、個人や企業を標的にした詐欺・不正を加速させています。
AIの進化により、詐欺の手口はより巧妙化し、従来の検知技術では発見が難しくなっているのが現状です。

例えば、AIは単なる自然な文章の生成にとどまらず、

　・　高度なフィッシングメールや詐欺サイトの作成
　・　本物そっくりの音声・画像・動画の生成（ディープフェイク詐欺）
　・　悪意あるプログラムコードの開発

など、多岐にわたる手口の強化に利用されています。

このような進化は、詐欺行為がより洗練され、大規模に展開されることを可能にし、犯罪者が容易に不正ビジネスを拡大できる要因となっています。

つまり、AIはもはや「フロードエコノミー（不正経済圏）」の主要な武器となりつつあり、企業や消費者にとって無視できない脅威となっているのです。

企業が直面するAI不正・詐欺

AIを悪用した不正・詐欺の進化により、企業が直面するリスクも急激に高まっています。Siftの調査によると、企業の76%がAIを活用した不正攻撃の標的になったと回答しています。

特に、

などが増加し、企業の信頼性や財務的損失といった深刻な影響を及ぼしています。

さらに大きな問題は、「不正がより巧妙になり、見抜くことが困難になっている」 という現実です。

かつては、不自然な文章や文法の誤り、怪しいURLなどが不正の手がかりとなりましたが、AIの進化により、

　・　詐欺メールがネイティブレベルの完璧な文章に
　・　ディープフェイクによって、企業の担当者を完璧に模倣
　・　自動音声AIで、本物のカスタマーサポートと見分けがつかない対応

といったように、不正行為の手口がますます見抜きにくくなっています。

事実、Siftの最新レポートでは、企業の66%が「AIの進化により、不正を識別するのが難しくなった」と回答。 さらに、消費者の69%が「詐欺を見破るのが難しくなった」と感じていることが分かっています。

では、企業はどう対策すべきか？

こうした状況の中、企業は、新たな脅威に対抗するための戦略を見直す必要があります。

では、どのようにしてAIを活用し、進化する不正手口に対抗すればよいのか？

AIによる不正・詐欺を防止する戦略や対策について、さらに詳しく知りたい方は以下のお役立ち資料をご覧ください。