2025.01.30AIの進化が不正の形を変える。そのリスクに備えていますか？

本記事は、Sift Science, Inc.のBlog記事「The AI Transformation is Reshaping Global Fraud. Are You Ready for the Risk?」を日本語に翻訳したものです。

本記事の著作権は、Sift Science, Inc.および同社の国内パートナーである株式会社スクデットに帰属します。

Kris Nagel 著/ 2024年6月20日

最近、AIの存在感と影響力について触れない議論はほとんどないと言っても過言ではありません。過去のあらゆる技術革新と同様に、AIの魅力はその可能性にあります。しかし、その可能性を活かすためには、複合的なリスクとのバランスを取るという、難題に直面することになります。 

現在、私たちは、「AIトランスフォーメーション」の時代を目撃しています。過去20年にわたり、ビジネス界を席巻したデジタルトランスフォーメーションと同様に、AIも現代の商取引を急速に再編し、企業と消費者の関係を大きく変えています。そして、それは信頼のあり方さえも再定義しようとしています。

すべての技術変革が市場シェアの拡大、効率化によるコスト削減、優れた顧客体験の提供を重視するのは共通していますが、AIトランスフォーメーションは、その単なる改良版ではありません。また、AIが企業から従業員を不要にするような近道でもありません。それどころか、AIは人々とプラットフォームの間にある多くのギャップを埋め、必要なスキルを担いながら、より幅広いアクセシビリティを提供します。AIは、単に私たちの指示に従うだけでなく、私たちから学び、私たちが何者であるかを理解し、さらには私たちが本当に進むべき方向を示してくれる「信頼できるパートナー」へと進化するのです。

企業におけるAIとリスク：月を目指して火星に着陸する

Aiの持つ膨大な可能性は、時に圧倒的すぎて判断を迷わせるものです。その可能性の大きさは、私たちの現実に対する期待をも揺るがしてきました。今ではほとんどの人が、日常生活の中で何らかの形で実用的なAIと関わっています。例えば、カスタマーサービスのチャットボットとやりとりしたり、高度なアルゴリズムのおかげでお気に入りの新しいストリーミング番組を見つけたりする場面が典型的です。

しかし残念ながら、これらのAIアプリケーションは、不正犯によって消費者や彼らが利用するオンラインビジネスをターゲットに悪用されることも容易です。感情を持つロボットや高度にスマートなシステムの実現はまだ先の話かもしれませんが、不正犯はすでにAIを活用して、音声認識からのテキスト生成を活用した動画制作や極めてリアルで超高精細なディープフェイク技術を使用して活動しています。この技術は、完璧な文章の生成、正確なコード作成、リアルな音声生成、リアルな映像制作、さらには完全なWebサイト構築までも可能にする機能を備えています。結果、この技術は創造性と効率を飛躍的に高める強力なツールとなる一方で、デジタル犯罪者の手に渡れば、不正行為を目的とした非常に効果的な武器に変貌してしまうのです。

つい最近、香港の金融担当者が、AIを駆使した詐欺がいかに巧妙で、そしてどれほどの損害を引き起こすかを身をもって体験しました。サイバー犯罪者はディープフェイク技術を使用して、その企業の最高財務責任者（CFO）に​​なりすまし、CFOの声を見事に模倣しました。その偽装された声は電話で使用され、結果的に2,500万ドルが不正口座に送金される事態を招きました。

そして予想通り、世界的な「不正経済（Fraud Economy）」は、AIを利用した詐欺を目的とした悪質なツールを次々と生み出しています。その一例が、「WormGPT」という名前のAIプラットフォームです。WormGPTは悪意のあるコンテンツを作成するために設計されており、正当なAI言語モデル（Jasper、ChatGPTなど）と同様に機能しますが、説得力のあるフィッシングメール、偽造文書、その他の詐欺的なコンテンツを生成するために使用されます。倫理ガイドラインに従って設計された主流のAIモデルとは異なり、WormGPTは制約が一切設けられていないため、実質的にに使用の制限はなく、その動作を予測することも困難です。WormGPTの親会社である FlowGPT は、「genAIアプリの無法地帯（ワイルドウェスト）」と呼ばれています。このプラットフォームはコミュニティ主導で運営されており、ユーザーが AI モデル用（悪意のあるものもそうでないものも）のプロンプトを共有したり発見したりする場を提供しています。

これはまるで、ニール・アームストロングが月への初めての旅で感じたであろう感覚に少し似ているように感じます。ただし、アポロ11号から降り立ったときに月の砂ではなく、赤い砂漠の火星に足を踏み入れたとしたら、という話ですが。

デジタルの世界では、私たちはまさにそのような状況を理解し始めている段階です。AIがどうあるべきか、どのように機能し、何ができるかについて、これまで抱いていた長年の計画や想定が、実際にはかなり保守的だったことが明らかになっています。私たちは、AIが与えられた情報を処理するだけでなく、私たちの意図や考えを理解し、時には私たち自身が完全に理解する前に、それを察知できるという、技術の総合的な力を過小評価していました。また、AIの力が事実上誰にでも利用可能になるとは、必ずしも想定していなかったのです。 

現実には、AIは競合間だけでなく、企業と犯罪者の間の競争の場も平準化し、さらに拡大しています。AIは、高度なコンピューティングへのアクセスを民主化し、競合情報やデータへの障壁を下げ、消費者とブランドが新しい形で関わるための方法を生み出しています。しかし、AIの無限の可能性には、常に変化し続ける大きなリスクが伴います。そのため、どこに投資を行い、どこで AIの導入を控えるべきかを判断することが特に難しくなっています。

最大の脅威は「何もしないこと」

生成AIの市場規模は、 2032年までに1.3 兆ドルに達すると予測されています（今後10年間の平均成長率は42%）。企業は、内部プロセスや実行力を強化するためのAIソフトウェアに何百万ドルを費やす可能性があります。しかし、これは全体の一部にすぎません。AIが外部にもたらすリスクを、安全で持続可能な収益源や成長の手段に変えることが、もう一つの大きな課題となります。

企業がリスクと収益のバランスを完全に把握する前に、まず、私たちが直面している脅威の本質と範囲を理解することが重要です。デジタルトランスフォーメーションについて言及したのは、それがこれから何が起こるか、何を考慮すべきか、そして最も重要なこととして、AI時代が進むにつれて私たちが繰り返してはならない過ちの「歴史的な教訓」を示しているからです。 

具体的には、「何もしない」という選択肢です。同様の技術の変革を経験してきたリーダーたちは、イノベーションにおける最大のリスクは「無策」であることをよく知っています。今日でも、クラウドコンピューティングの導入に苦労している企業は、踏み切った競合他社に比べて、オンプレミスのインフラ、ハードウェアの制限、運用コストの管理に、より多くの時間と費用を費やしています。

しかし、AIの時代において、「何もしない」という選択肢はありません。世界中の脅威行為者（Threat Actors)は「先行者優位（First-Mover Advantage）」を得ているからです。彼らは、AIを応用して、企業や消費者からデータや金銭をより迅速かつ密かに吸い上げるための洗練された手法を開発しています。これには、ディープフェイクを使ってKYC （顧客確認）ツールの生体検知チェックを欺いたり、より説得力のあるフィッシングメールを作成したりすることが含まれます。多くのリーダーが、AIを利用した詐欺の膨大な潜在的リスクに対処する準備が整っていないと感じていますが、それも無理はありません。アナリストの調査によると、大手小売業者の 56%がAIを利用した不正の大幅な増加を経験しています。

消費者もこの脅威を感じ取っています。30%の消費者は、AIによる広範な脅威を理由に、オンラインショッピングの頻度が減ったと答えています。この認識は、業界を問わず経営陣に明確な現実を受け入れさせました。それは、AI生成の不正行為に真っ向から対抗するには、企業がスケーラブルでAIを活用したソリューションを必要としているということです。

AIファーストの未来を築く 

デジタル詐欺は、毎年あらゆる業界の企業に対し、直接的な金銭的損失、顧客離れ、LTVの低下、ブランドイメージの低下という形で、数千ドルの損害を与えています。2023年には、オンライン上の脅威行為者が達成したスピードと規模により、企業全体で推定480億ドルの損害が発生しました。さらに、世界中の企業は収益の平均10%を不正対策のために費やしていると推定されています。

AI導入に対する抵抗感は依然として強く、MITの調査によると、リーダーの91%がAIを大規模に活用できていないと答えています。しかし、昨年のデジタルリスクへの支出の一部はAIによって吸収されており、経営者の半数以上がサイバーセキュリティや不正対策の分野にすでにAIを活用していると報告しています。簡単に言えば、企業におけるAI導入は避けられない流れであり、それに伴うリスクも同様に避けられません。

私たちは今、赤茶色に染まる火星のような未知の風景に立っています。予想していたよりも情報が少なく、予想以上のリスクがありながらも、期待していたよりも多くの機会がある、この未踏の惑星に到着したのです。デジタルリーダーたちには、AIを活用して成功を切り開き、新しいパートナーシップやイノベーションの ネットワークを構築し、未来を自らのものにする素晴らしいチャンスが与えられています。

今や私たちはこの「赤い惑星」に降り立ちました。今後の可能性を探る以外に選択肢はありません。特に、AI の分析力を活用して、AIの台頭によって脆弱になった消費者や企業を守るための方策を模索する必要があります。企業は、このリスクを収益へと転換し、成長を追求しながら、AIを通じて優れた顧客体験（CX）を生み出す機会を手にしています。次の技術フロンティアが到来し、デジタルトランスフォーメーションがそうであったように、今日のAI の早期導入者が、その「未来」を作る「設計者」となるのです。 

あなたは準備ができていますか？