【解説】Shisa.AIが国連関連イニシアチブ参画、AI悪用詐欺・フェイク対策の最前線とは？

AIを悪用した多言語詐欺への対応
オープンソース成果物を通じた国際連携
- 関連リンク
AI Workstyle Lab編集部コメント

AIを悪用した多言語詐欺への対応

本イニシアチブは、現在の生成AIにおける重要なセキュリティ課題である、多言語化が進む詐欺やフェイクへの対策を目的としています。従来の詐欺検知システムの多くは、あらかじめ設定されたルールやキーワードリスト、個々のメッセージの分析に依存してきました。しかし、これらの手法では、ロマンス詐欺やなりすまし詐欺のように、長期間にわたるやり取りの中で展開されるパーソナライズされた多言語詐欺への対応が困難です。

そこで、本イニシアチブでは、最新の言語モデルや分類モデルの学習・活用を通じて、言語をまたいだ文脈上のパターンを特定し、より早期かつ信頼性の高い詐欺検知の実現を目指します。

Shisa.AIは、データセット開発、モデルの学習およびポストトレーニング、評価手法の設計・実装までを一貫して担う技術力を有しています。多言語モデルに関する豊富な専門知識に加え、近年取り組んでいるモデルセーフティ、バイアス低減、アライメントに関する知見を活かし、AI分野の技術開発を主導していく方針です。

オープンソース成果物を通じた国際連携

このパートナーシップは、これまでに実施されてきた数百件の暗号資産ロマンス詐欺事例に含まれる数万件の詐欺メッセージを対象とした研究をさらに発展・拡大するものです。プロジェクトの活動期間を通じて、Trust & Safetyチーム、AI開発者、消費者保護機関などが世界各地で活用できる、以下の5つのオープンソース成果物が提供される予定です。

Behavioral Manipulation Taxonomy v1 および実装ガイダンス（公開予定：2026年第4四半期）
多言語行動リスクデータセットおよび評価ベンチマーク（公開予定：2027年第2四半期）
詐欺防止のためのSafety by Designフレームワーク（公開予定：2027年第2四半期）
少なくとも3か国での参加型能力構築ワークショップ（実施予定：2027年6月）
少なくとも3つのグローバルパートナー組織とのパイロット実装（実施予定：2027年6月）

Shisa.AI共同創業者兼CTOのLeonard Lin氏は、「Shisa.AIは、『AIは日本の人々の生活を具体的により良いものにするべきである』という信念のもとに設立されました。私たち独自の強みを活かし、世界中の人々を詐欺や不当な操作からより良く守ることにつながるプロジェクトに貢献できることを、大変嬉しく思います。」と述べています。

日本、シンガポール、米国、英国、東南アジアなどの主要地域にまたがる国際連携を通じて、Shisa.AIは今後も、オープンソースのセーフティ基盤、Sovereign AI（主権AI）、そしてプライバシーを重視した実践的なAI防御技術の推進に継続して取り組んでいくとしています。

AI Workstyle Lab編集部コメント

今回のShisa.AIの取り組みは、企業がAIを導入・活用する上で不可欠な「信頼性」と「安全性」を担保する上で極めて重要な意味を持ちます。特に、顧客とのコミュニケーションにおいて生成AIを活用する企業にとっては、ロマンス詐欺やなりすましといった巧妙な手口から顧客を守るための防御策として、この技術が応用される可能性が高いでしょう。多言語対応が進むことで、グローバルビジネスを展開する企業は、より広範な市場で安全にAIを活用し、顧客エンゲージメントを高める機会を得られます。結果として、顧客からの信頼獲得や、詐欺によるブランドイメージ毀損リスクの低減に繋がり、長期的な収益性向上にも寄与すると考えられます。

📘 もっと基礎から学びたい人へ｜無料で参加できるAIセミナーまとめ

「AIニュースは追っているけど、何から学べばいいか分からない…」そんな初心者向けに、編集部が本当におすすめできる無料AIセミナーを厳選しました。

🔰【初心者向け】生成AIを基礎から学べる無料セミナーまとめ