自治体向けAI「QommonsAI」新機能：個人情報自動検知と禁止ワードブロックで情報漏洩を徹底防止

ルールを「技術的な仕組み」へ昇華させる多層防御機能

全国の自治体で生成AIの導入が進む中、その利活用をさらに推進するためには、情報管理ルールをシステムとして実装し、職員が安心してAIを活用できる環境を整えることが不可欠です。多くの自治体では利用ガイドラインを策定していますが、その運用は職員個人の意識に委ねられているのが現状です。QommonsAIは、このルールの実効性を「紙の規定」から「技術的な仕組み」へと引き上げることを目指しています。

今回搭載される「個人情報自動検知」「禁止ワードブロック」「検知・ブロックログ」の3層防御機能は、「職員一人ひとりの判断に頼らず、システムとして漏洩を防ぐ」環境を実現します。これにより、自治体は情報漏洩のリスクを最小限に抑えながら、生成AIの積極的な活用を推進できるようになります。

QommonsAIの3層防御の仕組み

QommonsAIの情報ガバナンス機能は、「検知→遮断→記録」の3段階で機密情報の流出を防止します。

第1層：個人情報自動検知

職員がプロンプトを入力した時点で、氏名やマイナンバーなどの個人情報パターンをリアルタイムで自動的に検知します。検知時の動作は、機密情報の種類に応じて「警告のみ（職員への注意喚起）」と「送信ブロック（AIへの送信そのものを遮断）」を個別に設定可能です。例えば、マイナンバーは即時ブロック、氏名は警告表示といった段階的な運用ルールを、管理者が柔軟に設定できます。

第2層：禁止ワードブロック

管理者が任意の禁止ワードを100個以上登録できる機能です。登録された語句を含む入力は、AIへの送信そのものがシステムレベルでブロックされます。非公開の政策プロジェクト名や内部検討中の施設名称、人事関連の固有名詞など、組織固有の機密情報を柔軟に保護対象として登録できます。これにより、ガイドラインの記載だけでなく、システム上での強制的な適用が可能となります。

第3層：検知・ブロックログ

個人情報検知および禁止ワードブロックの全履歴を、管理者がログとして閲覧できます。「いつ、誰が、どのような情報を入力しようとし、システムがどう対応したか」を時系列で確認できるため、庁内ガバナンスの継続的なモニタリングが可能です。また、既存のログ管理機能と連携し、入出力ログのCSV形式での出力にも対応しており、情報セキュリティ監査や内部統制の報告資料としても活用できます。

利活用推進と情報保護の両立を実現

生成AIの導入において、多くの自治体が「利活用の推進」と「情報漏洩の防止」という相反する課題に直面しています。QommonsAIは、このジレンマに対し「職員個人の注意力」ではなく、「組織としての仕組み」で解決するアプローチを提供します。管理者は、自治体ごとの情報セキュリティポリシーに合わせて検知対象やログ保持ルールをカスタマイズできるため、業務実態に即した柔軟なガバナンス設計が可能です。

自治体業務における想定活用シーン

• 住民対応課：住民からの問い合わせ対応文を生成する際、窓口で取得した氏名・住所が意図せずプロンプトに混入することを自動検知し警告します。

• 税務課・福祉課：マイナンバーを含む業務文書の要約作成時、マイナンバー部分を即時ブロックし、番号を除外したうえでの再入力を促進します。

• 人事課：人事異動情報や内部評価に関連する禁止ワードを登録し、非公開情報の流出を防止します。

• 情報政策課：検知・ブロックログを定期的にレビューし、庁内のAI利用状況を把握。情報セキュリティ委員会への報告資料としてCSV出力を活用します。

• 全庁共通：生成AI利用ガイドラインの「個人情報入力禁止」規定を、紙の規定からシステム制御に移行し、ルールの実効性を担保します。

QommonsAIについて

Polimill株式会社が開発・提供・運用する行政向け生成AI「QommonsAI」は、国内外の法律・政策・論文・自治体事例など数千万件以上のデータを基に、エビデンスベースで自治体課題の解決を支援します。2026年3月時点で全国700以上の自治体・約25万人が利用しており、議会対応、政策立案、住民対応、広報業務など幅広い業務で活用されています。

OpenAI・Anthropic・Google・Preferred Networksの主要4社から厳選した12モデルを搭載し、用途に応じて最適なAIを選択できる環境を提供しています。すべての自治体へ代理店を介さない直販体制で提供しており、サービスリリース以来、導入先の全自治体で現地での導入研修および初級・中級研修を無償で実施中です。また、自治体現場からの要望を数日でサービスに反映するアジャイル開発体制を敷いており、行政の「いま必要な機能」を圧倒的なスピードで届け続けています。

QommonsAIの詳細については、公式サイトをご覧ください。

• QommonsAI 公式サイト

• Polimill株式会社 コーポレートサイト

AI Workstyle Lab編集部コメント

今回のQommonsAIのアップデートは、自治体職員が生成AIをより安心して業務に活用できるようになるという点で、非常に大きなメリットをもたらします。個人情報の自動検知や禁止ワードブロックといった機能は、誤操作による情報漏洩リスクを大幅に低減し、職員は本来の業務に集中しやすくなるでしょう。特に、マイナンバーのような厳重な管理が求められる情報を扱う部署では、システムによる自動遮断が安心感につながります。一方で、禁止ワードの設定や検知レベルの調整は、各自治体の業務実態に合わせて慎重に行う必要がある点も忘れてはなりません。適切な設定が、AI活用の効果を最大化する鍵となります。

生成AI学習に取り残されないために…
ChatGPTなどの生成AIを使いこなして、仕事・収入・時間の安定につながるスキルを身につけませんか？

AI Workstyle LabのAIニュースをチェックしているあなたは、すでに一歩リードしている側です。あとは、 実務で使える生成AIスキルを身につければ、「知っている」から「成果を出せる」状態へ一気に飛べます。

PR｜生成AIスクール

🧠 実践型 生成AIスクール「スタートAI」

講師：栗須俊勝（AI総研）
30社以上にAI研修・業務効率化支援を提供。“大阪の生成AIハカセ”として企業DXを牽引しています。

• 日々の業務を30〜70％時短する、実務直結の生成AI活用法を体系的に学べる
• 副業・本業どちらにも活かせる、AI時代の「稼ぐためのスキルセット」を習得
• 文章・画像・資料作成など、仕事も趣味もラクになる汎用的なAIスキルが身につく

ニュースを読むだけで終わらせず、
「明日から成果が変わるAIスキル」を一緒に身につけましょう。

無料セミナーに今すぐ参加する 編集部レビューを見る