MakeSomethingNewが描く、大企業のAI活用新時代：社内LLM基盤がもたらす統制とセキュリティの未来

企業における生成AI活用の現状と課題

現在、多くの企業でChatGPTなどの生成AI活用が進んでいます。しかし、個人利用や部門単位の試験導入から、業務システムや社内ナレッジ、ワークフローと接続した本格運用へと移行する中で、以下のような課題が顕在化しています。

• 利用者ごとの権限管理が複雑化する

• モデルごとのコストやレイテンシ（応答速度）の管理が困難になる

• 監査ログの取得や管理体制の整備が追いつかない

• 障害発生時の代替ルート確保が難しい

• AI Agentが社内APIや社内データへ安全に接続するための設計が複雑

こうした課題に対し、MakeSomethingNewは、生成AI活用支援、AI Agent構築支援、Web開発の知見を活かし、企業が安全にLLMを業務利用できる共通基盤の設計・構築を支援します。

サービスの主な特徴

本サービスは、以下の4つの主要な特徴により、企業における生成AIの安全かつ効率的な利用を促進します。

1. 社内IDと連携した認証認可

Entra IDなどの社内ID基盤と連携することで、ユーザー、部門、アプリケーションロールに応じた利用可能なモデルや用途の制御を実現します。これにより、個別の利用拡大を抑制しつつ、企業全体の統制に沿った生成AI活用が可能になります。

2. 複数LLMプロバイダーへのルーティング

Azure OpenAI、OpenAI API、Groqといった複数のLLMプロバイダーを統合し、モデルの特性、レート制限、応答速度、コスト、障害状況に応じてリクエストを自動的に振り分けます。特定のモデルやリージョンで障害が発生した場合でも、自動で代替先へ切り替えることで業務への影響を最小限に抑えます。

3. 利用ログ・監査ログの可視化

ユーザー、部門、アプリケーション、モデル単位で、トークン使用量、レイテンシ、エラー、コストを詳細に追跡・可視化します。これにより、運用チーム、セキュリティ部門、事業部門が共通のログを参照しながら、利用状況の把握、改善策の検討、監査対応を効率的に実施できる環境を構築します。

4. AI Agent構築に必要な社内接続基盤

LLM APIを単に中継するだけでなく、AI Agentが参照する社内データ、実行するツール、呼び出す業務APIを管理可能な形で接続します。これにより、開発チームは認証、ログ、ルーティングといった共通機能の実装に時間を費やすことなく、各業務に特化したAI Agentの設計と開発に集中できます。

想定される導入シーン

本サービスは、以下のような企業や部門での活用が想定されています。

• 全社的な生成AI活用を進めたいが、セキュリティや監査面に課題を抱える企業

• 複数の部門でAI Agentの導入を検討している企業

• Azure OpenAI、OpenAI、Groqなど、複数のLLMを用途別に使い分けたい企業

• 社内チャット、業務システム、ナレッジベースにLLM機能を組み込みたい企業

• LLMの利用量、コスト、レイテンシ、エラーを一元的に可視化し、管理したい企業

MakeSomethingNew株式会社について

MakeSomethingNew株式会社は、「新しい何かを創造する」を理念に掲げ、NPO向けシステム開発、生成AI活用支援、Web開発を提供しています。生成AI・LLMを活用したWebサービス開発、AI Agent構築、プロンプトエンジニアリング、業務システムへのAI組み込みなどを通じて、企業・組織の新しい事業開発と業務改善を支援しています。

関連情報

• 社内LLM基盤構築サービス詳細：https://llm-infra.makesomethingnew.jp/

• MakeSomethingNew株式会社 公式サイト：https://makesomethingnew.jp/

AI Workstyle Lab編集部コメント

MakeSomethingNew株式会社が提供する社内LLM基盤構築サービスは、大企業が直面する生成AI活用のビジネス課題に対し、具体的な解決策を提示しています。認証認可や負荷分散、利用ログの標準化は、単なる技術的要件に留まらず、企業全体のガバナンス強化とコスト最適化に直結します。特に、複数のLLMプロバイダーを柔軟に使い分けられるルーティング機能は、ビジネス要件の変化に迅速に対応し、常に最適なAIモデルを選択できる点で大きなメリットとなるでしょう。これにより、企業はAI活用のリスクを管理しつつ、イノベーションを加速させることが期待されます。

生成AI学習に取り残されないために…
ChatGPTなどの生成AIを使いこなして、仕事・収入・時間の安定につながるスキルを身につけませんか？

AI Workstyle LabのAIニュースをチェックしているあなたは、すでに一歩リードしている側です。あとは、 実務で使える生成AIスキルを身につければ、「知っている」から「成果を出せる」状態へ一気に飛べます。

PR｜生成AIスクール

🧠 実践型 生成AIスクール「スタートAI」

講師：栗須俊勝（AI総研）
30社以上にAI研修・業務効率化支援を提供。“大阪の生成AIハカセ”として企業DXを牽引しています。

• 日々の業務を30〜70％時短する、実務直結の生成AI活用法を体系的に学べる
• 副業・本業どちらにも活かせる、AI時代の「稼ぐためのスキルセット」を習得
• 文章・画像・資料作成など、仕事も趣味もラクになる汎用的なAIスキルが身につく

ニュースを読むだけで終わらせず、
「明日から成果が変わるAIスキル」を一緒に身につけましょう。

無料セミナーに今すぐ参加する 編集部レビューを見る