LLM活用における課題と背景
生成AIの普及に伴い、多くの企業が新規サービス開発や業務効率化にLLMの活用を検討しています。しかし、実際にLLMをWebサービスや業務システムに組み込む段階では、以下のような課題に直面することが少なくありません。
-
どのLLMを選べば良いか判断が難しいです。
-
モデルごとの精度、速度、コストの違いを比較しにくいです。
-
プロンプト作成が個人の経験に依存しがちです。
-
プロンプトの改善履歴や評価結果が管理されていません。
-
開発環境では動作しても、本番環境での品質が安定しないことがあります。
-
LLMの出力を業務フローや既存システムにどのように連携させるべきか不明確です。
LLM活用は「チャットで試す」段階から、「業務やサービスに組み込み、継続的に改善する」段階へと移行しつつあります。この移行を成功させるためには、モデル選定とプロンプトエンジニアリングを開発プロセスに組み込むことが重要です。
主要LLMの比較調査結果
MakeSomethingNewが実施した調査では、WebサービスへのLLM組み込みを想定し、主要なLLMが比較・検証されました。この調査結果は、以下のリンクから確認できます。
調査の結果、LLM実装においては「常に最も高性能なモデルを使う」のではなく、応答時間を考慮しながらモデルを使い分けることが重要であることが示されました。例えば、複雑な判断や高精度な文章生成には高性能モデルが適していますが、定型的な分類、要約、情報抽出、簡易な問い合わせ対応などでは、速度やコストに優れたモデルの活用が現実的です。
また、Webサービスへの組み込みでは、単発の回答精度だけでなく、応答速度、失敗時のリトライ設計、プロンプトのバージョン管理、ログ分析、評価データの蓄積など、継続的な改善を前提とした設計が求められます。
無償提供されるプロンプトエンジニアリングツール
今回無償提供が開始されたプロンプトエンジニアリングツールは、LLMをWebサービスや業務システムに組み込む際に必要となる、プロンプトの作成、比較、改善を支援します。ツールの詳細はこちらで確認できます。
このツールの主な機能は以下の通りです。
-
プロンプトの作成・保存機能
-
複数プロンプトの比較機能
-
モデルごとの出力結果確認機能
-
プロンプト改善履歴の管理機能
-
Webサービス組み込みを想定した一括確認機能
これにより、開発者や事業担当者は、プロンプトを個人の経験に頼ることなく、チームで検証・改善しながらLLM実装を進めることが可能になります。
支援するLLM実装領域と今後の展開
MakeSomethingNewは、今回の調査結果と無償ツールの提供に加え、企業のLLM活用に関して以下の領域を支援しています。
-
LLMを活用したWebサービス開発
-
既存サービスへのLLM機能の組み込み
-
AIエージェントの設計・開発
-
社内データ・業務システムとの連携
-
RAG（検索拡張生成）構成の設計・実装
-
プロンプト設計・評価・改善
-
モデル選定・コスト最適化
-
PoC（概念実証）から本番導入までの伴走支援
同社は、生成AIを単なる実験で終わらせず、実際のサービスや業務フローに組み込み、継続的に価値を生み出す仕組みとして導入できるよう支援していくとしています。
今後は、LLMを活用したWebサービス開発、AIエージェント構築、業務システム連携、プロンプトエンジニアリング支援をさらに強化していく予定です。また、業種別・業務別のLLM活用テンプレートや、モデル選定・プロンプト評価に関する情報発信を継続し、企業が生成AIを安全かつ効果的に導入できる環境づくりを支援していく方針です。
MakeSomethingNew株式会社について
-
会社名: MakeSomethingNew株式会社
-
代表者: 代表取締役 杉山英一
-
事業内容: AIエージェント構築支援、AI活用支援、LLM実装支援、システム企画・開発支援
AI Workstyle Lab編集部コメント
MakeSomethingNewの今回の発表は、LLMのビジネス活用が「試行錯誤フェーズ」から「実運用フェーズ」へと移行している現状を明確に示しています。無償提供されるプロンプトエンジニアリングツールは、特に中小企業やスタートアップにとって、LLM導入のハードルを下げる重要な役割を果たすでしょう。モデル選定の指針やプロンプト管理のベストプラクティスが提供されることで、業務効率化や新規サービス開発の加速に直結します。今後は、業種特化型のテンプレートや具体的な成功事例がさらに共有されることで、より多くの企業がAIを競争力に変える機会を得られると期待されます。
「AIニュースは追っているけど、何から学べばいいか分からない…」 そんな初心者向けに、編集部が本当におすすめできる無料AIセミナーを厳選しました。
- 完全無料で参加できるAIセミナーだけを厳選
- ChatGPT・Geminiを基礎から体系的に学べる
- 比較しやすく、あなたに合う講座が一目で分かる
ChatGPTなどの生成AIを使いこなして、仕事・収入・時間の安定につながるスキルを身につけませんか？
AI Workstyle LabのAIニュースをチェックしているあなたは、すでに一歩リードしている側です。あとは、 実務で使える生成AIスキルを身につければ、「知っている」から「成果を出せる」状態へ一気に飛べます。
講師：栗須俊勝（AI総研）
30社以上にAI研修・業務効率化支援を提供。“大阪の生成AIハカセ”として企業DXを牽引しています。
- 日々の業務を30〜70％時短する、実務直結の生成AI活用法を体系的に学べる
- 副業・本業どちらにも活かせる、AI時代の「稼ぐためのスキルセット」を習得
- 文章・画像・資料作成など、仕事も趣味もラクになる汎用的なAIスキルが身につく
ニュースを読むだけで終わらせず、
「明日から成果が変わるAIスキル」を一緒に身につけましょう。
本記事は、各社の公式発表および公開情報を基に、AI Workstyle Lab編集部が 事実確認・再構成を行い作成しています。一次情報の内容は編集部にて確認し、 CoWriter（AI自動生成システム）で速報性を高めつつ、最終的な編集プロセスを経て公開しています。
