生成AI搭載ロボットの安全性とは？Forcesteed Roboticsと産総研が発表した配膳ロボットのリスク検証を解説

生成AI搭載ロボットの安全性、産総研とForcesteed Roboticsが共同論文発表

AI・画像認識・ロボティクスの研究開発を行う株式会社Forcesteed Robotics（以下、Forcesteed Robotics）は、国立研究開発法人産業技術総合研究所（以下、産総研）の研究者らと共同で、生成AIを活用したフィジカルAI搭載屋内搬送ロボットのリスク抽出と低減方策に関する研究成果を論文としてまとめました。

この研究成果は、「生成AIを用いたフィジカルAI搭載屋内搬送ロボットにおけるリスクの抽出とリスク低減方策」と題し、日本ロボット学会で発表されます。本研究では、ファミリーレストランでの配膳業務を想定し、3Dシミュレーションと実機を用いた模擬環境の両方で、生成AIを活用する屋内搬送ロボットの動作を検証しました。単に目的地まで移動できるかだけでなく、人や障害物への対応、周囲の状況に応じた行動、従業員と来店客の指示の違いなど、実際のサービス現場で起こり得る様々な場面が検証対象となっています。

Forcesteed Roboticsは、本研究における屋内搬送ロボットを用いた検証実験を担当しました。

研究の背景と目的

生成AIは、文章や画像を生成するだけでなく、カメラやセンサーから得た情報を理解し、ロボットの行動を判断する「フィジカルAI」へと応用範囲を広げています。フィジカルAIは、人手不足への対応や業務の自動化に貢献すると期待されています。

しかし、生成AIの認識や判断に誤りや遅れが生じた場合、その結果は画面上の情報にとどまらず、ロボットの停止、移動、回避といった現実空間での動作に直結します。特に、飲食店や商業施設のように人とロボットが共存する空間では、人の動きや物の配置が常に変化するため、安全性の確保が重要です。目的地への移動だけでなく、周囲の人や物を正しく認識できるか、異常時に停止・復旧できるか、誰からの指示を優先するかといった多角的な安全確認が求められます。

本研究では、ファミリーレストランでの配膳という具体的な利用場面を設定し、生成AIを搭載した屋内搬送ロボットにどのようなリスクが生じ得るのか、そしてそのリスクをどのように低減すべきかを検討しました。

検証内容と知見

研究では、3Dシミュレーション環境と、産総研内に構築されたファミリーレストランを想定した模擬環境が使用されました。主に以下の場面が検証されています。

• 厨房からテーブルまでの基本的な搬送

• 進行方向の人や、横切ろうとする人への対応

• 子どもが手を振るなど、周囲の状況に応じたサービス

• 従業員と来店客からの指示を区別する権限管理

また、ロボットの動作だけでなく、生成AIが周囲をどのように認識し、どのような判断をしたのかを確認できる構成となっていました。これにより、期待した動作に至らなかった場合に、環境認識、生成AIの判断、ロボット制御のどの段階に原因があったのかを切り分けながら検証が進められています。

検証の結果、シミュレーションと現実環境の違い、ロボット自身の大きさや可動範囲、周囲の環境、AIによる認識と判断の組み合わせによって、期待した動作に至らない場合が確認されました。個別の検証結果およびリスク低減方策の詳細は、日本ロボット学会で報告される予定です。

発表概要

• 学会名: 日本ロボット学会

• 論文題目: 生成AIを用いたフィジカルAI搭載屋内搬送ロボットにおけるリスクの抽出とリスク低減方策

• 発表者: 難波 孝彰（国立研究開発法人産業技術総合研究所）

• 発表日: 2026年9月3日 10：40 〜

• 会場: 金沢大学 自然科学本館（金沢市角間町）

• URL: https://ac.rsj-web.org/2026/

共同論文の著者

• 難波 孝彰（国立研究開発法人産業技術総合研究所）

• 岩瀬 優太（アドソル日進株式会社、産総研へ出向し参画）

• 月田 裕樹（株式会社Forcesteed Robotics）

• 大澤 弘幸（株式会社Forcesteed Robotics）

• 小西 弘一（国立研究開発法人産業技術総合研究所）

今後の展望

今後は、今回の検証で得られた知見をもとに、異常発生時の復旧時間の短縮、人の行動予測、ロボット自身の状態把握、認識結果の信頼度を踏まえた判断などについて、追加の検証が進められる予定です。

Forcesteed Roboticsについて

株式会社Forcesteed Roboticsは、「世の中の駆動系に人工意識FSR-ACを統合し、機械と人が協調して新たな価値を生み出す未来を創る」をミッションに掲げ、AI・画像認識・ロボティクスの研究開発および社会実装に取り組んでいます。現在、30社以上の企業・研究機関と連携し、Agentic Visionを中核技術としたPhysical AI・ロボティクスの研究開発を推進しています。

ロボット向けAIアプリケーション「Luqua」「ARIA」「AKASHI」「LEIVOR」の開発に加え、ロボットプラットフォーム「Guardian」、3Dロボットシーンビルダ「3dbuilder」を展開し、製造・物流・点検・サービスなど幅広い分野でAI・ロボティクス技術の実用化を進めています。

また、Webサイトでは、研究開発の取り組みや論文調査・再現検証、デモ動画、自社技術・アプリケーションの紹介などを技術トピックスとして継続的に公開しています。

• Forcesteed Robotics 技術紹介: https://www.forcesteed.com/technology/

• Webサイト: https://www.forcesteed.com/

国立研究開発法人産業技術総合研究所について

国立研究開発法人産業技術総合研究所（産総研）は、産業技術に関わる研究を主な事業内容としています。

• Webサイト: https://www.aist.go.jp/

AI Workstyle Lab編集部コメント

今回の共同論文は、生成AI搭載ロボットの社会実装における具体的な課題と、その解決に向けた道筋を示しています。特にファミリーレストランでの配膳業務を想定した検証は、サービス業における人手不足解消への期待が高まる中で、ロボット導入を検討する企業にとって重要な指針となるでしょう。安全性と信頼性の確保は、ビジネスでのAIロボット活用を加速させる上で不可欠であり、今回の知見は様々な分野での応用可能性を秘めていると分析しています。

生成AI学習に取り残されないために…
ChatGPTなどの生成AIを使いこなして、仕事・収入・時間の安定につながるスキルを身につけませんか？

AI Workstyle LabのAIニュースをチェックしているあなたは、すでに一歩リードしている側です。あとは、 実務で使える生成AIスキルを身につければ、「知っている」から「成果を出せる」状態へ一気に飛べます。

PR｜生成AIスクール

🧠 実践型 生成AIスクール「スタートAI」

講師：栗須俊勝（AI総研）
30社以上にAI研修・業務効率化支援を提供。“大阪の生成AIハカセ”として企業DXを牽引しています。

• 日々の業務を30〜70％時短する、実務直結の生成AI活用法を体系的に学べる
• 副業・本業どちらにも活かせる、AI時代の「稼ぐためのスキルセット」を習得
• 文章・画像・資料作成など、仕事も趣味もラクになる汎用的なAIスキルが身につく

ニュースを読むだけで終わらせず、
「明日から成果が変わるAIスキル」を一緒に身につけましょう。

無料セミナーに今すぐ参加する 編集部レビューを見る