制御や組込みの実務を積んできたエンジニアにとって、安全性の評価は馴染みのある仕事です。けれど、AIロボットの評価となると、どこまでが自分の経験の延長で、どこからが新しい領域なのか、輪郭がつかみにくいところがあります。AISIが2026年7月に公開したセーフティ評価観点ガイドは、その輪郭を具体的に描き直しています。目的・危害の分け方・原因の分析枠組み・現場の例まで、評価の全体像を順に見ていくと、自分の経験がどこで活きるかが見えてきます。この記事では、ガイドが示す評価の枠組みを、実務の言葉に置き換えて整理します。

1. 評価の対象は運用まで広がっている

「作る前」だけでなく「動かした後」まで見る

組み込みや制御の実務に長く関わってきた方であれば、安全性の話と聞くと、設計と検証の段階を思い浮かべることが多いのではないでしょうか。試験を終えて出荷すれば、評価の仕事は一区切りという感覚も根強くあります。

ところがAISIが公開したセーフティ評価観点ガイドを読むと、評価の対象がその先まで続いていることが分かります。目的として掲げられているのは、事業者がAIロボットのサービスやプロダクトの開発・設計・提供・運用を行えるようにすることです¹。

「提供」と「運用」が目的の文言にはっきり含まれている点は見落とされやすいところです。出荷検査を通過した時点で完了する仕事ではなく、現場で使われ続ける間もずっと関わり続ける仕事として設計されています。

評価の期間を運用まで広げるという考え方は、事故が起きてから見直すのではなく、使われている最中に評価を更新し続けるという発想に近いところがあります。導入した後の振る舞いまで含めて設計に組み込む姿勢が前提になっています。

開発段階の検証だけを担当してきた方にとっては、運用まで見るという範囲の広がりは、担当領域が増えるという意味にも受け取れます。裏を返せば、これまで検証止まりだった経験に、新しい役割を重ねられる余地があるということでもあります。

対象はプロダクトとサービスの両方

対象になるのはプロダクトそのものだけではありません。ガイドが扱う範囲には、AIロボットを使ったサービスの提供も含まれています。機体の性能だけでなく、サービスとして利用者に届く形までが評価の視野に入ります。

サービスまで含めるという設計は、実装した機能がどう使われるかを問う姿勢の表れでもあります。機体を動かす技術と、それを人に届ける仕組みは、別々の話ではなく同じ評価の中でつながっています。

サービスの提供まで含めて評価するとなると、利用者との接点を設計する担当者や、運用を続ける担当者の視点も欠かせなくなります。機体を作る技術と、それを届け続ける仕組みの両方を見渡す必要が出てきます。

検証を終えた瞬間に安全性の仕事が終わる、という感覚よりも、運用の間ずっと評価に関わり続ける、という感覚の方が、この分野の実務には近づきます。次の章では、評価の中身である危害の分け方を見ていきます。

2. 危害の分け方が変わった

ぶつかることだけが危害ではない

安全性というと、現場でまず思い浮かぶのは、機体が人や物にぶつからないかという物理的な話です。実務で長く安全設計に携わってきた方ほど、この感覚は強いはずです。

ガイドが示す危害の対象は、そこにとどまりません。物理的リスクに加えて、心理的リスクと社会的リスクを合わせた三類型として整理されています²。

想定ユースケースには、飲食物等を利用者に搬送するロボットが、音声による注文受付等を行う場面が挙げられています⁶。搬送という物理的な動きと、会話の受け取られ方という心理的な側面が、同じ場面の中に並んでいます。

物理的リスクだけを見ていると、周囲からの見え方や、利用者が感じる印象は評価の外側に置かれがちです。三類型として言葉が用意されたことで、これまで感覚的に語られてきた部分にも、扱う場所が与えられた形になります。

三つの類型を並べて見る

三類型を並べて見ると、評価の対象が機体の外側にまで広がっていることが分かります。物理的リスクは機体の動作や接触に伴う影響、心理的リスクは利用者が感じる不安や圧迫感、社会的リスクは受け止められ方や周囲への波及として捉えられます。

下の図1と表1では、この三類型を並べて示しています。制御や組込みの経験がある方にとって、物理的リスクの評価は馴染みがある領域のはずです。残りの二類型にどう向き合うかが、この仕事の新しさになります。

評価の対象が広がったからといって、物理的リスクの重みが軽くなるわけではありません。三類型はあくまで並列に扱われており、機体の安全設計が土台であることに変わりはないと捉えておくと、全体の位置づけがつかみやすくなります。

機体が安全に止まるかという問いよりも、利用者がその動きや声をどう受け止めるかという問いの方が、これからの評価では比重を増していきます。次の章では、この三類型を生む原因の側を見ていきます。

図の作成：Remogu編集部。AISI「セーフティ評価観点ガイド」が示す三類型をもとに整理したもので、統計データではありません

三つの類型を表で並べて比べる

物理的リスク・心理的リスク・社会的リスクは、評価の視点も、実際の場面に当てはめたときの例も異なります。下の表1では、三類型ごとに評価の視点と、飲食店の搬送・音声応対の場面に当てはめた例を並べました。図1で見た三つの山のどこに自分の経験が近いか、確かめながら読み進めてください。三つとも別々の技術で対応するのではなく、一つの評価の中で行き来する視点が求められます。

類型	評価の視点	この記事での例
物理的リスク	機体の動作や接触に伴う影響	配膳ロボットの移動経路
心理的リスク	利用者が感じる不安や圧迫感	音声での注文受付の話し方
社会的リスク	受け止められ方や周囲への影響	想定外の使われ方の広がり

3. 原因はロボット単体に閉じない

原因を機体だけに求めない

事故や不具合が起きたとき、原因をまず機体の設計や制御ソフトウェアに求める考え方は、これまでの安全評価では自然な出発点でした。

ガイドが示す分析の枠組みは、そこで止まりません。AI・ロボット・人間・社会という四つの要因による分析枠組みが提示されています³。

原因をロボット単体に閉じないという設計は、責任の範囲が一点に定まらないことも意味します。機体の不具合だけでなく、AIの判断、利用者の行動、社会の受け止め方まで含めて原因を探る形になります。

四要因という言葉は抽象的に響きますが、狙いは単純です。原因を一箇所に決めつけず、関わった全員で振り返るための共通の物差しを用意することにあります。

機体側の担当者からすると、原因の一部が人間や社会の側にあると位置づけられるのは、居心地の悪さを感じる部分かもしれません。ただし裏を返せば、機体の設計だけで安全性のすべてを背負わずに済む枠組みでもあります。

四つの要因がそれぞれ担う範囲

四つの要因を並べて見ると、これまで機体の担当者だけで完結していた評価に、AIの実装担当者や、利用者との接点を設計する担当者までが関わる形が見えてきます。

下の図2では、この四要因がそれぞれ独立した原因ではなく、現場で重なり合って一つのリスクとして立ち上がる様子を示しています。どこか一つを直せば片づく話ではありません。

四つの要因を評価の入口として使うと、事故報告の書き方も変わってきます。機体側の記録だけでなく、AIの判断ログや、利用者がどう行動したかまで、同じ枠組みの中で並べて記録する形になっていきます。

機体の不具合だけを見る評価よりも、AI・ロボット・人間・社会の重なりを見る評価の方が、これから求められる形に近づきます。次の章では、この重なりがなぜ従来の安全評価の枠を超えるのかを見ていきます。

図の作成:Remogu編集部。AISI「セーフティ評価観点ガイド」が示す四要因の枠組みをもとに整理したもので、統計データではありません

4. 機能安全の延長では届かない理由

機能安全が見てきた範囲

機能安全という考え方は、機体が安全に停止する、危険な領域に力を及ぼさない、といった物理的な危害への対応を長く支えてきました。制御や組込みの実務では、最も土台になる部分です。

ガイドはこの土台を否定しません。主に物理的な危害に対する機能安全に加えて、AIによる認識や学習等に起因して生じ得るリスクへの対応が求められると述べています⁴。

「加えて」という言葉が示す通り、機能安全を置き換えるのではなく、その先に新しい評価の層を積み増す形です。従来の枠組みをそのまま延長しても、この新しい層には届かないという認識が出発点にあります。

機能安全の基準は、長年の実績を通じて磨かれてきたものです。だからこそ、その延長線上で新しい課題も解決できるはずだ、という期待を持ちやすいところがあります。

認知から行動までをAIが担う

なぜ延長だけでは届かないのか。背景にあるのは、認知から判断、行動までの一連の知的処理をAIが担うようになったという前提です⁵。

状況を認識する、対応を選ぶ、機体を動かす。この三段階のすべてにAIが関わるようになると、評価の対象は機体の出力だけでなく、その手前にある判断の過程にまで広がります。

認知・判断・行動のどこか一段階だけをAIが担うのであれば、従来の枠組みの手直しで済んだ可能性もあります。三段階のすべてに関わるようになったことが、評価の層を積み増す必要につながっています。

組込み系のエンジニアであれば行動の段階、AI実装のエンジニアであれば認知や判断の段階に、まず馴染みがあるはずです。三段階を一続きのものとして捉え直すところに、この評価ならではの視点が求められます。

止まれるかどうかを見る評価よりも、なぜその判断に至ったかを見る評価の方が、これからの実務では比重を増していきます。下の図3と表2に、この違いを並べています。

図の作成:Remogu編集部。AISI「セーフティ評価観点ガイド」が示す一連の知的処理をもとに整理したもので、統計データではありません

従来の機能安全と追加で必要な視点を並べる

機能安全と、ガイドが新たに示す視点は、対象とする危害・想定する処理・評価のタイミングという三つの観点で違いが見えてきます。下の表2は、この二つを並べたものです。自分がこれまで担当してきた範囲がどちらに当たるか、読み替えの手がかりにしてください。片方だけを深める必要はなく、両方を行き来できる視点が評価の実務では重宝されます。

観点	従来の機能安全	追加で必要な視点
対象とする危害	物理的な危害が中心	AIの認識・学習に起因するリスクを含む4
想定する処理	機体の動作と停止の制御	認知から判断、行動までの知的処理5
評価のタイミング	主に開発時の検証	提供や運用まで含めた確認1

5. 現場の例で考える

一つの場面に二つの評価軸が同居する

枠組みだけを説明されても、実務にどうつながるのかは見えにくいものです。ガイドが挙げる想定ユースケースを見ると、評価の広がりが具体的に分かります。

想定ユースケースの一つに、飲食物等を利用者に搬送するロボットが、音声による注文受付等を行う場面があります⁶。

想定ユースケースが具体的に書かれているのは、評価する側が抽象的な議論だけで終わらないようにするための工夫でもあります。現場の場面から逆算して、評価の観点を確認できる形になっています。

搬送という動きは物理的リスクの評価に、音声での注文受付は心理的リスクや社会的リスクの評価に関わります。一つの場面の中に、複数の評価軸が同居しています。

飲食店という設定も手がかりになります。利用者との距離が近く、やり取りが日常的に発生する場面だからこそ、物理的な安全と、心理的・社会的な受け止められ方の両方が、同時に問われる形になっています。

自分の経験がどこで効くか

制御や組込みの実務を積んできた方であれば、搬送の経路計画や停止の判断には馴染みがあるはずです。そこに、音声のやり取りが利用者にどう受け止められるかという視点が加わります。

音声応対の設計や、AIの実装に関わってきた方であれば、逆に物理的な安全設計の側が新しい領域に見えるかもしれません。どちらの経験も、この評価の一部を支えます。

一つの場面を評価するときも、物理的リスクの担当者と、心理的・社会的リスクの担当者が別々に見て終わるのではなく、同じ場面として突き合わせる進め方が求められます。

機体の動きだけを見る評価よりも、動きと会話の両方を同じ場面として見る評価の方が、この仕事の実像に近いといえます。下の図4に、この場面を整理しています。

図の作成:Remogu編集部。AISI「セーフティ評価観点ガイド」が示す想定ユースケースをもとに整理したもので、統計データではありません

6. 版が動く前提で関わる

確定した基準ではなく動き続ける文書

評価の基準は、一度決まれば固定される、というイメージを持つ方もいるはずです。しかし、このガイドはそうした性質のものではありません。

産・学・官の連携を前提としたリビングドキュメントとして位置づけられています⁷。連携を前提にしているという点は、この先も内容が動き続けることを示しています。

バージョンが動くという前提は、身構えるほど難しいものではありません。評価の対象や視点が少しずつ更新されていく、というだけのことで、日々の実務では最新版を確認する習慣を持てば済みます。

確定した基準に合わせるだけの仕事ではなく、評価できる形を関係者と一緒に作っていく仕事に近づきます。版が変わることを、混乱ではなく前提として受け止める姿勢が求められます。

完成した仕様書を正確になぞる仕事よりも、産・学・官のあいだで積み上がっていく議論を追いながら評価の形を整えていく仕事の方が、この分野では長く求められていきます。

別冊が実務の手がかりになる

実務で参照する手がかりも用意されています。重要となる評価手法を概説した解説書が、別冊として整えられています⁸。

本体が評価の枠組みを示し、別冊が具体的な進め方を補う。この役割分担を知っておくと、実際に評価に関わる場面で、どちらを参照すればよいかに迷いにくくなります。

別冊が用意されているという事実は、評価の枠組みを示すだけで終わらせず、実務で使える形にまで踏み込もうとしている姿勢の表れでもあります。関わる案件の幅は、この分野が育っていくほど広がっていくはずです。

固定された基準を覚える仕事よりも、動き続ける前提と付き合いながら評価の形を作っていく仕事の方が、これからの案件では増えていきます。下の表3に、本体と別冊の役割を並べています。

位置づけ	内容	実務での使い方
本体（評価観点ガイド）	産学官の連携を前提に更新される評価観点7	評価の枠組みを確認する
別冊（解説書）	重要となる評価手法を概説8	具体的な評価の進め方を参照する

7. よくある質問

AIロボットのセーフティ評価は、具体的にどんな仕事になりますか

危害の対象を物理的・心理的・社会的の三類型で捉え²、原因をAI・ロボット・人間・社会の四要因から分析する仕事です³。機体の検証だけでなく、開発から提供・運用までを見渡す視点が求められます¹。制御・組込み・AI実装のどこか一つの経験だけで完結する仕事ではなく、複数の視点を重ねながら進めていく仕事になります。

従来の機能安全の知識だけでは対応できませんか

機能安全の知識は土台として引き続き生きます。そのうえで、AIによる認識や学習に起因するリスクへの対応が加わります⁴。認知から判断、行動までを担うAIの役割を踏まえた視点を重ねる形になります⁵。

制御や組込みの経験は、この評価でどう活きますか

搬送などの物理的な安全設計の経験は、三類型のうち物理的リスクの評価に直接つながります⁶。そこにAIや音声応対の視点を重ねていくことで、評価に関われる範囲が広がっていきます。

この分野に関わる案件は、どこで確かめられますか

Remoguはリモート案件に特化したエンジニアマッチングです。AI・ロボティクスの評価観点に関わる案件は時期によって変わるため、一覧をながめて終わるよりも、まず登録して自分の経験に近い条件を確かめてみる方が、次の一歩につながりやすくなります。

※公開中の案件数は時期によって変わります。記事中の案件の傾向は執筆時点のものです。

出典・参考情報

＊1 AISI「セーフティ評価観点ガイド」目的（2026年7月）
＊2 AISI「セーフティ評価観点ガイド」第3章（2026年7月）
＊3 AISI「セーフティ評価観点ガイド」第3章（2026年7月）
＊4 AISI「セーフティ評価観点ガイド」背景（2026年7月）
＊5 AISI「セーフティ評価観点ガイド」背景（2026年7月）
＊6 AISI「セーフティ評価観点ガイド」ユースケース（2026年7月）
＊7 AISI「セーフティ評価観点ガイド」位置づけ（2026年7月）
＊8 AISI「セーフティ評価観点ガイド」別冊（2026年7月）