- ロボットAI安全フレームワーク「AEGIS」、オープンソースで公開
- Apache 2.0ライセンス電撃公開
韓国のスタートアップYATAV（ヤタブ）が世界最大のモバイル関連見本市「MWC2026」でロボットAIの安全のための安全ネットワークを公開した。
NVIDIA（エヌビディア）をはじめとするグローバルビッグテックの「ワールドモデル(World Model)」ベースのロボットAIの開発が加速する中、業界では安全の問題が指摘されている。チャットボットが誤った答えをすれば間違った情報が流れるように、ロボットが誤った動きをすれば、人が怪我をするからだ。
これに対し、YATAVが公開したシミュレーションデモンストレーションは、こうしたリスクをはっきりと示した。攻撃者がロボットのカメラへの入力に、肉眼では見えない微細なノイズを注入すると、ロボットは関節が許容範囲を超えて異常にねじれたり、突然速い速度で動いたりして「瞬間移動」する現象を見せる。自己回帰(Autoregressive)の推論過程でエラーが幾何級数的に増幅されるからだ。
ワールドモデルはロボットがカメラの映像と動作の命令に基づき、「次に何が起こるのか？」を予測するAI技術だ。実際の環境で試行錯誤することなくシミュレーションで安全に学習することができ、次世代ロボティクスの核になると注目されている。しかし、このシステムは敵対的攻撃(Adversarial Attack)には構造的に脆弱（ぜいじゃく）であるというのが業界の説明だ。
YATAVの報告によると、ワールドモデルベースのロボットシステムには「△NaN注入攻撃:ロボット関節命令に 『Not a Number』の値を挿入→ロボットが完全に動作不能△関節限界超え:物理的に不可能な角度命令→ロボットの関節損傷または周りで人命被害△速度急変攻撃:瞬間的に極端な速度変化→予測不可能な動きで衝突事故△自己回帰ドリフト:時間が経つと累積する細かなエラー→漸進的軌道の離脱で作業失敗または事故」という4つの致命的な攻撃のシナリオが存在する。
特に危険なのは自己回帰特性だ。ワールドモデルは、前のフレームの予測を次のフレームへの入力に使用する。1つの小さなエラーが次の段階で増幅し、そのエラーが次の段階に影響を与え、雪だるま式に大きくなる。このようなリスクがあるにも関わらず、ロボットAIの安全基準は依然として存在しない状況だ。
YATAVが今回公開した「AEGIS DreamDojo Guard SDK」は、ロボットのワールドモデル専用の安全フレームワークだ。NVIDIAのロボットシミュレーションプラットフォーム「DreamDojo」に特化しており、ロボットAI推論の前後の段階で作動する5重ガードシステムで構成されている。
YATAV提供
YATAVが公開したブラウザベースの3Dシミュレーションでは、保護されていないロボットはNaN注入攻撃で完全に動作不能になった。関節の限界を超えた際に異常にねじれ、速度が急変する攻撃には瞬間移動現象を見せた。
一方、AEGISで保護されたロボットは、全ての攻撃をリアルタイムで検出し、安全に停止した。関節は安全の範囲内に制限され、速度変化はスムーズに補間処理されたほか、自己回帰ドリフトはリアルタイムに補正された。
また、YATAVはApache 2.0ライセンスオープンソースを公開した。YATAVのカン・ソクジュCISOはRust言語でAEGISを開発し、メモリの安全性と高性能を確保した。Apache 2.0ライセンスは、Fourier GR1、Unitree G1、Galaxea YAM、AgiBotなどの主要ロボットプラットフォームをサポートし、カスタムロボットの設定も可能だ。たった3行のコードで簡単にロボットの動作の安全を検証できることが特徴だ。
YATAVのキム・グァンイルCTOは「AEGISは安全は特権ではなく基本権という信念の下、AIの安全リスクを同時研究して解決していく超格差専用安全フレームワークだ」と話した。
YATAVはオープンソースの公開を通じて、グローバル研究コミュニティと共に、エンボディード(Embodied)AIの安全基準を作っていくというビジョンを提示した。オープンソースSDKのほか、ウェルフォード(Welford)ストリーミングの分散分析、ピアソン相関分析、スペクトラム分析など、高度な統計技術を搭載したAEGIS Proの商用バージョンも開発中だ。
イ・ソンチャンCEOは「2025年のMWCでSKTと共にGlobal Mobile Awards（グローバル・モバイル・アワーズ）を受賞したYATAVは、2026年もMWCで革新的な安全ネットワークを公開する」とし、「GitHubに公開されたAEGIS SDKは、今この瞬間も世界中の開発者にダウンロードされている。『Powerful Technology、Human Accountability（強力な技術力、人間の責任を守る）』という哲学を持って技術開発に注力していく」と語った。
＜画像=YATAV＞
