ビジョン

AI が機械を動かすとき、すべての判断に証拠がいる。

物理世界で動く AI の信頼とライフサイクル。Glovrex の研究の方向です。

研究中
01

問題

AI システムは、文章を出すものから、機械を動かすものへ移りつつあります。車、ロボット、医療と産業の機器です。

安全規格と規制は、各判断が権限を与えられ、範囲を定められ、機械の生涯にわたって追跡できることの証拠を求めています。そのうち三つを、日付とともに挙げます(2026年10月6日時点の確認)。

  • 2026年7月27日

    規則 (EU) 2026/1744 は AI 法を改正するものです。2026年7月27日に発効し、高リスクの適用日を 2027年12月2日(附属書 III)と 2028年8月2日(附属書 I)に定めています。 原文

  • 2023年6月29日

    機械規則 (EU) 2023/1230 は、機械学習を使い、振る舞いが変化していく安全機能を、第三者による適合性評価が必要な製品に挙げています。 原文

  • 2023年3月17日

    自律製品の安全に関する規格 UL 4600 の第 3 版は、セーフティケースを求め、事故後の要件を加えています。 原文

02

方向

そうしたシステムの下に置く、実行の完全性とライフサイクルの層。

アクチュエータに届く判断はすべて、その権限、条件、その瞬間の機械の状態、そして第三者が確かめられる受領証を伴います。物理的な行為を取り消せるとは主張しません。起きる前に範囲を定め、証拠を残します。

03

つくらないもの

  • 制御器。
  • 認証済みの自動運転スタック。
  • 汎用のエージェントフレームワーク。
  • 可観測性のダッシュボード。
04

状態

研究中

物理システム向けのコードはまだありません。取り組んでいる問いは、研究のページに挙げています。