政府が3月にもまとめる人工知能（AI）指針案の概要が分かった。自律的に動く「AIエージェント」や、ロボットを制御する「フィジカルAI」に対応する。誤作動やプライバシー侵害のリスクを念頭に「人間の判断を必須とする仕組み」づくりを開発企業などに求める。リスクを抑えながら利活用を促し、国際競争力の向上につなげる。

総務省と経済産業省が2024年に策定した「AI事業者ガイドライン」を更新する。3月末にも公開する。普及期に入ったAIエージェントや世界の大手が研究開発に注力するフィジカルAIの定義や便益、リスク、対策などを新たに盛り込む。

AIエージェントは「目標を達成するため、環境を感知して自律的に行動するAIシステム」と定義する。フィジカルAIは「目的達成の最適な方策を自律的に推論・判断し物理的な行動につなげるシステム」と記載する。便益として業務効率化や労働力不足の補完、安全性向上、介護・生活支援などを挙げる。

リスクには自律行動による誤作動、サイバー攻撃への悪用、カメラ撮影によるプライバシー侵害の可能性などを加える。対策として人間の判断を必須とする仕組みの構築を明記する。セキュリティーを保つために権限を最小に絞る設定、ハードウエアに残るデータの取り扱いへの配慮なども求める。

一般的なリスクも追加する。「教育領域における学生の思考力の発展妨害」「生成AI活用時のプライバシーリスク」「資格などの侵害」などだ。

総務省の25年の調査によると事業者向け指針の認知度は81%に達する。活用しているのは46%にとどまる。地方自治体や小規模事業者にも浸透させるため、内容に関する質問に自動回答するチャットボットなどの専用ツールの開発を検討する。

AIの進化は急速で、各国・地域は対応に追われている。日本はAI新法と呼ぶ関連技術の研究開発・活用推進法を25年6月に施行し、悪質な事案は国が調査できるようにした。別途、柔軟に変更できる政府指針で安全性などの基本的な考え方を示し、適合したルールづくりを事業者に求めている。

欧州連合（EU）は安全を優先し、サービス提供者らにリスクに応じた義務を課すAI規制法を段階的に施行している。トランプ米政権はAIアクションプランを発表し、技術革新を優先して規制緩和を進める。中国は国家主導でAIが生成するコンテンツを統制する。