欧州評議会で交渉が進んでいるAI条約（案）の正式名称は、”FRAMEWORK CONVENTION ON ARTIFICIAL INTELLIGENCE, HUMAN RIGHTS, DEMOCRACY AND THE RULE OF LAW”（「人工知能・人権・民主主義・法の支配に関する枠組条約」）です。
同条約案は、欧州評議会において2022年に設立されたAI委員会（Committee on Artificial Intelligence: CAI）において起草、交渉されており、2023年1月に改訂版ゼロドラフト、同年7月に統合版ドラフト、同年12月に枠組条約ドラフトが発表されました※1。2024年1月からは第9回目の会議が予定されており、交渉は最終の詰めの段階まできています。2024年3月には内容を確定し、2024年5月には 採択される見通しです。
AI条約案に米国が批准することになれば、日本も批准の検討が必要になる
このAI条約案を発案した欧州評議会（Council of Europe; CoE）は、人権、民主主義、法の支配に関して国際基準の策定を主導する汎欧州の国際機関であり、欧州を中心に現在46カ国が参加しています（ロシアは2022年に除名）。日本は参加国ではありませんが、オブザーバー国として、CoEが主催する会合への参加、条約の批准等を行っています。オブザーバー国としては他に、米国、カナダ、メキシコがあります。
CoEが起草した条約で有名なものは、サイバー犯罪条約です。サイバー犯罪条約は、欧州諸国に限らず、日本や米国も批准しており、日本では同条約を批准するために刑法の改正が行われました（いわゆるコンピュータウイルス作成・提供罪にあたる不正指令電磁的記録に関する罪の新設や記録命令付き差押えの新設など）。
AI条約案のオブザーバー国としては、通常のオブザーバー国に加えて、アルゼンチン、コスタリカ、イスラエル、ペルー、ウルグアイが参加しています（オーストラリアは申請中）。上のサイバー犯罪条約の経緯を考えると、AI条約案について、欧州での議論であるから日本には関係ないと無視することはできません。米国が批准することになれば日本も欧米の枠組みに遅れをとらないように批准を検討せざるをえないと思われます。したがって、今後日本にどのような影響がありうる のかを見極めるためにも、どのような交渉がなされているのかを把握しておくことが重要です。
AI条約案には、AIの設計・開発者が「人権侵害等についてアカウンタビリティと責任を負う」ことが明記される
AI条約案の内容
AI条約案は、現時点で36条に及び、その目次・概要は下表の通りです。赤字は交渉中の事項を示しています。
AI条約案においては、人権、民主主義、法の支配に影響を及ぼす「AIシステム」のライフサイクルにわたる活動（設計、開発、使用、廃棄を含みます）を規制対象としています。すなわち、人権、民主主義、法の支配に影響を及ぼさないのであれば規制を受けないということになります。
「AIシステム」は、「明示的又は黙示の目的のために、物理的又は仮想的な環境に影響を与える可能性のある予測、コンテンツ、推奨、又は決定などの出力を生成する方法を、受領した入力情報から推測する機械ベースのシステム」と定義されています。
適用範囲が民間にも広げられるのであれば、米国は加盟しないかもしれない
交渉中の論点で日本にとって影響が大きいものは、①本条約案の適用が政府部門に限定されるか民間にも広げられるのか、②16条のリスクマネジメント・ フレームワークにおいてどの程度の措置が義務づけられるか、という論点であろうと思われます。
①に関しては、仮に適用範囲が民間一般にまで広げられる場合には、民間によるAI使用を一般的には規制していない米国は加盟しない公算が高いと予想されます。その場合であっても日本は加盟するのかというのが議論になりえますが、適用範囲が民間にまで広げられた場合、日本では現在AI規制は自主規制としているところ、7条の透明性・監督のための要件充足や4章の救済措置との関係ではなんらかの法的な措置が必要になるかもしれません。また、②に関しても、民間に適用されるかという①の論点にも関わってきますが、記録化・モニタリングの義務づけまで定められた場合には、ガイドラインでの措置では済まないおそれがあります。
AI条約案は、EUのAI Act案、米国のAI大統領令と比べてあまり広くは認知されていないようですが、日本が批准をするに至った場合には日本のAI規制の動向に直接影響を及ぼすものです。したがって、関係者の方々におかれては内容を把握し、今後の動きを注視されることをお勧めします。
（※本投稿の情報は2023年1月15日時点のものです。）
最後に、AI条約案については、2023年12月8日実施の情報ネ ットワーク法学会第4分科会の発表において勉強させていただきました。発表してくださった先生方に感謝申し上げます。
※1 それぞれの原文はこちらから。
