EUにおけるAI法について
法制広報部 君塚陽介
EU（欧州連合）において、2024年5月21日に「AI法」が成立し ※1、7月12日付のEU官報において公布され ※2、8月1日に発効した。
AI法は、世界ではじめて、包括的にAI（Artificial Intelligence）を規制するものとして注目を集めている。
そこで、AI法における「ディープ・フェイク」や著作権に関する箇所を中心に紹介する。
AI法の性格
AI法は、「規制（Regulation）」の形式を採っている ※3。EUにおける著作権分野で多く見られる「指令（Directive）」が ※4、EU加盟国に対して達成すべき結果を示し、国内法化が必要であるのに対して、「規則」は、EU加盟国における国内法化は必要とせず、直接適用され、拘束力を有することになり、EU域内での統一的なルールを形成することが可能となる。
AI法は、2021年4月に欧州委員会が法案を提案し、2023年6月に欧州議会による議会案が採択された後、欧州委員会、欧州議会およびEU理事会による三者協議などを経て、2024年3月に欧州議会による最終案の承認の後、同年5月のEU理事会による承認により成立した。AI法は、規制内容に応じて、段階的に適用される予定だ。
AI法は、EU域内の市場にAIシステムを流通させたり、AIシステムにより生み出された成果（アウトプット）がEU域内で使用される場合に適用されるため（第2条）、日本企業にもAI法が適用される可能性がある。
AI法の概要
AI法は「域内市場の機能を向上させ、人間が主体となり、かつ、信頼できる人工知能（AI）の採用を促進するとともに、欧州連合においてAIシステムによってもたらされる有害な影響に対して、民主主義、法の支配および環境保護を含むEU基本権憲章に定められた健康、安全、基本権について高いレベルでの保護を確保し、技術革新を支援する」ことを目的としている（第1条）。
この目的を実現するために、AI法では、社会に対して損害を及ぼすリスクが高くなればなるほど、より厳しい規制を及ぼす仕組みを有している（リスク・ベース・アプローチ）。
また、このリスク・ベース・アプローチに応じた分類とは独立して、一般目的AIモデル（General Purpose AI Model）を分類している。
（1）リスク・ベース・アプローチに基づく四つの分類
リスク・ベース・アプローチに基づいて社会に対して有害な影響を及ぼすリスクの高い順に「許容できないリスク」、「高いリスク」、「限定的なリスク」および「最小リスク」の四つに分類している（図1参照）。
このリスクに応じた分類にしたがった義務違反に対して制裁金が科されることになる。
許容できないリスクを伴うAIシステムには、例えば、未成年者に危険な行動をとらせるようとするボイス・アシスタントを用いた玩具のように人間の自由な意思を回避させて、その行動を操作するようなAIシステムなどが挙げられ ※5、このようなAIシステムは禁止される。
また、高いリスクを伴うAIシステムには、例えば、従業員の採用や金銭の貸し付けにあたって信用審査などを行うAIシステム、自律的なロボットを作動させるAIシステムなどが挙げられており ※6、このようなAIシステムについては、厳格な技術的要件が求められるほか、各種の義務を遵守する必要がある。
限定的なリスクを伴うAIシステムには、透明性に関する義務が課されることになる。人物など現実世界の実態に酷似したコンテンツ（ディープ・フェイク ※7）を生成するAIシステムが、この例として挙げられている ※8。
この提供事業者に対しては、AIにより生成されたものであることを機械的に判読可能な方法で表示し、検知することが可能となるようにしなければならないほか（50条2項）、AI利用者に対しても、当該コンテンツが、AIにより生成されたものであることを開示しなければならないとしている（50条4項）。AIを用いて、あたかも真実であるかのように見せるディープ・フェイクを、社会に対して有害な影響を及ぼすリスクという観点から、規制しているものと位置付けることができる。
（2）一般目的AIモデル
2021年4月の欧州委員会による提案では、リスク・ベース・アプローチによる四つの分類しか設けられていなかったが、ChatGPTに代表される生成AIの普及を受け、2023年6月の欧州議会による議会案に一般目的AIモデルの定義が加えられ、特有の規定が設けられることになった。
AIモデルは、AIシステムの重要な構成要素ではあるが、AIモデルが、AIシステムとなるためには、例えばユーザー・インターフェイスなど更なる構成要素を追加する必要があり、AIモデルは通常、AIシステムに統合され、その一部を構成すると位置付けられている（前文97） ※9。幅広い作業を容易に順応させることができる、文書、音声、画像又は映像などコンテンツの柔軟な生成を可能にする生成AIが、この一般目的AIモデルの典型例とされる（前文99）。
このような一般目的AIモデルの提供事業者には、①デジタル単一市場における著作権指令（DSM指令）4条3項に定める権利の留保を特定し、尊重するために、最先端技術によるものも含め、EU著作権法および関連法を尊重する方針を導入すること（53条1項（c））、および②AIオフィス ※10が定めるテンプレートにしたがって、一般目的AIモデルの学習に使用されたコンテンツに関する十分かつ詳細な要約を作成し、公開すること（53条1項（d））などの義務が課されている。
DSM指令4条1項では、テキストおよびデータ・マイニング（情報解析）のために、適法にアクセスできる著作物およびその他対象物に係る複製権などに対する権利制限を定め、同条3項では、オンラインで提供されている著作物等については、権利者が機械により読み取り可能な方法で
明示的に留保している場合（オプトアウトしている場合）には、権利制限の対象にならないとしている。
そこで、53条1項（c）では、DSM指令におけるオプトアウトの権利を尊重し、一般目的AIモデルの提供事業者に義務を課すことによって、DSM指令に基づくEU加盟国法により定められたオプトアウトの実効性を確保しているものと位置付けられる。
また、53条1項（d）では、著作権法により保護される文書やデータを含む、一般目的AIモデルの学習に使用されたデータに関する透明性を高め、著作権者など正当な利益を有する利害関係者に対して、EU法に基づく権利を行使し、エンフォースメントすることを促すために、一般目的AIモデルの学習に使用されたコンテンツに関する要約の公開義務を提供事業者に課している（前文107）。
結びに代えて
著作権法は、著作権や著作隣接権といった私権を保護するものである一方、AI法は、このような私権を付与するものではなく、AIの関係者に対して義務を課し、規制するものであり、異なる種類の法を融合させたものと言われている ※11。
私人間に適用される、いわば「ヨコ」の関係を規律する著作権法とは異なり、AI 法は、「タテ」の関係によりAIを規制しているものと言い換えることができるだろう。
日本では、このようなAIに対する規制は、2024年4月に総務省および経済産業省により策定された『AI事業者ガイドライン』といったソフトローの形で存在するものの、現時点では、ハードローとしての法規制は存在せず、議論が続けられている状況にある。
EUが定めた規制（ルール）が、グローバルな市場を規制する「ブリュッセル効果」が言われているが ※12、AI法の動向や運用には、引き続き注視する必要があるだろう。
【注】
※１ 2REGULATION（EU）2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 13 June 2024 laying down harmonised
rules on artificial intelligence and amending Regulations （EU）No 300/2008,（EU）No 167/2013, (EU) No 168/2013,（EU） 2018/858,（EU）2018/1139 and（EU）2019/2144 and
Directives 2014/90/EU,（EU）2016/797 and（EU）2020/1828 （Artificial Intelligence Act） （▲戻る）
※２ https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 （▲戻る）
※３ 厳密には「AI規則」が正確であるが、本稿では「AI法」と表記する。 （▲戻る）
※４ 例えば、2019年のデジタル単一市場における著作権指令、2001年の情報社会指令、1992年の貸与権指令などがある。 （▲戻る）
※５ 2024年8月1日付欧州委員会プレスリリース"European Artificial Intelligence Act comes into force" （▲戻る）
※６ 前掲※５ 欧州委員会プレスリリース （▲戻る）
※７ 「ディープ・フェイク」は「現存の人物、対象物、場所、実在物又は出来事に類似し、真正又は真実であるかのように人に見せる画像、音声又は映像コンテンツ」と定義されている（3条60号）。 （▲戻る）
※８ 中崎尚『生成AI法務・ガバナンス－未来を形作る規範』316頁（商事法務、2024） （▲戻る）
※９ 白石和泰＝古西桜子＝牧昂平「欧州連合（EU）AI法のポイント解説」ビジネス法務24巻10号114頁（2024） （▲戻る）
※10 AI法を履行するために、欧州委員会内に設置される機関で、2024年6月に立ち上げられた。欧州委員会AIオフィスのウェブサイト参照。 （▲戻る）
※11 Alexander Peukert "Copyright in Artificial Intelligence Act-A Primer" GRUR International, Volume 73, Issue 6, June 2024, 498 （▲戻る）
※12 「 ブリュッセル効果」については、アニュ・ブラッドフォード（庄司克宏訳）『ブリュッセル効果 EUの覇権戦略｜いかに世界を支配しているのか』（白水社、2022）参照。 （▲戻る）