世界と日本のAI規制と対策：AIの使用は法律違反になる？

AIを悪用した国内事案

国内では、AIを悪用してどのような犯罪が行われたのでしょうか。例をいくつか紹介します。

2025年2月には男子中高生3人が、他人のIDパスワードで不正ログインし、携帯キャリアの通信回線を契約したとして、不正アクセス禁止法違反と電子計算機使用詐欺の疑いで逮捕されました。この事件では生成AIを補助的に利用して自作したプログラムを使って自動的に契約を繰り返し、1,000件以上の回線を契約していたとみられています。

また2025年4月に起きた事件では、生成AIで作成したわいせつなポスターをインターネットオークションで不特定多数に販売したとして、男女4人がわいせつ図画頒布容疑で逮捕されました。

これらの事件は犯罪でAIが悪用されたのであって、AIの使用そのものが罪に問われたわけではありません。ですが、AIの使用が罪になる場合はあるのでしょうか？　AIに関する規制について詳しく見ていきましょう。

日本におけるAI規制

冒頭で紹介したAIを悪用した犯罪の他、生成AIによって情報漏えいが起きるなど、AIの安全性リスクについて耳にする機会が日本でも増えてきています。「日本のAI開発・活用は遅れている」「国民の多くがAIに対して不安を感じている」と捉える日本政府は、イノベーションを促進しつつリスクに対応するためにはAIに関する新たな法律が必要だとし、海外のようにAI技術を適切に利用することを目的とした法律や規制、ガイドラインなどの制定を進めています。

行動指針となる「AI事業者ガイドライン」

経済産業省と総務省は、既存のガイドラインを統合・アップデートし、2024年4月19日に「AI事業者ガイドライン（第1.0版）」を公表しました。これは、AIの開発や提供、利用にあたっての必要な取り組みについての基本的な考え方を示しており、AIが安全安心かつ有効的に活用されるための基本的な考え方を示すものです。

AI事業者ガイドラインは法的拘束力を持たないため、企業への強制力はありません。とはいえ、AI事業者が自発的に取り組むべき事項を示すソフトローとして企業活動の行動指針となり、社会的な信頼を築くために重要な役割を果たします。企業はこのガイドラインに従うことでリスクを低減し、社会的責任を果たす姿勢を示せます。

「AI推進法」の国会成立

2025年の通常国会に「人工知能関連技術の研究開発及び活用の推進に関する法律案」（AI推進法）が提出され、同年5月28日の参議院で可決・成立しました。

AI推進法は、AI利活用による「国民生活の向上、国民経済の発展」を目的とし、「AI技術の適正な研究開発や活用促進などについて政府が基本計画を策定すること」「国民の権利利益が侵害される事案が発生した場合、国が事業者への指導や助言を行うこと」などが盛り込まれています。

また、AIを規制するよりも、AIの利活用を促す「推進法」としての側面が強く、罰則も設けられないものになり、今後の施行に向けて政令や省令の制定が進められていきます。

海外におけるAI規制

日本のAI規制は利活用を促す方向になりますが、海外ではどうでしょうか。ある国では厳しい罰則が設けられていたり、ある国では規制が何もなかったりと、海外におけるAI規制は現在、国によってさまざまです。すでに規制が制定されている主なAI先進国の動向を紹介します。

EU：高額な制裁金が科される場合もある「AI法」

EUでは2024年5月に、世界に先駆けて生成AIを含む包括的な規制「AI法（Artificial Intelligence Act）」が成立。2024年8月1日に発効されました。今後は規制内容に応じて、2030年12月31日までに段階的に施行されていきます。制裁金については2025年8月以降に適用となり、違反内容に応じて最大で3,500万ユーロまたは年間世界売上高の7％が制裁金として科される可能性があります。

AI法は、AIシステムにおけるリスクの発生可能性と影響度を分析し、優先順位をつけて重要なものから対策する「リスクベースアプローチ」に基づいており、以下の4つのカテゴリーで異なる規制が設定されています。

（1）許容できないリスク

人々の安全、生活、権利に対する明らかな脅威と見なされる、すべてのAIシステムが対象となります。例えば、「脆弱性を悪用するAI」「職場や教育機関における感情認識」「サブリミナル技術による潜在意識の操作」などが該当し、原則として使用が禁止されます。

（2）ハイリスク

人々の健康、安全、基本的権利に深刻なリスクをもたらす可能性のあるAIシステムが対象になります。例えば、「交通など重要インフラのAI」「試験の採点など教育機関で使用されるAI」「企業の採用活動で使用されるAI」「ロボット支援手術など医療機器のAI」などが該当し、リスク管理やデータガバナンス、人的監視措置、ログの保存などの厳格な規制が課されます。

（3）透明性のリスク

AIシステム使用における、透明性に関連するリスクが対象になります。例えば、チャットボットなどを使用する場合、人間にAIと対話していることを認識させ、十分な情報に基づいた意思決定を行えるようにする義務が課されます。また、最近よく見られる生成AIによるコンテンツなども、AIによって生成された旨を明示する必要があります。

（4）最小限のリスク

AI対応のビデオゲームやスパムフィルターなど一般的なAIアプリケーションに関しては、自由に利用可能で特別な制限は現在ありません。

米国：連邦レベルと州レベルの規制が存在

米国では2025年の政権交代によって、AIに関する規制の見直しが急速に進んでおり、今後の動向を注視する必要があります。また、連邦レベルの規制だけでなく、一部の州では独自の規制が設けられており、注意が必要です。

米国の連邦レベルのAI規制

米国では、バイデン政権下の2023年10月に「AIの安心、安全で信頼できる開発と利用に関する大統領令（The Executive Order on Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）」が発令され、AIに対する規制が強化される方向性が示されました。しかし、この大統領令は2025年1月に就任直後のトランプ大統領によって撤回され、新たに「AIにおける米国のリーダーシップへの障壁を取り除く大統領令（Removing Barriers to American Leadership in Artificial Intelligence）」が発令されています。

新たな大統領令では「AI行動計画の策定」が掲げられている他、AI向け半導体の輸出規制強化策を撤回するなど、バイデン政権下に定められたポリシーや規制などの見直しが急速に進んでいます。

ユタ州のAI規制

ユタ州では2024年5月に「生成AIポリシー法（Artificial Intelligence Policy Act）」が施行されました。この法律では、同州の消費者保護部門が監督する行為に関連して、生成AIと利用者を対話させるサービスの提供事業者は、利用者から求められた場合には対話しているのが生成AIであることを開示しなければなりません。また、一定の免許・認証などが必要なサービスに生成AIを利用する際にも、生成AIを利用していることを明示する必要があります。

コロラド州のAI規制

コロラド州では、2024年5月に包括的なAI規制法「コロラドAI法（Colorado AI Act）」が成立し、2026年2月に施行されます。この法律は、雇用や就職機会、教育の登録や機会、金融・医療などに重大な影響を与える、高リスクなAIシステムの開発者と提供者に適用されます。これらのAIシステムを利用した際の「アルゴリズムによる差別」について、既知または合理的に予見可能なリスクから消費者を保護するために注意を払うことが義務付けられています。

カリフォルニア州のAI規制

カリフォルニア州では、すでに多くのAI関連法が制定されています。特に注目されるのが、2026年1月に施行される、月間100万人以上の利用者がいる生成AIシステムの開発事業者が対象の「AI透明化法（AI Transparency Act）」と、生成AIの訓練に用いたデータセットの概要を一般に公開することを求める「生成AI訓練データ透明化法（AB-2013 Generative Artificial Intelligence : Training Data Transparency）」です。前者は、画像・映像・音声が生成AIによって生成・改変されたことがわかるAI検出ツールを、ユーザーに無償で提供する必要があります。後者は、生成AIのシステムまたはサービスの開発者に対して、開発に使用したデータセットの概要を記載したサマリーをWebサイト上で公表することが義務付けられています。

韓国：韓国内の代理人指定が義務化された「AI基本法」

韓国では2024年12月に、「AIの開発と信頼基盤の形成に関する基本法（AI基本法）」が成立し、2026年1月の施行予定です。この法律は、主に「高影響AI」「生成AI」を規制対象としており、「AIベースであることを通知する義務」「国内代理人を指定する義務」「科学技術情報通信部による停止または是正命令に従う義務」に違反すると、3,000万ウォン以下の罰金が科されます。

中国：刑事責任追求の場合もある「生成AIサービス管理暫定弁法」

中国では2023年8月に「生成AIサービス管理暫定弁法」が施行されており、生成AIを活用したサービスを提供する事業者は、「適法なデータと基本モデルを使用すること」「他者の知的財産権に侵害しないこと」などが義務付けられています。違反した場合は、サイバーセキュリティ法やデータセキュリティ法、個人情報保護法などに基づいて処罰や行政処分が行われ、状況に応じて治安管理上の責任または刑事責任が追及される場合もあります。

AIを活用する企業が取るべき対策

ここまでの内容を踏まえて、AIを活用する企業が注意すべき点や取るべき対策について解説します。

海外でのAI活用サービスの提供は慎重に

海外でAIを活用したサービスを展開する場合は、特に注意する必要があります。例えば、EUで施行されたAI法は、日本企業であってもEU域内でAIシステムを上市するなど事業者に該当する場合はAI法が適用され、違反した場合は制裁金が科されることがあります。

海外現地に拠点がないと罰せられることも

日本国内の消費者の利用を前提にしたサービスであっても、インターネットを介して簡単に海外からも利用できる場合は、海外の法令が適用されることがあり得る点に留意が必要です。例えば、韓国のAI基本法では「海外から韓国に向けてAIを利用したサービスを提供する一定の事業者は、韓国国内に代理人を設立しなければならない」という要件が盛り込まれており、意図していなくても韓国内での利用者が増えると同法に抵触する可能があります。

日頃から国内外のAI規制動向を把握しておく

AI技術の進歩は日進月歩であり、法整備はまだ発展途上です。現在は何も規制や罰則がない国にも、今後、AIに関する法が改定されたり制定されたりする可能性は大いにあります。

こうしたことから、AIを活用したサービスを提供する企業は、日頃から国内外のAIに関わる最新の規制動向を把握し、法令の適用範囲や義務、罰則についての情報を調査しておく必要があるでしょう。また、AIをサービスや自社の業務に組み込むにあたっては、最新動向を踏まえた専門的な知見も必要となるでしょう。

「テキスト生成AI利活用におけるリスクへの対策ガイドブック」を活用

デジタル庁が2024年6月に公開した「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」は、誤情報の生成や機密情報の漏えいなど、テキスト生成AIの使用により生じるリスクとその軽減策が詳しく解説されています。

「テキスト生成 AI を組み込んだサービス」「テキスト生成AIを利用するWeb APIがクラウドサービスとして提供されるケース」「テキスト生成 AI の機械学習モデルが直接提供されるケース」などについての対策が記載されており、行政業務や企業においてAIを導入・利活用する際の参考になるでしょう。

まとめ

AIはこれまで人々が体験したことがないさまざまなサービスや製品を生み出す、無限の可能性を持ったツールです。技術の発展が目覚ましい一方、法律やルールは整備が追い付いていない状況とも言えますが、いずれは世界共通でAI活用がルール化される日が来るかも知れません。法律やAIの専門家などに相談しながら、今から将来に備えておくことも必要でしょう。