TOP >
ビジネス記事 >
北京市安理律師事務所

中国の法律

北京市安理律師事務所

職場におけるAI活用の法的リスクとコンプライアンス管理の枠組み

本文では、AIに関する各国の法整備の状況を整理し、職場でのAI活用リスクに焦点をあてた、企業コンプライアンス管理のための提案を行う。

労働雇用の分野におけるAI活用はますます普及が進んでいるが、これに伴いアルゴリズムの透明性、データ倫理、権利境界などの法的問題が生じている。

一、主要経済国におけるＡＩ規制の規定

現在、AI関連の法律は30カ国以上で発布されている。AIに対する規制は、科学技術、経済、社会、国際競争など、さまざまな要素の影響を受け、主に道徳・人間本位の指導原則の確立、強制的技術基準の制定、規制のサンドボックス制度の採用、マルチパーティ参加・権利保護の強調、業種と横断的な法律の調整、情報の透明性とリスク評価の強化、権利・責任の分配の明確化などといった方法がとられている。現在、包括的なAI法を採択しているのはＥＵと韓国のみであり、その他の多くの国では業界規制または分散管理を中心としている。
EU：2024年に『AI規制法』を採択し、システムを「容認できないリスク」「高リスク」「透明性義務」「汎用モデル」「最小リスク」の5つに分類し、リスク等級別に規制・要求をしている。高リスクAIについては、リスク管理体系、データガバナンス、コンプライアンス証明を確立する必要がある。
韓国：2024年に『AIの発展と信頼基盤の構築に関する基本法』を採択し、事前認証、透明性、影響度の高いAIの特殊義務を強調し、国際競争力の向上と信頼性のある環境の造成に重点を置いている。
米国：連邦レベルでは統一的なAI法はない。州レベル（例：イリノイ、ニューヨーク、ユタなど）では採用、面接、生成型AIなどの場面に特化した法律が制定され、透明性、差別防止、データ保護を強調している。
中国：AIに特化した法律は制定されていないが、2021年以降、『アルゴリズム推薦管理規定』、『生成型AIサービス管理暫定弁法』、『合成コンテンツ標識弁法』などを次々と発布し、推薦アルゴリズム、生成型AIのサービス及びコンテンツ標識に対し知る権利、差別防止、個人情報保護などを要求し、『個人情報保護法』、『民法典』などと結びつけてAI規制体系を構成している。

二、職場におけるＡＩの活用とリスク

採用、業績評価、従業員監視などの職場におけるAI活用は普及し続けている。米国では90%、EUでは79%の企業がすでにAIを導入しており、中国では約55%の企業が採用支援にAIを利用している。しかしながら、AI関連の労働争議、プライバシー侵害などの事案も持続的に増加している。
採用：AIによる過去データに基づく候補者選別によって、性別、年齢などの偏見を固定化し、雇用差別のリスクをもたらすおそれがある。
業績評価：従業員の行動をAIでデータ分析するだけでは、現場の就労状況への考慮に欠け、判断を誤りやすい。
従業員監視とプライバシー：ウェアラブルデバイスは生体、行動、さらには感情データを収集する。法どおりに従業員の同意を得ず、又は必要最低限・正当性の原則を遵守しなければ、プライバシーの侵害を誘発する。

三、労働雇用の場面におけるＡＩ規制の実施

直接的な制限（例：EUでは採用や業績評価AIを高リスクシステムに組み入れて高度に規制している。また、米国イリノイ州では面接AIの告知と動画削除を求めている）と、間接的な制限（例：韓国と中国は、透明性、差別防止等の共通性のある義務を労働雇用の場面に適用するよう求めている）がある。

四、コンプライアンス管理の枠組みに関する提案

企業は、AI規制の厳格化に際して、コンプライアンス管理体制を優先的に構築しなければならない。
• AI活用ポリシーの策定：職場でのAI活用の場面とリスクを全面的に評価し、コンプライアンス体系に組み入れ、ポリシーを更新し続けるとともに、高リスクの要求に対応できるようにすること。
•種類・等級別管理：EU『AI規制法』を参照して、AI活用の場面を等級・種類別に分け、採用アルゴリズムなどの高リスクの場面では技術文書の届出、内部評価又は第三者による監査を必須とし、限定的リスクの場面では透明性告知を厳格に遂行すること。
•透明性と開示メカニズムの拡充：導入前にアルゴリズムの用途、決定論理及びデータソースを開示し、再審査のチャネルを維持し、通常の監査に組み入れて、信頼と説明責任を高めること

• AI活用ポリシーの策定：職場でのAI活用の場面とリスクを全面的に評価し、コンプライアンス体系に組み入れ、ポリシーを更新し続けるとともに、高リスクの要求に対応できるようにすること。
•種類・等級別管理：EU『AI規制法』を参照して、AI活用の場面を等級・種類別に分け、採用アルゴリズムなどの高リスクの場面では技術文書の届出、内部評価又は第三者による監査を必須とし、限定的リスクの場面では透明性告知を厳格に遂行すること。
•透明性と開示メカニズムの拡充：導入前にアルゴリズムの用途、決定論理及びデータソースを開示し、再審査のチャネルを維持し、通常の監査に組み入れて、信頼と説明責任を高めること