媒体报道
Kohen Avocats,巴黎人工智能法律师事务所
巴黎人工智能律师:欧盟《人工智能法案》、职场 AI 与 AI 生成内容
人工智能系统的定性与 2026 年修订后欧盟条例的时间表、提供者与部署者的义务、企业引入 AI 工具与劳资委员会(CSE)的咨询、AI 生成内容与训练数据的著作权、深度伪造、合同与责任:本所为设计或使用人工智能的企业提供协助,也为承受其后果的个人提供辩护。
律所全天候(每周7天、每天24小时)可联系。2026 年 7 月 8 日的欧盟第 2026/1744 号条例调整了各项期限:附件三所列高风险系统的规则自 2027 年 12 月 2 日起适用;另有两项新增禁止性规定,分别针对未经同意制作的逼真性影像和儿童性剥削材料,自 2026 年 12 月 2 日起适用。
4,9/5
Google 评价平均分270 条评价
这位刑事律师为我提供了高质量的协助。他的专业精神、对案卷的全面掌握以及在程序每个阶段的持续投入值得称道。沟通清晰、有条理且反应迅速,所提建议准确并符合我的情况。我向所有寻求严谨、有效刑事辩护的人推荐这位律师。
Kohen 律师负责了我的刑事案件。我对他的工作非常满意,毫不犹豫地向您推荐他。
非常出色的刑事律师,在我前任滥用程序申请保护令的案件中,他帮我摆脱了困境。
对他在法庭上为我的辩护所取得的结果非常满意。祝一切顺利。
Hassan Kohen 律师是一位年轻但经验丰富、非常称职的律师。他善于倾听,富有同理心和人文关怀。他随时可以联系、反应迅速,对本职工作驾轻就熟。
我与 Hassan Kohen 律师的合作体验非常好。他花时间认真倾听,充分了解我的情况。他是一位建议中肯、友善且随时可以联系的律师,懂得为客户指明正确的方向。我毫不犹豫地向寻求专注而称职的专业人士的人推荐他。
Kohen 律师为我们提供了良好的建议和协助。感谢他所做的一切。
巴黎律师公会
紧急情况全天候 24/7
案卷初步研判
发送您的材料。获得一份分析。
Hassan Kohen 律师
巴黎律师公会(Barreau de Paris)律师,人工智能法:欧盟条例合规、职场 AI、生成内容的知识产权、合同与诉讼。
法国全国律师名录(CNB)中的官方资料 · Google 评分 4,9/5(270 条评价)
本页面更新于 2026 年 11 月 1 日。
简要回答
欧盟第 2024/1689 号人工智能条例(Règlement (UE) 2024/1689,即《人工智能法案》)根据各自角色,适用于开发人工智能系统并以自己名义投放市场的提供者,以及在职业活动中自行负责地使用该系统的部署者(第 3 条)。其禁止性规定和人工智能素养义务自 2025 年 2 月 2 日起适用,通用人工智能模型的规则自 2025 年 8 月 2 日起适用,条例其余部分(含透明度义务)自 2026 年 8 月 2 日起适用(第 113 条)。2026 年 7 月 8 日的欧盟第 2026/1744 号条例将高风险系统的要求推迟:附件三所列系统推迟至 2027 年 12 月 2 日,附件一所列系统推迟至 2028 年 8 月 2 日。法国法律另有补充规定:员工不少于五十人的企业在引入新技术前须咨询劳资委员会(CSE)(法国劳动法典(Code du travail)第 L. 2312-8 条);著作权仅保护具有独创性的人类创作;针对未经同意生成内容的轻罪(法国刑法典(Code pénal)第 226-8 条和第 226-8-1 条);以及民事责任和合同责任。Kohen Avocats 律师事务所位于巴黎第16区,既为企业也为相关个人提供协助。联系电话:+33 6 89 11 34 45。
要部署 AI 工具、要咨询 CSE,还是要对生成内容提出异议?
了解您的处境
巴黎人工智能法与欧盟《人工智能法案》详解
《人工智能法案》将人工智能系统定义为“设计为以不同程度的自主性运行的自动化系统”(欧盟第 2024/1689 号条例第 3 条)(我们的翻译)。本页说明:哪些规则自何时起适用,谁是提供者或部署者,企业在部署工具前应做什么,生成内容归谁所有,以及由谁对损害负责。
要点
欧盟《人工智能法案》及其 2026 年 7 月修订后的时间表
以下重要日期取自已公布的文本及修订该文本的条例。
2025 年 2 月 2 日
第一章和第二章开始适用:定义、人工智能素养义务和禁止性做法,例如社会评分、利用弱点,或在工作场所和教育机构推断情绪(医疗或安全原因除外)(欧盟第 2024/1689 号条例第 4 条、第 5 条和第 113 条)。
2025 年 8 月 2 日
通用人工智能模型(第五章)、治理(第七章)、处罚(第十二章)和通报机构(第三章第 4 节)的规则开始适用,第 101 条除外(第 113 条 b 项)。
2026 年 8 月 2 日
条例的一般适用日期(第 113 条第一款):尤其适用于第 50 条的透明度义务,涉及对话系统、合成内容和深度伪造。
2026 年 12 月 2 日
欧盟第 2026/1744 号条例新增的两项禁止性规定开始适用:未经同意生成逼真的图像、视频或声音,呈现可识别个人的私密部位或该人从事露骨性行为的系统,以及生成儿童性剥削材料的系统(第 5 条第 1 款 b 之二项和 b 之三项)。2026 年 8 月 2 日前已投放市场的生成式系统,其输出内容的标识义务适用同一日期(第 111 条第 4 款)。
2027 年 12 月 2 日
第三章第 1 至 3 节开始适用于附件三所列高风险系统:生物识别、关键基础设施、教育、就业与劳动力管理、获取基本服务、执法、移民、司法(第 113 条 c 项 i 目,依欧盟第 2026/1744 号条例的新措辞)。
2028 年 8 月 2 日
相同规则开始适用于第 6 条第 1 款所指的高风险系统,即附件一所列统一立法涵盖的产品的安全组件(第 113 条 c 项 ii 目)。已投入使用、供公共机关使用的高风险系统,最迟须在 2030 年 8 月 2 日前合规(第 111 条第 2 款)。
推迟已不再是假设。2026 年 7 月 8 日的欧盟第 2026/1744 号条例于 2026 年 7 月 24 日在《欧盟官方公报》公布,并在公布后第三日生效(该条例第 4 条)。它取代了第 113 条 c 项:第三章第 1、2、3 节“自 2027 年 12 月 2 日起适用于依第 6 条第 2 款和附件三被归类为高风险的人工智能系统”(我们的翻译)。其他期限不变:禁止性规定和人工智能素养义务自 2025 年 2 月起适用,透明度义务自 2026 年 8 月起适用。
同一条例还重写了人工智能素养义务。提供者和部署者须“采取措施,促进”其人员“人工智能素养的发展”,且“该义务不要求提供者或部署者保证个人达到特定的人工智能素养水平”(我们的翻译)(新第 4 条,欧盟第 2026/1744 号条例第 1 条第 5 点)。该义务依然存在:培训、使用指引和内部章程仍是留存证据的手段。
条例可直接适用,但各成员国自行确定处罚制度(第 99 条)并指定其国家主管机关(第 70 条)。关于生成内容,请参阅我们的文章:《人工智能法案》对 AI 生成内容的义务。
罪名定性
提供者还是部署者,属于何种风险等级:按顺序回答四个问题
义务取决于企业的角色和系统的用途,而不取决于工具本身。
该工具是人工智能系统吗?条例针对的是具有一定自主性的自动化系统,该系统根据所接收的输入推断如何生成预测、内容、建议或决策(第 3 条第 1 点)。能够执行多种不同任务的通用人工智能模型,另受专门制度规范(第 3 条第 63 点和第 53 条)。
企业的角色是什么?提供者开发或委托开发系统,并以自己的名称或商标将其投放市场或投入使用;部署者在自己的权限下使用该系统,纯个人非职业性使用除外(第 3 条第 3 点和第 4 点)。部署者或分销商若以自己的商标销售高风险系统、对其作实质性修改,或改变其预期用途致其成为高风险系统,则成为提供者(第 25 条)。
该用途是否被禁止?第 5 条禁止的内容包括:潜意识或操纵性技术、利用弱点、社会评分、在工作和学校推断情绪,以及自 2026 年 12 月 2 日起,未经同意生成可识别个人的逼真性影像的系统。这最后一项禁止有限定条件:仅当生成此类内容是系统的预定用途,或是合理可预见且适当技术保障措施未能防止的结果时,才禁止投放市场;仅当部署者为此目的使用系统时,才禁止使用(第 5 条第 1 款之二,由欧盟第 2026/1744 号条例新增)。
该系统是否属于高风险?若其构成附件一项下须经第三方合格评定的产品或为其组成部分,或属于附件三所列领域(例如招聘和简历筛选),即属高风险(第 6 条)。附件三所列系统若不对健康、安全或基本权利构成重大风险,则不属于此类;但只要其对自然人进行画像,仍属高风险(第 6 条第 3 款)。
高风险系统的部署者须按使用说明使用该系统,将人工监督交给有能力的人员,确保其掌控的输入数据相关适当,并监测系统的运行(第 26 条)。在工作场所部署此类系统的雇主负有专门义务:“身为雇主的部署者应告知工人代表和相关工人,他们将受到高风险人工智能系统使用的影响”(我们的翻译)(第 26 条第 7 款)。这些义务将自 2027 年 12 月 2 日起适用于附件三所列系统。
大多数常见用途,如写作助手、摘要工具或对话机器人,并非高风险,但仍须遵守自 2026 年 8 月 2 日起适用的透明度义务:提供者设计旨在与人互动的系统时,须使相关人员“获知其正在与人工智能系统互动”(显而易见的情形除外)(我们的翻译),生成式系统的输出内容须“以机器可读格式标记,并可识别为由人工智能生成或操纵”(我们的翻译)(欧盟第 2024/1689 号条例第 50 条)。
通用人工智能模型的提供者须保存技术文档,告知集成该模型的提供者,并建立“遵守欧盟著作权及相关权利法律的政策”(我们的翻译)(第 53 条)。将此类模型集成到自身产品中的企业,应在合同中核查这些事项。请参阅我们关于信息技术合同的页面,以及深度科技专题页面。
工作中
在企业中部署人工智能,或对其引入提出异议
咨询员工代表、安全义务、告知相关人员:雇主在部署工具前须核查的事项。
您是雇主
- 盘点正在使用的 AI 工具,包括员工自行使用的工具,并依据条例逐一定性。
- 在员工不少于五十人的企业,引入影响工作条件的新技术之前,须告知并咨询 CSE。
- 在任何重组之前,与相关员工一起在真实场景中评估该工具对工作负荷和工作组织的影响。
- 制定使用章程,培训团队,规范保密数据和个人数据的处理。
您是 CSE 或员工
- 要求启动咨询程序,并要求提供关于该工具、其功能和影响的书面信息。
- 向紧急审理法官(juge des référés)申请,在咨询结束前暂停部署,或暂停未评估风险的重组。
- 要求事先获知招聘方法和数据收集措施。
在员工不少于五十人的企业,CSE 就“引进新技术,以及任何改变健康安全条件或工作条件的重大调整”接受告知和咨询(我们的翻译)(法国劳动法典(Code du travail)第 L. 2312-8 条)。紧急审理法官将该条适用于 AI 工具。巴黎上诉法院(cour d'appel de Paris)确认,在咨询结束前,暂停一款写作助手和 ChatGPT 的使用并处以逾期罚款,并指出该内部工具“并非文字处理类软件的简单变体”(我们的翻译)(CA Paris, pôle 1, ch. 2, 21 mai 2026, n° 25/13234);南泰尔紧急审理法官暂停了两款技能管理软件,尽管此前的软件已经使用 AI(TJ Nanterre, réf., 29 janvier 2026, n° 25/02856)。咨询程序的进行和 CSE 的紧急审理申请,详见我们关于数字劳动法的页面。
咨询程序结束,并不能使雇主免责。在克雷泰伊,关于取消八个编辑秘书岗位的告知与咨询程序,已随 CSE 于 2026 年 7 月 15 日出具意见而结束,CSE 也未对其提出质疑。紧急审理法官就雇主的安全义务作出裁判(第 L. 4121-1 条和法国劳动法典第 L. 4121-2 条):生成式 AI 所接管任务的比例,系“在没有相关员工参与、也没有在真实场景中实施的情况下”评估的(我们的翻译),而在“这一粗略且未经真实场景验证的基础上”推行该项目,似乎会对“数类员工的身心健康造成严重而具体的风险”(我们的翻译)。雇主也未能证明其职业风险评估文件(document unique)中载有预防 AI 相关风险的措施。重组和集体解雇因此被暂停,直至完成真实场景测试(TJ Créteil, réf., 15 septembre 2026, n° 26/00991)。
其他规定也规范适用于个人的 AI。在员工不少于五十人的企业,招聘辅助方法或技术以及人事管理自动化处理,在使用前须告知 CSE(法国劳动法典第 L. 2312-38 条);应聘者须被明确告知针对其使用的方法,这些方法必须与所追求的目的相关(第 L. 1221-8 条),并且“不得通过事先未告知员工的装置收集任何涉及员工个人的信息”(我们的翻译)(第 L. 1222-4 条)。另请参阅我们的文章:未经 CSE 咨询而强推 AI。
本所在每个案件中审查的要点:
内容
生成内容、训练数据与深度伪造
哪些受保护,哪些可用于训练模型,哪些会受到处罚。
著作权保护智力作品,无论其类型、表达形式、价值或用途如何,并自创作完成之日起即产生(法国知识产权法典(Code de la propriété intellectuelle)第 L. 111-1 条和第 L. 112-1 条)。它以具有独创性、带有作者个性印记的作品为前提。
除非有相反证据,作者身份属于作品以其名义发表之人(第 L. 113-1 条);在一起争议中,一名建筑师的权利人身份被质疑,理由是作品以其公司名义发表,巴黎司法法院(tribunal judiciaire de Paris)据此推定“只有自然人才能具有作者身份”(我们的翻译)(TJ Paris, 3e ch. 2e sect., 29 mai 2026, n° 24/09710)。
未经作者同意的任何复制或表演均属非法,包括通过改编或转换进行的复制或表演(第 L. 122-4 条),侵犯著作权是轻罪(第 L. 335-2 条)。
对合法获取的作品,无论目的如何,均允许进行文本和数据挖掘,“除非作者以适当方式表示反对,特别是对于在线向公众提供的内容,以机器可读的方式表示反对”(我们的翻译)(第 L. 122-5-3 条第 III 款)。
能证明已作出实质性投资的数据库制作者,可以禁止提取和再利用其内容的实质性部分(第 L. 341-1 条和第 L. 342-1 条)。
未经同意传播由算法处理生成、呈现某人形象或言论的视听内容,若并非显而易见属于此类内容,或未明确注明,则应受处罚(法国刑法典第 226-8 条)。带有性内容的情形处罚更重,且相关条文不含上述两项保留(第 226-8-1 条)。
上述案例均不涉及由 AI 生成的内容。本所由此认为,此类内容只有在有人在其中表达了可辨识的创作性选择时才受保护。巴黎司法法院援引欧盟法院(2025 年 12 月 4 日,C-580/23)指出:“不自由且无创作性的,不仅包括作者在创作该对象时受各种限制(尤其是技术限制)约束而作出的选择,也包括那些虽然自由、但未通过赋予该对象独特外观而带有作者个性印记的选择”(我们的翻译)。该法院拒绝保护由图库素材拼合而成的照片合成作品,因其“未带有赋予其独特外观的作者个性印记”(我们的翻译),并驳回了侵犯著作权之诉(TJ Paris, 3e ch. 2e sect., 27 mars 2026, n° 24/08115)。此外,权利人还须自行指明其所主张的独创性体现在何处。
在第三方内容上训练模型,须依文本与数据挖掘例外及权利保留来判断。通用人工智能模型的提供者必须识别并遵守权利人表达的权利保留(欧盟第 2024/1689 号条例第 53 条第 1 款 c 项)。而抓取数据库,则依数据库制作者的投资来判断:最高司法法院(Cour de cassation)认为,“在提取并再利用数据库实质性部分内容的情形下,法官必须核查此种利用是否对数据库制作者投资的回收构成风险”(我们的翻译)。该院驳回了聚合平台的上诉,该平台转载了某汽车网站的广告信息(Cass. 1re civ., 15 octobre 2025, n° 23-23.167)。
深度伪造既受刑法规范,也受条例规范:生成深度伪造内容的系统的部署者须“披露该内容系由人工智能生成或操纵”(我们的翻译)(第 50 条第 4 款)。请参阅我们关于著作权的页面,以及我们的文章:未作标注而传播的深度伪造和从训练数据集中撤除照片。
诉讼
合同、责任与自动化决策
错误的输出结果、损害或算法作出的决定,由谁负责。
签约之前
一方当事人知悉对另一方的同意具有决定性的信息时,如果对方合理地不知情或信赖其合同相对方,则必须告知对方;该义务不涉及对给付价值的估计,当事人也不得限制或排除该义务(法国民法典(Code civil)第 1112-1 条)。AI 工具合同应约定各方依条例所处的角色、企业数据的使用、保密、输出内容的所有权以及保证。
不履行
债务人未履行债务或迟延履行的,除非能证明存在不可抗力,应被判令赔偿损失(第 1231-1 条)。结果义务或手段义务、服务水平或责任限制,应在发生争议之前协商确定。
对第三人造成的损害
人的任何行为致他人损害的,因其过错而发生损害之人有义务予以赔偿(第 1240 条),包括因疏忽或轻率造成的损害(第 1241 条)。未经核实即发布错误或侵权输出内容的使用者,应自行承担责任。
缺陷产品
生产者对其产品缺陷所造成的损害负责,无论其与受害人之间是否有合同关系(第 1245 条);涉及人身伤害,以及超过法令所定金额的、对产品本身以外的财产造成的损害(第 1245-1 条)。产品是“任何动产”(我们的翻译)(第 1245-2 条):条文并未说明软件或 AI 系统是否属于产品。产品“不具备人们有权合理期待的安全性”时即有缺陷(我们的翻译)(第 1245-3 条),但须受免责事由的限制,其中包括开发风险(第 1245-10 条)。
自动化决策
当事人享有“不受仅基于自动化处理(包括画像)作出的决定约束的权利”(我们的翻译),该决定对其产生法律效力或对其产生类似的重大影响;例外情形另有规定,并附带要求人工介入的权利(欧盟《通用数据保护条例》(RGPD)第 22 条)。
行政机关
基于算法处理作出的个别决定,应载有明确说明以告知当事人;当事人可以获取该处理的规则及其实施的主要特征(法国公众与行政关系法典(Code des relations entre le public et l'administration)第 L. 311-3-1 条),包括该处理对决定的贡献程度及其参数(第 R. 311-3-1-2 条)。
所期待的安全性应结合具体情况判断。最高司法法院曾撤销一家上诉法院的判决,因其排除缺陷产品责任,却“未审查考虑到各种情况,尤其是产品的呈现方式和人们可合理期待的使用方式,被指有缺陷的产品是否具备人们有权合理期待的安全性”(我们的翻译)(Cass. 1re civ., 9 décembre 2020, n° 19-17.724)。该判决涉及使葡萄酒变质的化学产品,并重申该制度除人身伤害外,只赔偿“超过 500 欧元的、因对缺陷产品本身以外的财产造成损害而产生的损害”(我们的翻译)。该制度能否适用于软件或 AI 系统,取决于其能否定性为产品,而民法典和上述判决均未对此作出裁断。2024 年 10 月 23 日的欧盟第 2024/2853 号指令就未来解决了该问题:产品“包括电力、数字制造文件、原材料和软件”(我们的翻译)(第 4 条第 1 点),适用于 2026 年 12 月 9 日(该指令的转化期限)之后投放市场或投入使用的产品(第 2 条和第 22 条)。截至 2026 年 10 月 31 日,民法典第 1245-2 条仍为 2016 年的措辞。若该制度适用,工具的呈现方式、其商业宣传和使用说明,将影响对所期待安全性的判断。
算法并不免除人的判断。就 Parcoursup 高校录取程序,最高行政法院(Conseil d'État)指出:“对每份申请作出的决定不能仅基于算法,相反,需要先由志愿审查委员会、再由学校负责人对申请的优劣作出评估”(我们的翻译)。该结论源于法国教育法典(code de l'éducation)第 L. 612-3 条,该条为 Parcoursup 所特有,并参照宪法委员会 2020 年 4 月 3 日的决定作出解释;它不是公众与行政关系法典中的一般规则。要求公开算法程序和源代码的学生工会在这一点上败诉,因为这些规定被解释为“不要求向第三方公布或提供算法处理本身及相应的源代码”(我们的翻译)(CE, 4e et 1re ch. réunies, 15 juillet 2020, n° 433297)。在劳动关系中,最高司法法院从一款配有地理定位系统、可实时追踪骑手位置并附有处罚权力的应用程序中,推断出“存在对服务履行的指挥和监督权力,构成从属关系”(我们的翻译)(Cass. soc., 28 novembre 2018, n° 17-20.079)。
信息技术纠纷适用其特有的举证和鉴定规则:请参阅我们关于信息技术诉讼、RGPD和法律科技的页面,以及我们的文章:ChatGPT 生成的诽谤性指控。
常见问题
常见问题
十四个详细解答,依据现行法律文本和经核实的判决。
人工智能律师做什么?
律师将项目或纠纷转化为适用的规则,再转化为具体行动。对于设计或集成工具的企业,律师依欧盟第 2024/1689 号条例对系统定性:是人工智能系统还是普通软件,是提供者还是部署者,是否属于禁止性做法,是高风险还是仅负有透明度义务(第 3 条、第 5 条、第 6 条和第 50 条)。随后,律师依欧盟第 2026/1744 号条例确定项目自身的时间表,并列出须准备的文件:使用政策、人工智能素养措施、对相关人员的告知、向提供者索取的文档。
律师也处理与条例并行适用的法国法律。在员工不少于五十人的企业,引入构成影响工作条件的新技术的 AI 工具,须咨询 CSE(法国劳动法典第 L. 2312-8 条),否则紧急审理法官可以暂停其使用,巴黎上诉法院于 2026 年 5 月即予以确认(CA Paris, pôle 1, ch. 2, 21 mai 2026, n° 25/13234)。生成内容涉及著作权、数据库权利和刑法问题(法国刑法典第 226-8 条和第 226-8-1 条)。
本所起草并协商 AI 工具合同,协助进行员工代表的咨询,就内容和数据的使用提供意见,并既为企业也为受 AI 系统影响的个人出庭辩护:员工、应聘者、作者、被深度伪造呈现的人。
欧盟人工智能条例(《人工智能法案》)何时适用?
分阶段适用。原文将一般适用日期定为 2026 年 8 月 2 日,并设有两个提前日期:包含定义、人工智能素养和禁止性做法的第一章和第二章,自 2025 年 2 月 2 日起适用;通用人工智能模型、治理和处罚的规则,自 2025 年 8 月 2 日起适用(欧盟第 2024/1689 号条例第 113 条)。
2026 年 7 月 8 日的欧盟第 2026/1744 号条例于 2026 年 7 月 24 日公布,修改了这一时间表。规定高风险系统要求与义务的第三章第 1 至 3 节,“自 2027 年 12 月 2 日起适用于依第 6 条第 2 款和附件三被归类为高风险的人工智能系统”(我们的翻译),而第 6 条第 1 款和附件一所指的系统则自 2028 年 8 月 2 日起适用。两项新增禁止性规定,即未经同意生成可识别个人的逼真性影像,以及生成儿童性剥削材料,自 2026 年 12 月 2 日起适用,但受新增的第 5 条第 1 款之二所定范围的限制。
同一条例给予 2026 年 8 月 2 日前已投放市场的生成式系统提供者至 2026 年 12 月 2 日的期限,用于标识其输出内容(第 111 条第 4 款),并将已投入使用、供公共机关使用的高风险系统的期限维持在 2030 年 8 月 2 日(第 111 条第 2 款)。第 50 条的透明度义务则自 2026 年 8 月 2 日起适用。本所为每个系统确定适用于它的日期。
我们公司使用 ChatGPT 或 Copilot:我们是“部署者”吗?
多数情况下是。部署者是“在自己权限下使用人工智能系统的自然人或法人,但该系统用于个人非职业活动的除外”(我们的翻译)(欧盟第 2024/1689 号条例第 3 条第 4 点)。向团队提供对话助手的企业符合这一定义,即使该工具由第三方提供。
随后,义务取决于用途。用于撰写或摘要时,主要是人工智能素养义务,即须采取措施促进员工的人工智能素养(依欧盟第 2026/1744 号条例修订后的第 4 条),以及透明度义务:生成深度伪造内容的系统的部署者须予以披露;为向公众通报公共利益事项而发布生成文本的部署者,须注明其由 AI 生成,但经人工审核并有编辑责任的除外(第 50 条第 4 款)。若该工具用于筛选简历或评估员工,则属于附件三,高风险系统部署者的义务将自 2027 年 12 月 2 日起适用(第 26 条)。
企业也可能成为提供者:若以自己的商标销售高风险系统或改变其用途(第 25 条)。劳动法另行适用:在员工不少于五十人的企业,提供 ChatGPT 被认定构成引入新技术,须咨询 CSE(CA Paris, pôle 1, ch. 2, 21 mai 2026, n° 25/13234)。请参阅我们的文章:Copilot、ChatGPT、使用章程与 CSE 咨询。
如何判断我们的 AI 系统是否“高风险”?
适用欧盟第 2024/1689 号条例第 6 条。系统在两种情形下属于高风险。第一种是系统拟用作附件一所列统一立法涵盖的产品的安全组件,或其本身即为此类产品,且该产品须经第三方合格评定。第二种是附件三所列系统:生物识别、关键基础设施、教育、就业与劳动力管理、获取基本服务、执法、移民、司法管理(第 6 条和附件三)。
附件三所列系统若“不对自然人的健康、安全或基本权利构成重大损害风险”,则不属于高风险,例如它只执行狭窄的程序性任务,或改进已完成的人类活动的结果(我们的翻译)。只要该系统对自然人进行画像,这一例外即不适用;援引该例外的提供者须在投放市场前记录其评估(第 6 条第 3 款和第 4 款)。欧盟第 2026/1744 号条例明确,仅用于用户协助、性能优化或质量控制且与安全无关的系统,不属于安全组件。
定性决定其余一切:风险管理系统、数据质量、文档、人工监督、合格评定。定性依据系统的实际用途,每当用途改变时都应重新审查。
雇主能否依据对 AI 接管任务的评估来裁减岗位?
可以,但评估必须严谨,因为它涉及雇主的安全义务。雇主“采取必要措施,确保劳动者的安全并保护其身心健康”(我们的翻译),并使这些措施适应情况的变化(法国劳动法典第 L. 4121-1 条);雇主须评估无法避免的风险,并考虑技术发展状况(第 L. 4121-2 条)。将任务转移给 AI 工具的重组,会改变留任者的工作负荷:需要衡量的正是这一风险。
克雷泰伊紧急审理法官于 2026 年 9 月作出了说明。关于取消八个编辑秘书岗位的 CSE 咨询已经结束,但认为该工具接管其约 70% 任务的评估,是“在没有相关员工参与、也没有在真实场景中实施的情况下”进行的(我们的翻译),雇主也未能证明其自己识别出的 AI 相关风险已有预防措施。法官认定就安全义务而言存在明显违法的妨害,遂暂停重组和集体解雇,直至完成真实场景测试并重新评估其他员工的工作负荷,并处每日 8 000 欧元的逾期罚款,但驳回了 CSE 请求的预付赔偿金(TJ Créteil, réf., 15 septembre 2026, n° 26/00991)。
在员工不少于五十人的企业,该项目还须咨询 CSE,其依据是可能影响员工人数或结构的措施以及引入新技术(第 L. 2312-8 条)。本所协助雇主记录评估、试验和预防措施,或协助对此提出异议的 CSE 和员工。咨询程序本身详见我们关于数字劳动法的页面。
应聘者或员工可以由 AI 评估吗?
可以,但条件严格。依劳动法,“应聘者在对其使用的招聘辅助方法和技术实施之前,须被明确告知”(我们的翻译),且这些方法必须与所追求的目的相关(法国劳动法典第 L. 1221-8 条)。不得通过事先未告知应聘者的装置收集任何涉及其本人的信息(第 L. 1221-9 条),员工同样受此规则保护(第 L. 1222-4 条)。在员工不少于五十人的企业,招聘辅助方法或技术在使用前须告知 CSE(第 L. 2312-38 条)。
欧盟条例另有规定。用于招聘、筛选简历、评估应聘者或就劳动关系作出决定的系统列于附件三,将自 2027 年 12 月 2 日起适用高风险要求;作为部署者的雇主,须在系统投入使用前告知工人代表和相关工人(第 26 条第 7 款)。在工作场所推断情绪则自 2025 年 2 月 2 日起被禁止,医疗或安全原因除外(第 5 条)。
最后,仅基于自动化处理作出、对当事人产生法律效力或类似重大影响的决定,原则上被排除,在允许的情形下当事人享有要求人工介入的权利(RGPD 第 22 条)。请参阅我们的文章:被 AI 淘汰的应聘。
AI 生成的图像或文本受著作权保护吗?
其本身不受保护。著作权仅因智力作品的创作而保护该作品(法国知识产权法典第 L. 111-1 条),前提是作品具有独创性,且作者身份以自然人为前提:“除非有相反证据,作者身份属于作品以其名义发表之人”(我们的翻译)(第 L. 113-1 条)。在审理一名建筑师对室内设计的权利人身份时,巴黎司法法院据此推定“只有自然人才能具有作者身份”(我们的翻译)(TJ Paris, 3e ch. 2e sect., 29 mai 2026, n° 24/09710)。这些判决均不涉及由 AI 生成的内容:以下为本所的分析。
因此,问题就转为人的贡献。该法院援引欧盟法院的观点,要求存在反映作者个性的、自由且具创作性的选择,并重申:“主张著作权保护的人,应当能够说明反映其个性的自由且具创作性的选择,并指明何者构成该独创性”(我们的翻译)。该法院拒绝保护由图库素材拼合而成的照片合成作品(TJ Paris, 3e ch. 2e sect., 27 mars 2026, n° 24/08115)。仅凭一条简单指令得到的输出难以主张保护;而在构图、选择、修饰或编排上体现个人选择的作品,可就该贡献获得保护。
本所协助保存创作过程的证据:先后版本、指令、修改、构图选择。本所还会核查工具的使用条款,这些条款规定输出内容的所有权和商业使用。请参阅我们的文章:用 AI 写作的小说,如何证明作者身份。
可以在网上公开发布的作品或数据上训练 AI 吗?
有条件可以。法国知识产权法典允许为文本和数据挖掘而对合法获取的作品进行复制,“除非作者以适当方式表示反对,特别是对于在线向公众提供的内容,以机器可读的方式表示反对”(我们的翻译),且复制件须在挖掘结束后销毁(第 L. 122-5-3 条第 III 款和第 L. 122-5 条第 10° 项)。通用人工智能模型的提供者还须建立遵守著作权的政策,并识别权利人表达的权利保留(欧盟第 2024/1689 号条例第 53 条第 1 款 c 项)。
数据库享有其自身的保护。能证明已作出实质性投资的制作者,可以禁止提取或再利用其数据库内容的实质性部分(第 L. 342-1 条)。最高司法法院要求法官核查该利用是否对制作者投资的回收构成风险,并驳回了一家大规模转载竞争对手广告信息的网站的上诉,因流量损失和营业额下降已经得到证实(Cass. 1re civ., 15 octobre 2025, n° 23-23.167)。
训练语料中包含的个人数据仍受 RGPD 约束。本所审查数据集的来源、权利保留和许可,或为内容被使用的权利人采取行动。请参阅我们的文章:竞争对手抓取数据库。
传播深度伪造内容会面临什么风险?
刑事定罪和民事诉讼。法国刑法典将向公众或第三人传播“由算法处理生成、呈现某人形象或言论且未经其同意的视听内容”视同剪辑(我们的翻译),前提是并非显而易见属于算法生成内容,或未对此明确注明。刑罚为一年监禁和 15 000 欧元罚金;使用在线公共传播服务的,加重至两年监禁和 45 000 欧元罚金(法国刑法典第 226-8 条)。
带有性内容的,处两年监禁和 60 000 欧元罚金;在线发布的,处三年监禁和 75 000 欧元罚金(第 226-8-1 条);该条既不设“显而易见”的保留,也不设“明确注明”的保留,因此注明内容系生成并不能排除犯罪。冒用身份以扰乱他人安宁或损害其名誉,同样是轻罪(第 226-4-1 条)。受害人还可依据尊重私生活的权利提起民事诉讼(法国民法典第 9 条)。
欧盟条例补充了这一规范体系:自 2026 年 8 月 2 日起,生成深度伪造内容的系统的部署者须注明该内容由 AI 生成或操纵(第 50 条第 4 款);自 2026 年 12 月 2 日起,未经同意生成可识别个人的逼真性影像的系统被禁止(第 5 条第 1 款 b 之二项,由欧盟第 2026/1744 号条例新增)。该禁止不针对配备了适当技术保障措施的通用生成器,也不针对并非“以生成或操纵此类材料为目的”而使用它的用户(我们的翻译)(第 5 条第 1 款之二)。本所负责对相关内容取证固定、取得其删除并提出刑事控告。请参阅我们的文章:私密深度伪造。
对话机器人或生成内容有哪些透明度义务?
即欧盟第 2024/1689 号条例第 50 条的义务,自 2026 年 8 月 2 日起适用。旨在直接与人互动的系统的提供者,在设计该系统时须使相关人员“获知其正在与人工智能系统互动”,但从正常知情且合理留意的人的角度看显而易见的除外(我们的翻译)(第 50 条第 1 款)。生成式系统的提供者须确保输出内容以机器可读格式标记,并可识别为由 AI 生成或操纵(第 50 条第 2 款);对于 2026 年 8 月 2 日前已投放市场的系统,期限延至 2026 年 12 月 2 日(第 111 条第 4 款,由欧盟第 2026/1744 号条例新增)。
部署者另有自己的义务:告知接触情绪识别或生物特征分类系统的人员(第 3 款);披露深度伪造内容,以及为向公众通报公共利益事项而发布的生成文本,但经人工审核并有编辑责任的除外(第 4 款)。欧盟第 2026/1744 号条例委托欧盟委员会鼓励制定关于标记和标注的良好实践守则,并允许其在守则不足时通过实施细则。
本所起草披露声明,核查提供者提出的标记方案,并在援引例外时留存人工审核的记录。请参阅我们的文章:如何证明生成文本经过人工审核。
违反欧盟《人工智能法案》会受到什么处罚?
高额行政罚款,具体制度由各成员国在条例框架内确定。违反第 5 条禁止性规定的,可处最高 35 百万欧元罚款,企业则为上一财政年度全球年营业额的 7%,以较高者为准(欧盟第 2024/1689 号条例第 99 条第 3 款)。
违反提供者、授权代表、进口商、分销商和部署者的义务,以及第 50 条的透明度义务,可处最高 15 百万欧元或全球营业额 3% 的罚款;向主管机关提供不准确、不完整或具误导性的信息,可处最高 7.5 百万欧元或 1% 的罚款(第 99 条第 4 款和第 5 款)。对中小企业和初创企业,适用两个金额中较低者(第 6 款)。欧盟第 2026/1744 号条例将这一较低上限规则扩大到小型中等市值企业,适用于第 4 款和第 5 款的罚款,并在受处罚的违规行为中增加了第 25 条的若干义务(修订后的第 99 条)。
处罚必须有效、相称且具有劝阻力,并考虑中小企业的利益及其经济存续能力(第 99 条第 1 款)。其他处罚并行存在:涉及个人数据时的 RGPD 罚款,以及法国法下的民事和刑事判决。本所协助企业应对检查并对处罚提出异议。
人工智能与 RGPD:个人数据适用哪些规则?
只要 AI 系统处理与已识别或可识别的个人有关的数据,无论是训练还是使用,RGPD 即适用。它要求遵守合法性、目的限制和数据最小化原则(RGPD 第 5 条),具备法律依据(第 6 条),在收集时告知当事人(第 13 条),并且在处理“尤其是使用新技术”可能对个人权利和自由造成高风险时,进行影响评估(我们的翻译)(第 35 条)。它最重要的保护是防止完全自动化:当事人享有“不受仅基于自动化处理(包括画像)作出的决定约束的权利”(我们的翻译),该决定对其产生法律效力或类似的重大影响(RGPD 第 22 条)。在合同或明确同意允许作出此类决定的情形下,当事人仍有权要求人工介入、表达意见并提出异议。
欧盟第 2026/1744 号条例新增了第 4 条之二,允许在例外情形下、在严格必要的范围内,处理特殊类别数据以检测和纠正偏见,但须同时满足下列保障条件:无法通过其他数据实现该目的、假名化、限制访问、偏见纠正后删除,以及记入处理活动记录。
公共部门适用其特有的规则。基于算法处理作出的个别决定,“应载有明确说明以告知当事人”(我们的翻译)(法国公众与行政关系法典第 L. 311-3-1 条)。就 Parcoursup,最高行政法院参照宪法委员会 2020 年 4 月 3 日的决定,解释了该程序特有的教育法典第 L. 612-3 条,认定决定不能仅基于算法,同时拒绝向第三方公开源代码(CE, 4e et 1re ch. réunies, 15 juillet 2020, n° 433297)。请参阅我们关于RGPD的页面。
AI 造成损害时,由谁负责?
由人负责,绝不是系统。视情况而定,受害人可向使用者、集成商或生产者主张权利。因过错、疏忽或轻率对他人造成损害者,应予赔偿(第 1240 条和法国民法典第 1241 条):未经核查就发布错误、诽谤或侵权输出内容的企业,须为自己的过错负责。在合同当事人之间,未履行义务(例如可用性、安全或合规方面的义务)的,除非存在不可抗力,应赔偿损失(第 1231-1 条)。
缺陷产品责任无需合同即可适用:生产者对其产品缺陷造成的损害负责(第 1245 条),无论是人身伤害,还是超过法令所定金额的、对产品本身以外财产的损害(第 1245-1 条)。缺陷须结合具体情况判断,尤其考虑产品的呈现方式(第 1245-3 条和Cass. 1re civ., 9 décembre 2020, n° 19-17.724),生产者若证明当时的知识水平无法发现该缺陷,可以免责(第 1245-10 条)。问题在于软件或 AI 系统是否属于产品:第 1245-2 条仅称“任何动产”(我们的翻译),并未明确,上述判决也未对此作出裁断。欧盟第 2024/2853 号指令明确将软件纳入产品范围,适用于 2026 年 12 月 9 日(其转化期限)之后投放市场或投入使用的产品;截至 2026 年 10 月 31 日,第 1245-2 条仍为自 2016 年 10 月 1 日起生效的措辞。
其余事项由合同分配:保证、责任限制、保险、提供者与集成商之间的追偿。本所在部署前协商这些条款,并在损害发生后构建证据:日志、版本、指令、取证记录。另请参阅我们的文章:AI 编造的判例。
人工智能律师的律师费如何确定?
除紧急情况、不可抗力或全额司法援助下的代理外,律师费须订立书面协议,依据1971 年 12 月 31 日法律第 10 条:在您作出承诺之前,即可知道委托范围涵盖什么以及费用是多少。该条还规定,律师费依惯例考虑案件的难度、已支出的费用和已完成的工作。
本所倾向于按阶段收取固定费用:依条例对系统定性、使用章程和人工智能素养计划、告知说明及 CSE 咨询的协助、AI 工具合同的起草或审查、生成内容或训练数据权利的分析、催告函、紧急审理、刑事控告、实体诉讼程序。任何新增委托均以补充协议约定,不会有未预告的收费。
如需根据材料获得初步意见,可通过本页面的表格申请案卷初步研判,费用为 80 € 含税,我们将在 24 个工作小时内提供书面分析。初次联系请致电 +33 6 89 11 34 45。
参考资料
官方法律文本与相关页面
本页面的法律来源(核实于 2026 年 11 月 1 日)以及本律所的相关业务领域。
官方法律文本
- 2024 年 6 月 13 日的欧盟第 2024/1689 号人工智能条例:定义(第 3 条)、人工智能素养(第 4 条)、禁止性做法(第 5 条)、高风险(第 6 条和附件三)、价值链与部署者(第 25 条和第 26 条)、透明度(第 50 条)、通用模型(第 53 条)、处罚(第 99 条)、适用(第 111 条和第 113 条)
- 2026 年 7 月 8 日的欧盟第 2026/1744 号条例(人工智能数字综合修订):新的第 4 条、第 4 条之二、第 5 条的新增禁止性规定、修订后的第 99 条、第 111 条和第 113 条
- 欧盟第 2016/679 号条例第 5、6、13、22 和 35 条:原则、合法性、告知、个人自动化决策、影响评估
- 2024 年 10 月 23 日的欧盟第 2024/2853 号指令:缺陷产品责任,包括软件(第 2、4 和 22 条)
- 第 L. 2312-8 条、第 L. 2312-38 条、第 L. 1221-8 条、第 L. 1221-9 条和第 L. 1222-4 条、第 L. 4121-1 条和第 L. 4121-2 条(法国劳动法典):咨询 CSE、招聘、事先告知、安全义务
- 第 L. 111-1 条、第 L. 112-1 条、第 L. 113-1 条、第 L. 122-4 条和第 L. 335-2 条(法国知识产权法典):作品、作者、非法复制、侵犯著作权
- 第 L. 122-5 条、第 L. 122-5-3 条、第 L. 341-1 条和第 L. 342-1 条(法国知识产权法典):文本与数据挖掘、数据库
- 第 226-1 条、第 226-4-1 条、第 226-8 条和第 226-8-1 条(法国刑法典):私生活、冒用身份、未经同意生成的内容
- 第 9 条、第 1112-1 条、第 1231-1 条、第 1240 条和第 1241 条(法国民法典):私生活、告知义务、合同责任与侵权责任
- 第 1245 条、第 1245-1 条、第 1245-2 条、第 1245-3 条和第 1245-10 条(法国民法典):缺陷产品责任
- 第 L. 311-3-1 条、第 R. 311-3-1-1 条和第 R. 311-3-1-2 条(法国公众与行政关系法典):基于算法处理的行政决定
- 1971 年 12 月 31 日第 71-1130 号法律第 10 条:律师费协议
引述的判决
- CA Paris, pôle 1, ch. 2, 21 mai 2026, n° 25/13234:ChatGPT 与写作助手,因未咨询 CSE 而被暂停
- TJ Nanterre, réf., 29 janvier 2026, n° 25/02856:基于 AI 的人力资源软件,咨询与暂停
- TJ Créteil, réf., 15 septembre 2026, n° 26/00991:咨询结束后,基于生成式 AI 的重组因安全义务而被暂停
- TJ Paris, 3e ch. 2e sect., 29 mai 2026, n° 24/09710:建筑师的权利人身份,只有自然人才能成为作者
- TJ Paris, 3e ch. 2e sect., 27 mars 2026, n° 24/08115:图库素材拼合的照片合成作品不具独创性
- Cass. 1re civ., 15 octobre 2025, n° 23-23.167:抓取数据库与投资回收
- Cass. 1re civ., 9 décembre 2020, n° 19-17.724:对产品所期待安全性的具体判断,可赔偿的损害
- Cass. soc., 28 novembre 2018, n° 17-20.079:算法地理定位、处罚权力、从属关系
- CE, 4e et 1re ch. réunies, 15 juillet 2020, n° 433297:Parcoursup,决定不得仅基于算法,源代码不予公开
要部署 AI 工具、要咨询 CSE,还是要对生成内容提出异议?
律所全天候(每周7天、每天24小时)可联系。请提交工具说明、供应商合同、CSE 会议通知或相关内容:Hassan Kohen 律师将依欧盟条例审查定性、适用期限和相关权利,然后向您说明适当的途径:合规整改、使用章程与咨询、合同谈判、催告函、紧急审理、刑事控告或实体诉讼。