《人工智能法》:首批条款正式生效
吉安保罗·托迪斯科——合伙人
2025年2月2日标志着《人工智能法案》的一个重要里程碑,欧盟层面的首批法规将于该日正式生效。该法规为所有成员国建立了一个统一的法律框架,对在欧盟境内开发、销售或使用人工智能系统的各方制定了共同规则。 其主要目标是减少监管碎片化,保护《欧盟基本权利宪章》第1条所确立的基本权利,并促进符合《尼斯宪章》的内部市场发展。
相关方
新规定主要涉及以下两类:
• 人工智能开发商和供应商,必须确保其系统在投放市场前符合《人工智能法案》规定的标准。
• 在受监管行业运营的最终用户和组织,必须遵守相关规定,特别是针对被归类为高风险的应用程序。
企业及组织的主要义务
自2025年2月2日起,使用人工智能的企业和组织必须遵守两项主要义务:
1. 禁止存在不可接受风险的人工智能实践
《人工智能法案》采用基于风险分类的方法,将人工智能系统分为四类:
• 风险极低:如反垃圾邮件过滤器等系统,不受法规限制。
• 风险有限:诸如聊天机器人等应用程序,须遵守透明度要求。
高风险:用于关键领域(医疗、司法、人员评估)的系统,需遵守严格的合规要求并接受严格监控。
不可接受的风险:自2025年2月2日起禁止此类做法。
禁止的行为包括:
• 潜意识或欺骗性操控,即在未经同意的情况下影响行为的手段。
• 利用特定群体的弱势处境,例如未成年人或残疾人。
• 社交评分,即基于个人数据的声誉评估系统,具有歧视性影响。
• 在公共场所进行实时生物识别身份验证,但特定情况除外。
• 在工作、教育等敏感场合识别情绪。
• 通过“数据抓取”(即未经授权地在线收集生物识别数据)建立生物识别数据库。
企业必须确保其产品和服务中不采用此类做法。违规行为可能面临最高3500万欧元或全球年度营业额7%的罚款,以较高者为准。
1. 人工智能素养义务
《人工智能法案》第4条要求企业和公共行政部门就人工智能的运作方式及风险提供适当的培训。这一义务也适用于那些虽未直接从事科技行业,但在自身业务流程中使用人工智能的实体。
• 所需措施包括:
• 针对员工开展的关于人工智能机遇与风险的培训项目。
• 关于负责任地使用人工智能的内部指南。
2. 提高对人工智能伦理与法律影响的认识。
《人工智能法案》不仅适用于在欧盟境内设立的供应商,也适用于其系统在欧盟境内被使用的非欧盟供应商。
后续步骤和新要求
《人工智能法案》将分阶段实施,未来几年内将设有若干关键节点。
3. 2025年8月
关于人工智能治理以及通用人工智能模型义务的具体规定将正式生效。企业必须:
• 对系统的测试和开发工作进行详细记录。
• 采用标准化流程,以确保系统全生命周期内的安全性。
• 定期进行合规性评估。
若不遵守这些规定,将面临严厉处罚。
4. 2026年8月
《人工智能法案》将全面生效,并适用于所有人工智能系统,包括被列为高风险的系统。各组织必须采取进一步措施,包括:
• 开展影响评估,以识别和缓解风险。
• 持续监控,以检测人工智能系统中的异常情况。
结论
《人工智能法案》是欧洲人工智能监管领域迈出的关键一步,旨在确保技术发展既安全又尊重基本权利。企业和组织必须逐步适应新的义务,以避免受到处罚,并确保人工智能得到合乎伦理且负责任的使用。
双击以进行编辑...