EU AI Act — 你需要知道的事项
EU AI Act (Regulation 2024/1689) 自2024年8月起生效。AI Literacy 义务 (Art. 4) 自2025年2月2日起适用——现在,而不是从2026年8月开始。自2026年8月起,高风险义务和政府监管将生效。缺乏知识不是保护:可能面临高达3500万欧元或全球年营业额7%的罚款。扎实的知识可以保护您的企业。
您了解EU AI Act的四个风险类别,理解自2025年和2026年起适用的义务,并能够评估您组织中的AI系统是否属于高风险要求。
我们为什么需要AI监管?— Janelle Shane(TED,12分钟)
完美入门:Janelle Shane 通过真实案例展示了为何不受控制的AI会导致意想不到的结果——这也正是为什么EU AI Act是必要的原因。
法律及其逻辑
~15 Min欧盟 AI 法案 — 基础
重要信息
Regulation (EU) 2024/1689 — 自 2024年8月1日生效。 世界上首个全面的AI法律。 适用于在欧盟使用AI的任何人 — 无论AI是在哪里开发的。
原则:风险越高,要求越严格
欧盟 AI 法案是基于风险的。并非所有AI都具有相同的危险性。 垃圾邮件过滤器与决定信用度的系统不同。
不可接受的风险 → 禁止
高风险 → 严格义务 + 许可
有限风险 → 透明度义务
最低风险 → 几乎无限制(大多数AI)
时间表 — 何时生效?
| 日期 | 规定 |
|---|---|
| 2024年8月 | 法律生效 |
| 2025年2月 | 禁止的实践生效 |
| 2025年8月 | 基础模型的规则(GPT, Claude等) |
| 2025年2月 | AI素养义务 (Art. 4) + 禁止的实践 (Art. 5) |
| 2026年8月 | 高风险义务 + 政府监督/执行 |
| 2027年8月 | 某些产品类别的过渡期 |
谁会受到影响?
| 角色 | 定义 | 示例 |
|---|---|---|
| 提供者 | 开发AI并将其推向市场 | AI初创公司,软件提供商 |
| 运营者 | 在自身运营中使用AI | 您的公司 |
| 受影响者 | 受AI决策影响的人 | 申请人,借款人,患者 |
作为公司,您通常是运营者 — 具有具体的义务。
处罚
| 违规行为 | 最高罚款 |
|---|---|
| 禁止的实践 (Art. 5) | 3500万欧元或年营业额的7% |
| 高风险要求 | 1500万欧元或年营业额的3% |
| 虚假陈述 | 750万欧元或年营业额的1.5% |
继续阅读: 详细风险类别 →
快速检查:法律
1. EU AI Act 适用于哪些人?
2. AI Literacy 义务何时生效 (Art. 4 EU AI Act)?
4个风险类别
~15 Min四个风险等级详解
等级 1 — 禁止(自2025年2月起)
八种做法是绝对禁止的:
| 禁止的做法 | 原因 |
|---|---|
| 潜意识操控 | 侵犯自主权 |
| 利用弱点 | 需要保护的群体 |
| 政府的社会评分 | 基本权利侵犯 |
| 预测性警务(个人) | 无罪推定 |
| 生物特征大规模监控 | 不成比例 |
| 工作/学校的情感识别 | 操控潜力 |
| 生物特征分类(出身等) | 歧视风险 |
| 通过抓取建立面部数据库 | 数据保护 |
实践检查: 您的公司是否计划其中之一?→ 立即停止。没有过渡期。
等级 2 — 高风险(自2026年8月起全面实施)
这些领域的AI被自动视为高风险:
| 领域 | 典型应用 |
|---|---|
| 就业 | 求职者筛选、绩效评估、解雇 |
| 基本服务 | 贷款发放、社会福利、保险 |
| 教育 | 入学决策、考试评估 |
| 关键基础设施 | 电力、水、交通 |
| 执法 | 风险评估、证据分析 |
| 移民 | 签证决策、边境控制 |
| 司法 | 判决支持 |
高风险系统运营者必须做的事情:
- 建立风险管理系统
- 记录数据管理实践
- 创建技术文档
- 启用自动日志记录
- 确保人工监督
- 确保准确性、稳健性、网络安全
- 培训员工 ← 此课程符合Art. 4
等级 3 — 有限风险(透明度)
与人互动的AI必须表明其身份。
具体:
- 聊天机器人必须表明自己是AI
- AI生成的文本/图像/视频必须标识
- 深度伪造必须标记为此类
立即行动需求 对于拥有AI聊天机器人的公司——这些义务已经生效。
等级 4 — 最小风险
垃圾邮件过滤器、产品推荐、视频游戏中的AI——基本不受监管。 建议自愿行为准则,无法律义务。
快速测试:您的系统属于哪个等级?
问题 1:该应用是否属于Annex III(高风险领域)?
→ 是: 高风险义务自2026年8月起
→ 否: 继续到问题 2
问题 2:AI是否与人互动或生成可见内容?
→ 是: 透明度义务(等级 3)
→ 否: 最小风险(等级 4)
不确定?→ 寻求法律咨询。与罚款相比,费用很低。
实践案例:新的HR工具
你的公司购买了一款评估员工绩效并提供加薪建议的AI工具。供应商表示:“这只是一个决策支持工具,不是真正的AI。”
Lösung anzeigen
是的——以及高风险 (Annex III: 就业)。 “决策支持”不是免死金牌。 如果AI对就业决策有影响——无论如何包装——都属于高风险。 义务:风险评估、文档记录、人类监督、员工培训。在使用之前,而不是之后。
一览风险类别
- Verboten: Social Scoring, Emotionserkennung Arbeit/Schule, Massenüberwachung
- Hochrisiko: Beschäftigung, Kredit, Bildung, Infrastruktur, Justiz
- Begrenztes Risiko: Chatbots müssen sich als KI zu erkennen geben
- Minimal: Spam-Filter, Empfehlungen — kaum Pflichten
这对我意味着什么
~10 MinEU AI Act 对您的企业意味着什么
立即采取行动 — 现在,而不是 2026 年
一些义务已经生效:
| 义务 | 生效日期 | 适用对象 |
|---|---|---|
| 避免禁止的实践 | 2025年2月 | 所有人 |
| 聊天机器人标识义务 | 2026年8月* | 操作员 |
| 员工培训(AI素养) | 2026年8月 | 所有操作员 |
| 高风险文档 | 2026年8月 | 高风险操作员 |
*技术上自2026年8月起全面生效,建议现在准备
作为操作员的您的义务
步骤1:现状评估 您的企业使用哪些AI系统?为每个系统填写:
- 系统名称和用途
- 供应商
- 受影响群体
- 风险等级(→ 快速测试模块2)
步骤2:优先处理高风险系统 对于每个高风险系统,截止到2026年8月:
- 建立风险管理系统
- 检查数据保护影响评估(DPIA)
- 记录人工监督
- 培训员工
步骤3:证明AI素养 Art. 4 要求操作员确保员工具备*“足够的AI能力”*。此课程 + 评估 = 您的证明。
受影响者的权利
当AI对您的客户、员工或申请人做出决定时:
| 权利 | 基础 | 受影响者可以要求的内容 |
|---|---|---|
| 透明度 | Art. 13 EU AI Act | 解释AI功能 |
| 人工审核 | DSGVO Art. 22 | 人工审核 |
| 信息权 | DSGVO Art. 15 | 处理了哪些数据 |
| 更正权 | DSGVO Art. 16 | 更正错误数据 |
采购AI的三个问题
在您的企业购买或许可AI系统之前:
- “您如何向我解释错误决策?” — 没有解释模型 = 不购买。
- “您使用了哪些训练数据,并基于什么法律依据?” — 缺乏法律依据会给您作为操作员带来负担。
- “如果您的系统导致歧视,谁负责?” — “客户”不是答案。
你的AI系统
贵公司使用哪些AI系统——它们属于哪个风险类别?
请记住:申请工具、聊天机器人、信用/评分系统、推荐算法……
- HR-System mit KI-Unterstützung → wahrscheinlich Hochrisiko
- Kundenservice-Chatbot → begrenztes Risiko (Offenbarungspflicht)
- Produktempfehlungen im Shop → minimales Risiko
你的收获
- Feb 2025: AI Literacy (Art. 4) + Verbote (Art. 5) gelten jetzt
- August 2026: Hochrisiko-Pflichten + behördliche Aufsicht starten
- Strafen: bis 35 Mio EUR oder 7% Umsatz
- Kernfrage: Fällt mein System unter Hochrisiko?
- Hochrisiko: erst prüfen, dann einsetzen
- Chatbots: müssen sich als KI zu erkennen geben