初学者

EU AI Act — 你需要知道的事项

⏱ ~40 时长 · 9 模块
为什么重要?

EU AI Act (Regulation 2024/1689) 自2024年8月起生效。AI Literacy 义务 (Art. 4) 自2025年2月2日起适用——现在,而不是从2026年8月开始。自2026年8月起,高风险义务和政府监管将生效。缺乏知识不是保护:可能面临高达3500万欧元或全球年营业额7%的罚款。扎实的知识可以保护您的企业。

您将学到什么

您了解EU AI Act的四个风险类别,理解自2025年和2026年起适用的义务,并能够评估您组织中的AI系统是否属于高风险要求。

Video

我们为什么需要AI监管?— Janelle Shane(TED,12分钟)

完美入门:Janelle Shane 通过真实案例展示了为何不受控制的AI会导致意想不到的结果——这也正是为什么EU AI Act是必要的原因。

Lesen

法律及其逻辑

~15 Min

欧盟 AI 法案 — 基础


重要信息

Regulation (EU) 2024/1689 — 自 2024年8月1日生效。 世界上首个全面的AI法律。 适用于在欧盟使用AI的任何人 — 无论AI是在哪里开发的。


原则:风险越高,要求越严格

欧盟 AI 法案是基于风险的。并非所有AI都具有相同的危险性。 垃圾邮件过滤器与决定信用度的系统不同。

不可接受的风险  →  禁止
高风险          →  严格义务 + 许可
有限风险        →  透明度义务
最低风险        →  几乎无限制(大多数AI)

时间表 — 何时生效?

日期 规定
2024年8月 法律生效
2025年2月 禁止的实践生效
2025年8月 基础模型的规则(GPT, Claude等)
2025年2月 AI素养义务 (Art. 4) + 禁止的实践 (Art. 5)
2026年8月 高风险义务 + 政府监督/执行
2027年8月 某些产品类别的过渡期

谁会受到影响?

角色 定义 示例
提供者 开发AI并将其推向市场 AI初创公司,软件提供商
运营者 在自身运营中使用AI 您的公司
受影响者 受AI决策影响的人 申请人,借款人,患者

作为公司,您通常是运营者 — 具有具体的义务。


处罚

违规行为 最高罚款
禁止的实践 (Art. 5) 3500万欧元或年营业额的7%
高风险要求 1500万欧元或年营业额的3%
虚假陈述 750万欧元或年营业额的1.5%

继续阅读: 详细风险类别 →

Quiz

快速检查:法律

1. EU AI Act 适用于哪些人?

2. AI Literacy 义务何时生效 (Art. 4 EU AI Act)?

Lesen

4个风险类别

~15 Min

四个风险等级详解


等级 1 — 禁止(自2025年2月起)

八种做法是绝对禁止的:

禁止的做法 原因
潜意识操控 侵犯自主权
利用弱点 需要保护的群体
政府的社会评分 基本权利侵犯
预测性警务(个人) 无罪推定
生物特征大规模监控 不成比例
工作/学校的情感识别 操控潜力
生物特征分类(出身等) 歧视风险
通过抓取建立面部数据库 数据保护

实践检查: 您的公司是否计划其中之一?→ 立即停止。没有过渡期。


等级 2 — 高风险(自2026年8月起全面实施)

这些领域的AI被自动视为高风险:

领域 典型应用
就业 求职者筛选、绩效评估、解雇
基本服务 贷款发放、社会福利、保险
教育 入学决策、考试评估
关键基础设施 电力、水、交通
执法 风险评估、证据分析
移民 签证决策、边境控制
司法 判决支持

高风险系统运营者必须做的事情:

  1. 建立风险管理系统
  2. 记录数据管理实践
  3. 创建技术文档
  4. 启用自动日志记录
  5. 确保人工监督
  6. 确保准确性、稳健性、网络安全
  7. 培训员工 ← 此课程符合Art. 4

等级 3 — 有限风险(透明度)

与人互动的AI必须表明其身份。

具体:

  • 聊天机器人必须表明自己是AI
  • AI生成的文本/图像/视频必须标识
  • 深度伪造必须标记为此类

立即行动需求 对于拥有AI聊天机器人的公司——这些义务已经生效。


等级 4 — 最小风险

垃圾邮件过滤器、产品推荐、视频游戏中的AI——基本不受监管。 建议自愿行为准则,无法律义务。


快速测试:您的系统属于哪个等级?

问题 1:该应用是否属于Annex III(高风险领域)?
  → 是: 高风险义务自2026年8月起
  → 否: 继续到问题 2

问题 2:AI是否与人互动或生成可见内容?
  → 是: 透明度义务(等级 3)
  → 否: 最小风险(等级 4)

不确定?→ 寻求法律咨询。与罚款相比,费用很低。

返回: 法律 | 继续: 这对您的意义 →

Praxisfall

实践案例:新的HR工具

Situation

你的公司购买了一款评估员工绩效并提供加薪建议的AI工具。供应商表示:“这只是一个决策支持工具,不是真正的AI。”

这是否属于EU AI Act的范围——如果是,属于哪个类别?
Lösung anzeigen

是的——以及高风险 (Annex III: 就业)。 “决策支持”不是免死金牌。 如果AI对就业决策有影响——无论如何包装——都属于高风险。 义务:风险评估、文档记录、人类监督、员工培训。在使用之前,而不是之后。

Häufige Fehler:
✗ 提供商认为这“不是一个真正的AI”
该法案从技术上定义了AI——而不是供应商。可疑的声明应提交给主管机关进行审查。
Merke

一览风险类别

  • Verboten: Social Scoring, Emotionserkennung Arbeit/Schule, Massenüberwachung
  • Hochrisiko: Beschäftigung, Kredit, Bildung, Infrastruktur, Justiz
  • Begrenztes Risiko: Chatbots müssen sich als KI zu erkennen geben
  • Minimal: Spam-Filter, Empfehlungen — kaum Pflichten
Lesen

这对我意味着什么

~10 Min

EU AI Act 对您的企业意味着什么


立即采取行动 — 现在,而不是 2026 年

一些义务已经生效:

义务 生效日期 适用对象
避免禁止的实践 2025年2月 所有人
聊天机器人标识义务 2026年8月* 操作员
员工培训(AI素养) 2026年8月 所有操作员
高风险文档 2026年8月 高风险操作员

*技术上自2026年8月起全面生效,建议现在准备


作为操作员的您的义务

步骤1:现状评估 您的企业使用哪些AI系统?为每个系统填写:

  • 系统名称和用途
  • 供应商
  • 受影响群体
  • 风险等级(→ 快速测试模块2)

步骤2:优先处理高风险系统 对于每个高风险系统,截止到2026年8月:

  • 建立风险管理系统
  • 检查数据保护影响评估(DPIA)
  • 记录人工监督
  • 培训员工

步骤3:证明AI素养 Art. 4 要求操作员确保员工具备*“足够的AI能力”*。此课程 + 评估 = 您的证明。


受影响者的权利

当AI对您的客户、员工或申请人做出决定时:

权利 基础 受影响者可以要求的内容
透明度 Art. 13 EU AI Act 解释AI功能
人工审核 DSGVO Art. 22 人工审核
信息权 DSGVO Art. 15 处理了哪些数据
更正权 DSGVO Art. 16 更正错误数据

采购AI的三个问题

在您的企业购买或许可AI系统之前:

  1. “您如何向我解释错误决策?” — 没有解释模型 = 不购买。
  2. “您使用了哪些训练数据,并基于什么法律依据?” — 缺乏法律依据会给您作为操作员带来负担。
  3. “如果您的系统导致歧视,谁负责?” — “客户”不是答案。

返回: 风险等级 | 开始评估 →

Reflexion

你的AI系统

贵公司使用哪些AI系统——它们属于哪个风险类别?

请记住:申请工具、聊天机器人、信用/评分系统、推荐算法……

Beispiele:
  • HR-System mit KI-Unterstützung → wahrscheinlich Hochrisiko
  • Kundenservice-Chatbot → begrenztes Risiko (Offenbarungspflicht)
  • Produktempfehlungen im Shop → minimales Risiko
Wird nur in deinem Browser gespeichert.
Merke

你的收获

  • Feb 2025: AI Literacy (Art. 4) + Verbote (Art. 5) gelten jetzt
  • August 2026: Hochrisiko-Pflichten + behördliche Aufsicht starten
  • Strafen: bis 35 Mio EUR oder 7% Umsatz
  • Kernfrage: Fällt mein System unter Hochrisiko?
  • Hochrisiko: erst prüfen, dann einsetzen
  • Chatbots: müssen sich als KI zu erkennen geben

准备好进行评估了吗?

课程完成!开始评估。

开始评估 →