引言

2024年8月1日，欧盟《人工智能法案》（EU AI Act）正式生效，成为全球首部全面监管人工智能的法规。作为提供商或者开发商来说，根据欧盟这一法案规定的要求，在欧盟市场提供的AI产品和服务系统的风险高低，与其说取决于其AI系统的复杂程度，不如说取决于其使用方式对人员、安全和基本权利所具有的影响力。具体来说，潜在现实后果越大，合规负担越重，因此风险分类成为任何部署AI的组织必须首先回答的关键问题。

综述

根据欧盟现有法案的要求，人工智能产品或者系统本身并不因为强大、复杂或能够作出决策就必然属于高风险。其关注的核心监管点和核心逻辑在于：AI系统被用于什么目的、谁可能受到影响，以及一旦出错会发生什么。

由于AI和AI系统的应用范围从垃圾邮件过滤到招聘、医疗器械和生物特征识别不等，而且，如果对每一种用途都施加相同合规负担，可能会造成监管手段的失调，而若对具有重大后果的系统监管过轻，又会造成明显漏洞，因此，欧盟没有对所有AI系统采取相同的监管方法，而是采取了基于风险的方法（risk-based approach），将监管强度与风险强度相匹配，并将“风险”定义为损害发生概率与损害严重程度的结合。这种基于风险的方法旨在建立相称且有效的规则：某些实践被禁止，高风险系统须遵守强制性要求，而某些其他AI系统则主要承担透明度义务。

如果用一句话来概括，该法案的原则其实很直接：AI系统输出可能造成的后果越大，围绕它应设置的保障措施就应越强。具体来说，法案设定了四个层级：极小或低风险；有限或透明度风险；高风险；以及不可接受风险（unacceptable risk）。通用目的人工智能模型（General-Purpose AI models, GPAI models）还受单独条款监管，但不应简单地被视为这一分级上的又一级。

分级分析

下面我们将对几个不同风险层级的合规要点进行解析。

极小或者低风险AI

处于最低端的是不属于被禁止、高风险或特定透明度类别的AI系统，它们通常被称为“极小风险”（minimal-risk）或“低风险”（low-risk）系统。比如：用于整理内部文件、过滤垃圾邮件、改进非关键搜索结果、协助日常行政工作，或支持娱乐功能的AI，且其输出不会实质性决定个人权利、安全或获取重要服务的机会。

但是，“低风险”并不意味着“没有责任”。其他欧盟立法仍可能适用，包括数据保护、消费者保护、产品安全、就业和知识产权规则。《AI法案》也鼓励针对非高风险AI系统制定自愿行为准则（voluntary codes of conduct），允许提供者和部署者自愿适用高风险框架中的部分要素。这样就可以避免把普通、低影响的AI变成不必要地繁重的合规工作。

有限或透明度风险（Limited or Transparency Risk）

这类风险可以简单的理解为“中等风险”，他们并非《AI法案》中明确定义的一类。但具体通常的事指未达到高风险分类门槛，但会造成特定欺骗、冒充或误解风险的AI。法案通过透明度义务（transparency obligations）来规范这类的AI系统和产品。具体来说，这类产品的示例和对应的合规要求，主要包括：当AI系统旨在直接与人交互时，产品/系统提供者通常必须确保告知对方其正在与AI互动，除非在当时情形下这一事实显而易见，比如聊天机器人（chatbots）及类似交互的系统就属于后者。

这一个类别，还包括法案中对生成合成音频、图像、视频或文本的系统施加透明度要求。服务提供商必须在遵守法规所规定条件和例外情况的前提下，确保以机器可读格式标记人工生成或经过篡改的输出内容，并使其能够被识别为该类内容。情感识别（emotion-recognition）或生物特征分类（biometric-categorization）系统的部署者，除了保证其使用本身合法之外，还须遵守信息告知要求。

这一中间层级的存在说明，欧盟关注的风险性质，并不仅仅是技术能力。客服聊天机器人可能不会决定就业、医疗或信贷，但其主要风险可能在于，人们会被误导，误以为自己在与人交流。因此，透明度是相称的控制措施。

高风险AI

高风险AI是监管要求显著更为严格的领域。该法案的第6条（Article 6）规定了两种被归类于高风险产品/系统的维度：

为特定欧盟产品安全立法（product-safety legislation）所覆盖产品的安全组件（safety component）使用的AI，或本身即为该产品且须接受第三方合规评估（third-party conformity assessment）的AI。

附件III列出的情形，具体包括：某些生物特征识别系统（biometric systems）；关键基础设施（critical infrastructure）中作为安全组件使用的AI；用于教育和职业培训的系统；招聘和员工管理系统；某些决定获取基本公共或私人服务的系统；以及执法、移民、庇护、边境控制、司法行政和民主程序中的特定用途。

这些系统之所以被区别对待，是因为其潜在后果。招聘工具可能影响就业机会，信用评分系统可能影响融资渠道，关键基础设施中使用的AI可能造成人身安全后果。因此，错误或偏见可能产生严重的现实影响。

需要注意的是，被列入附件III并不总是意味着评估到此结束。法案第6条规定，某些附件III系统如果不会对健康、安全或基本权利造成重大损害风险，包括不会实质性影响决策，则不视为高风险。但是，对自然人进行画像（profiling）的附件III系统始终视为高风险。

对于高风险系统，法案也不再局限于要求简单披露，而是要求做风险管理、数据治理、技术文档、记录保存、透明度和使用说明、人工监督（human oversight）、准确性、稳健性和网络安全等措施。

在上述要求中，人工监督一项尤为重要。法案具体要求AI系统或者产品的监督措施与系统风险、自主性和使用场景相称。负责监督的人员应能理解系统的能力和局限，识别自动化偏差（automation bias），解读输出，并在必要时无视、推翻、撤销或停止系统。

不可接受风险：被禁止的AI实践

在高风险之上，还有一类欧盟认定仅靠控制措施并不足够的情形。某些用途被认为与欧盟价值观和基本权利不相容的AI产品和系统，因此根据法案第5条（Article 5）被禁止，不过须符合该法案规定的确切条件和例外。

这类产品或者系统包括：某些使用潜意识、操纵性或欺骗性技术，实质性扭曲行为并造成或可能造成重大损害的AI系统；利用与年龄、残疾或特定社会或经济状况相关的脆弱性的系统；某些形式的社会评分（social scoring）；以及仅基于画像（profiling）或人格特征进行的犯罪风险预测。

《AI法案》还禁止以下行为：从互联网或闭路电视（CCTV）录像中无差别抓取人脸图像，以创建或扩展人脸识别数据库；禁止在工作场所和教育机构中使用某些情绪推断系统（emotion-inference systems）；以及禁止基于敏感特征进行特定生物特征分类。执法目的在可公开进入空间使用实时远程生物特征识别的行为，通常也被禁止，尽管该法案规定了严格限定的例外和保障措施。

分类界定建议

如上所述，可以看出，准确的区分高风险与不可接受风险AI系统或者产品很重要。对此，我们的建议是，对产品和系统的提供者或者开发者来说，要确认合规要求，要问的问题不是“我们的AI有多先进？”，而是“这种AI会被用来做什么，其输出可能产生什么后果？”。

因为《AI法案》分类逻辑考虑的事项包括预期目的（intended purpose）、所处理数据的性质和数量、系统的自主性（autonomy）、人工推翻（human override）的可能性、潜在损害的规模和强度、受影响人员是否依赖结果、是否存在权力不平衡（imbalance of power），以及结果是否容易纠正或逆转。这使《AI法案》从根本上成为一个关于后果/结果的框架。

包括评估风险分类的时候，也建议企业注意具体场景和社会影响，比如：用于对求职者进行排序的相对简单算法，可能比用于生成虚构图像的复杂生成式模型受到更严格的监管审查，因为前者可能直接影响一个人的生计。

小结

AI是一项适用场景非常广泛的技术，很难用单一规则进行合理监管。欧盟的做法总体来说，可以理解为基于风险的模型试图在保护健康、安全和基本权利的同时，不把每一种AI应用都视为同等危险。所以，欧盟这一法案的明确表示的目的，既包括促进以人为本且可信的AI（human-centric and trustworthy AI），也包括确保高水平保护，同时支持创新。

因此，对企业而言，首要合规任务是分类：理解预期目的，识别谁可能受到影响，确定可能损害的严重程度和发生概率，然后确定随之适用哪些义务。

根据欧盟《AI法案》，问题不只是某个系统是否使用人工智能。更重要的问题是，其使用赋予该系统对人员、安全和基本权利多大的现实世界影响力，以及围绕这种影响力的保障措施是否与后果相称。