什么是欧盟人工智能法案？
2024 年 8 月 1 日，欧盟签署并推出了有史以来第一部《人工智能法案》，这在人工智能技术监管方面达到了一个重要里程碑。该立法建立了一个通用的监管和法律框架，以确保在整个欧洲安全、合乎道德且透明地使用人工智能。
该法案将在 36 个月内全面实施，适用于欧盟境内外的公共和私营部门，只要人工智能系统在欧洲市场上可用，并且（或者）对欧盟境内的人员产生影响。
因此，开发人工智能系统的公司以及在日常运营中使用人工智能的企业，都将需要遵守新规则。
欧盟《人工智能法案》的条款在监管与创新之间建立了新的平衡。一方面，它将为人工智能行业的安全、负责任的增长与发展奠定基础，并提高对被认为存在风险的系统的认知。
另一方面，它将主要通过两种方式促进人工智能的应用。首先，这些规定将使企业对人工智能的使用更值得信赖，从而鼓励公司和机构利用这项技术。
其次，它将通过提供一个稳定、安全的环境来进行研究和促进创新，为企业和投资者提供激励。通过推动负责任的人工智能发展，该法案将有助于推动整个欧洲该行业的发展。
本文将深入探讨欧盟《人工智能法案》的关键要点，并探索您的企业如何在未来三年内准备实施并适应新的监管框架。
欧盟人工智能法案是什么？
《人工智能法案》是欧盟一项全面的法规，旨在应对与人工智能系统相关的风险，同时促进创新，并确保人工智能技术的开发、部署和使用是负责任的。
根据欧盟委员会的说法，该法案的主要目标是减轻与健康、安全和基本权利相关的风险，同时保护民主、法治和环境。
该法案将人工智能系统分为不同的风险等级，并为每个类别制定规则。
虽然该法案将适用于所有开发、部署、分发、销售或使用人工智能的组织，但用于军事或国防目的以及用于研究或创新目的的系统将被排除在外。
欧盟人工智能法案对人工智能的定义
根据欧盟《人工智能法案》，人工智能系统被定义为：
“任何基于机器的系统，能够自主运行并生成输出，例如影响物理或虚拟环境的预测、建议或决策。”
欧盟成员国早已倡导保护非歧视的基本权利。该法案将他们的承诺更进一步。通过为高风险人工智能系统整合问责制和透明度标准，安全漏洞将更容易被追踪和调查，简化了确定系统合规性的过程。
为什么欧盟人工智能法案很重要？
欧盟《人工智能法案》规定，欧洲人应该能够信任技术所提供的内容。虽然大多数人工智能系统是安全的，并带来了无数的贡献，但有些可能会带来风险，需要加以解决以避免不良后果。
随着人工智能技术在劳动力市场和私人日常生活中的使用越来越广泛，某些人工智能驱动的技术可能会带来潜在威胁，例如侵犯隐私或有偏见的决策。该法案旨在减轻这些风险并保护用户，提高人工智能在商业使用中的可靠性。
以人力资源部门使用人工智能工具自动分析求职申请和简历以简化筛选流程为例。为防止歧视，该法案将要求对用于人力资源目的的算法进行透明、全面的评估，限制人工智能在人力资源活动中的偏见性使用。
同样，如果银行使用人工智能分析信用风险和评估贷款审批，某些算法可能会根据历史数据反映出偏见，这可能会不公平地惩罚某些人群。该法案旨在通过强制进行严格的审计和道德评估，确保算法公平、无歧视，从而防止这种歧视。
换句话说，新规定旨在提高整个欧盟创建和使用的系统的标准、安全性和可靠性，禁止被认为风险过高的人工智能做法，并为人工智能系统的用户和供应商定义具体义务。
欧盟人工智能法案的目标
该法案的主要目标包括：
- 保障安全和基本权利：首先，该法案旨在保护企业和个人免受某些人工智能系统可能对其健康、安全和基本权利造成的威胁。这些包括决策的公平性、数据保护和治理，旨在使人工智能系统对用户来说更值得信赖和可靠。
- 促进创新：除了为高风险人工智能系统制定规则外，该法案还寻求提供一个明确的监管框架，以促进创新并鼓励对欧洲人工智能技术的投资。清楚掌握法律法规的公司将能够在充分了解相关条款和条件的情况下蓬勃发展并进行创新。
- 提高透明度和问责制：该法案中提高透明度和问责制的规定包括文件要求、记录保存以及与用户就他们使用的人工智能系统进行清晰的信息共享。例如，通过对人工智能参与生成内容或提供服务（如聊天机器人）保持透明，公司将提高其声誉并赢得客户的信任。
- 加强治理：除了这些规定，该法案还在欧盟和国家层面为所有 27 个成员国建立了治理结构，以监督法规的正确实施和执行。此外，它将负责确保市场上的所有系统都符合规定。因此，当一家欧盟企业决定实施人工智能工具时，它将需要遵守规定并选择符合该法案的系统。
风险类型
欧盟《人工智能法案》确定了四种类型的风险，适用于在欧洲运行的每种人工智能系统的规则各不相同：
- 不可接受的风险：任何被定义为构成 “不可接受风险” 的人工智能系统将因其潜在的危害而被禁止。这些包括用于预测性警务的系统、生物识别实时识别系统、从互联网上有针对性地读取面部图像，或用于创建面部识别的视频监控。此类别将包括许多例外情况，许多系统将根据具体情况进行评估。
- 高风险：虽然不会被禁止，但被认为构成高风险的人工智能系统将受到严格监管。采用此类系统的组织应准备好接受严格的合规审查，包括对基本权利进行风险评估、对负责监控高风险人工智能系统的员工进行培训和支持，以及跟踪这些系统产生的结果。它们包括用于生物识别、关键基础设施、教育和执法等领域的系统。
- 有限风险：这些包括用于图像和视频处理的系统以及聊天机器人。针对这些系统的规定包括告知用户他们正在与人工智能系统交互，并将所有音频、视频或照片内容标记为 “由人工智能生成”，以实现完全的透明度和问责制。
- 最低风险：风险最低的人工智能应用包括垃圾邮件过滤器或视频游戏，它们将不受任何特定监管要求的约束。
欧盟人工智能法案将如何影响企业
为了继续安全地享受人工智能带来的好处，在欧盟运营的企业将在以下方面受到影响：
- 市场准入和机会：好消息是，该法案将减少不确定性，从而改善在欧盟运营的人工智能公司的市场准入。因此，这将使公司更容易在市场上开发和部署人工智能解决方案。与此同时，该法案可能会减缓创新，特别是涉及高风险系统的创新，使我们的产品对外国投资者的吸引力降低。不过这一点还有待证实，因为目前尚无明确证据。
- 道德考量：由于该法案强烈强调道德的重要性，企业将被鼓励考虑其人工智能系统对其业务领域和整个社会的道德影响。特别是围绕偏见、基本权利和透明度等问题的道德考量。优先考虑道德实践的公司可能会通过与受众和客户建立信任以及在潜在客户中树立声誉而获得竞争优势。
- 全球影响：欧盟《人工智能法案》是同类法案中的第一部，但其影响将不仅限于欧洲。它很可能成为后续人工智能法规的参考和基准。就像希望在欧洲或欧洲范围内开展业务的公司需要遵守该法案的要求一样，合规的公司将更有能力吸引渴望开发符合道德规范的人工智能生态系统的投资者。
- 预算分配：开发高风险人工智能系统的公司将需要专门拨出预算以满足合规要求，用于与风险评估、文件编制相关的费用，并确保系统符合欧盟《人工智能法案》的要求。这些成本将根据公司及其人工智能系统的规模而有所不同，但对于确保合规性并防止制裁和罚款至关重要。
您的企业应如何为欧盟人工智能法案做准备
在《人工智能法案》实施后，您的公司将有长达 36 个月的时间进行准备、改变基础设施，并确保您的系统符合新规定。
以下是您可以为新规定做准备的方法：
- 创建详细清单：创建所有部门使用的人工智能系统的详细清单，以确定它们是否属于欧盟《人工智能法案》的范围。问问自己，这个系统的用途是什么？我们使用它的频率如何？它如何与用户和利益相关者互动？（例如用于客户服务的聊天机器人、用于数据分析的决策智能工具）。
- 评估风险水平：评估并确定您的人工智能系统的风险级别，并确定适用哪些合规要求。例如，如果您的公司使用高风险系统，如基于人工智能的医疗诊断工具来帮助检测疾病，它将需要接受定期的风险评估审查。如果您的公司使用人工智能生成图像，您将需要在您的内容中添加免责声明。
- 制定执行计划：制定并执行一项计划，以确保在该法案生效时，适当的风险管理、控制系统、监控和文件编制已准备好实施。列出所有额外步骤或要求的清单，并将它们整合到您的常规行动计划中，以实现平稳、无缝的实施。
- 关注法规更新：随时了解欧盟《人工智能法案》和人工智能相关更新的发展。该法案的实施是朝着更多监管迈出的第一步，但不会是最后一步。例如，该法案要求大型算法开发者起草一份自我监管代码，以重申他们对社会和环境可持续性以及风险预防等方面的承诺。通过关注行业更新，您将更有准备地遵守最新的修正案和要求。
欧洲在人工智能监管方面处于领先地位，为负责任的人工智能发展设定了标准。然而，随着技术的快速发展，定期更新欧盟《人工智能法案》以使其保持相关性至关重要。在接下来的三年里，该文件将进行修订和更新，包括基准、建议和调整。
然而，企业从现在就开始为这些变化做准备至关重要。
欧盟《人工智能法案》不仅提供了一套规则，还为人工智能开发者和企业提供了机会。它提供了最佳实践和道德准则，如公平性、透明度和对基本权利的尊重，这有助于塑造负责任的人工智能发展。
此外，该法案可能会为欧洲行业带来竞争优势。清晰明确的人工智能法规对欧盟来说可能是一种优势，吸引投资并培育一个专注于道德实践的生态系统。这将使欧洲成为负责任的人工智能创新的领导者。
最后，欧盟《人工智能法案》可能会创造一个更加民主的人工智能格局，使每个人受益并促进一个更具包容性的未来。通过鼓励人工智能的广泛开发和采用，该法案将促进创新和研究，使公司能够充满信心地参与这项变革性技术，并确保其好处在各个行业和整个社会中得到分配。
