人工智能(AI)领域正在各个领域迅速发展. 从执法到医疗保健再到幼儿园课程规划, 我们随处可见人工智能的应用. 随着人工智能如何支持业务运营的用例越来越多, 组织不会回避自动化的潮流.
根据… 2023年IBM调查, 42%的澳门赌场官方下载将人工智能集成到他们的运营中, 40%的人正在考虑为他们的组织使用人工智能. 除了, 38%的组织已经在其工作流程中实施了生成式人工智能，42%的组织正在考虑这样做.
加入欧盟人工智能法案(EU AI Act)
随着人工智能如此迅速地渗透到所有商业领域, 欧盟于2021年提出了《澳门赌场官方下载》，以规范欧洲基于人工智能的创新技术的开发和使用. 该法案于2024年3月在欧洲议会通过，两个月后获得理事会一致通过.
该法案为保护公民的基本权利提供了法律框架, 坚持道德原则，努力实现环境的可持续发展, 推动创新的同时. 该法规根据人工智能的风险概况和影响程度确定了提供商和用户的义务. 它定义了四个级别的风险——不可接受, high, limited, 最小——以及相应的强制性规则.
欧盟人工智能法案:对审计师的影响
通过新法规进行导航并保持合规性意味着组织将需要适当的人工智能治理和审计能力. 那么出现的问题是:这些审计员应该是谁? 他们应该具备什么样的技能? 它们在整个人工智能治理战略中应该扮演什么角色?
在实施该法案的过程中，组织将面临的一些关键限制是:
- 适当的技能: 澳门赌场官方下载必须克服挑战，确保现有团队拥有合适的人工智能技能，或制定可持续的招聘策略. 由于技术审计领域的熟练资源已经有限，人工智能也在不断进步, 对于管理层来说，在内部收集合适的技能将变得越来越困难.
- 算法的复杂性: 人工智能算法和模型根据用户输入和交互调整它们的行为. 这在尝试测试此类系统的输出时带来了额外的挑战. 由于算法非常复杂，反馈循环不断地重新训练人工智能模型, 在所有情况下知道(和测试)确切的输出变得极其困难.
- 厘清审核测试准则: 通常, 将法规要求转换为适当的审计测试标准在很大程度上是主观的. 在缺乏明确的指导方针和对什么可以被视为“充分”审计的理解的情况下, 监管文本存在被误解的风险，团队可能无法证明适当的遵从性.
- 第三方的作用: 在复杂的业务环境中，基于ai的系统的控制可以分布在提供者之间, 很难确定谁应该负责提供合规，以及如何以适当的方式将结果传达给监管机构.
欧盟人工智能法案成功需要合作
欧盟人工智能法案的成功实施需要各方的参与——管理层, 供应商, 监管机构和审计师. 需要在所有相关组织中嵌入适当的人工智能技能，以便该法案有效地工作并提取真正的价值. 这将是所有人了解如何测试的关键, 评估和管理这些系统，以减少人工智能对社会的潜在负面影响.
尽管面临挑战, 《澳门赌场官方下载》是确保全球人工智能生态系统健康和创新的重要一步.
编者按: 了解ISACA提供的几个人工智能审计和治理培训课程 here.
