生成式 AI 治理：提升 AI 程序水平的 10 个技巧

通过这本必做指南掌控新一代 AI 治理

如果你曾经听过这个故事，请告诉我们：一家大型跨国公司，或者任何一个受复杂监管条例约束的组织，都希望将 AI 添加到他们的技术工具包中。他们要么从 AI 试点开始来评估可行性，要么甚至不知道从何着手。无论哪种方式，定制的 AI 审查流程以及 AI 与监管不确定性的交叉都会导致进展缓慢且效率低下。最终，他们决定将 AI 搁置到未来的某个时刻。

问题是，未来就在眼前，竞争对手已经意识到了这一点，对于组织来说，重要的是积极依靠 AI 来帮助实现他们的目标，而不是逃避它。

Google Cloud 负责 AI 和商业解决方案的全球副总裁 Phil Moyer 在一篇关于在数据治理和技术发展之间取得适当平衡的专栏中表示，这个问题“至关重要”且“紧迫”。

“当今的领导者热衷于采用生成式 AI 技术和工具。然而，在决定如何使用它之后的下一个问题仍然是，‘如何确保 AI 模型的风险管理和治理，’”他写道。“特别是，在商业环境中使用生成式 AI 可能会带来准确性、隐私和安全、监管合规性和知识产权侵权等各种风险。”

与其他形式的数字创新一样，创建程序化、可重复的结构有助于实现评估 AI 用例的一致方法。它还支持全面的监督，考虑与安全和合规实施相关的各个方面。

使用 AI 还可以帮助缓解许多挑战，包括员工负担过重、威胁过载和人才缺口。调整组织内的目标、角色和职责以及适当的升级路径对于保持持续的生存能力和成功至关重要。第一步，定义您的治理结构，并在整个组织的 AI 创新战略背景下清楚地阐明其角色。

为了帮助组织应对这些挑战，我们概述了 10 种最佳实践，以大规模简化并实施 AI 部署。

1. 识别来自不同学科的关键利益相关者，让他们利用其主题专业知识来评估 AI 计划。不同组织的头衔有所不同，但通常包括以下职能部门的代表：IT 基础设施、信息安全、应用程序安全、风险、合规性、隐私、法律、数据科学、数据治理和第三方风险管理团队。

2. 定义组织的 AI 指导原则，以阐明基本要求和期望，以及明确超出范围的用例。指导原则应该灵活且不要过于刻板，体现组织不会偏离的承诺；例如，注重保护客户隐私，或确保有人参与审查 AI 针对某些用例生成的决策。例如，请参阅 Google 的 Responsible AI 原则。

3. 使用 Google 安全 AI 框架(SAIF) 等框架来确保 AI 的安全性和一致性。然而，要小心安全框架陷阱——框架只是一个工具，它的使用不应该与实现你的目标相混淆。相反，像 SAIF 这样的框架是有助于实现 AI 的一种方法，可以确保其多个方面得到全面考虑。例如，将 AI 工具库存纳入技术变更管理流程，以确保 AI 部署保持最新状态，或者再举一个例子，将 AI 部署纳入威胁管理演习，同时考虑到 AI 所针对的新型攻击。工具很容易受到影响。

4. 记录并实施 AI 设计、开发、部署和运营的相关政策和程序。这些资源的所有权通常因团队而异，有效的 AI 治理监督需要共同努力来保持准确性、完整性和一致性。

5. 阐明与组织战略和风险偏好相关的 AI 用例。按照业务优先级和可能造成的风险程度对它们进行排名，并相应地定制安全和数据保护控制措施。

6. 插入组织的数据治理计划，因为 AI 模型通常需要高质量的数据，这些数据应该被适当地获取、清理和标准化。仔细选择数据集并根据您的特定需求调整 AI 模型也有助于最大限度地减少产生幻觉的可能性和及时注入的风险。

7. 与您的合规、风险和法律利益相关者密切合作。 AI 监管是一个快速发展的领域，与监管要求保持密切一致对于维持组织的合规态势并为整体治理流程提供信息至关重要。

8. 建立升级渠道，以便在出现问题时有明确的途径得到解答。虽然一些组织可能希望将内部查询发送给法律、合规或信息安全部门，但其他组织可能更愿意授权指定的委员会做出决策。

9. 实施机制，向内部利益相关者（高级管理层、董事会）和外部利益相关者（例如相关监管机构）提供每个 AI 计划状态的可见性。

10. 制定专门的 AI 培训计划，以支持整个组织范围内对与 AI 相关的关键概念和潜在挑战的理解。根据员工的角色为员工量身定制内容的模块化、重点突出的方法也可能有助于支持技能发展和对要避免的风险的广泛理解，例如影子 AI 的使用。

您的下一代 AI 治理之旅的下一步是什么？

任命一位 “AI 管理者”来开始对话。该高管应该了解组织的 AI 战略和协作方法，将来自不同学科的利益相关者聚集在一起，同时清楚地传达 AI 的业务案例，以及整个组织应如何实现这一目标。当您踏上这一旅程时，可以参考的Google Cloud Generative AI Skills Boost，作为实用、动手学习的宝贵资源。

有关保护 AI 的更多信息，请参阅我们的论文“保护 AI：相似或不同”和“ Google Cloud 的 AI 信任方法”。