大多数公司没有的人工智能挑战

几个月前，我参加了由哈佛法学院主办的GC AI峰会。如预期，会议中有大量关于AI工具、治理框架、新兴法规以及法律职业未来的讨论。

有一个讨论话题比其他话题更突出：大多数组织只需考虑如何部署AI，而我们必须考虑如何部署AI以及如何开发AI。

大多数公司是“AI部署者”，意味着他们在内部使用AI来提高生产力、自动化工作流程、增强决策能力并创造运营效率。他们面临的挑战是如何在管理风险的同时负责任地采用AI。

科技公司越来越多地面临不同的挑战，因为它们同时也是“AI开发者”，意味着它们构建帮助客户利用AI的产品，同时应对自身的监管、安全和治理要求。

我们处于既是AI部署者又是AI开发者的交汇点。我们在自身组织内部署AI，同时帮助客户理解、管理、保护并遵守快速发展的AI环境。这带来了独特的挑战，也带来了独特的机遇。

法律部门处于应对两大挑战的核心位置

传统上，法律团队负责了解外部力量如何影响公司的运作：

• 各国政府引入新法规
• 行业标准在不断发展
• 客户期望发生变化

法务的角色是解读这些力量，评估风险，并帮助企业成功应对。人工智能并未改变这一责任，而是扩大了它。

如今，人们越来越期望Legal帮助回答不仅仅是纯法律方面的问题：

• 我们应该如何在内部管理人工智能？
• 哪些风险是可以接受的？
• 应该存在哪些安全防护措施？
• 我们如何平衡创新与问责？
• 我们如何维护与客户、员工、监管机构和投资者的信任？

这些问题通常会落到总法律顾问的桌上，因为Legal能够全面了解整个组织。与大多数职能不同，我们同时跨部门、产品、客户、监管机构和市场运作。

此次峰会强化了我与团队长期观察和执行的一点：法律部门的角色正从顾问转变为协调者。不是因为律师突然掌控所有决策，而是因为需要有人将所有活动部分连接起来。

决定成功的三个问题

峰会中最有用的框架之一是，使用AI的组织最终需要回答三个问题。

1. 我们如何衡量人工智能带来的收益？

关于人工智能的大多数讨论都始于对可能性的兴奋。真正关注我们是否在创造价值的讨论则少得多：

• 我们是否在减少重复工作的时间？
• 我们是否在改善决策？
• 我们是否在帮助员工专注于更高价值的活动？
• 我们是否为客户创造了更好的成果？

取得最大影响的组织并非仅仅因为大家都在使用而部署AI。他们识别具体的业务问题，并衡量AI是否有助于解决这些问题。单纯采用技术不是目标，业务成果更为重要。

2. 我们如何看待效率和质量？

历史上，组织一直将速度、质量和成本视为相互竞争的因素：

• 动作更快，质量就会受影响
• 提高质量和成本增加
• 降低成本并减少速度减慢

人工智能有潜力重塑这一方程式，但前提是组织必须有意图地使用它。

峰会多次回到一个许多组织仍在努力回答的问题：我们如何在人工智能驱动的世界中衡量质量？效率相对容易衡量，但质量则难得多。对于法律团队来说，这意味着要问人工智能是否帮助我们做出更好的决策、更早发现问题、提高一致性，并创造更好的结果，而不仅仅是更快完成任务。未来不会属于那些仅仅追求最大化效率的组织，而是属于那些同时提升效率和质量的组织。

3. AI如何影响信任？

这可能是最重要的问题。如果员工不信任AI，他们就不会使用它。如果客户不信任你如何使用AI，他们就不会与你做生意。如果监管机构不信任你的治理，他们会为你制定治理。如果董事会不信任结果，他们将继续向管理层寻求答案。

一位演讲者简单总结道：“董事会不信任AI。他们信任你。”技术可以生成建议。技术可以加速工作流程。技术可以提供洞察。但责任依然是人的。信任依然是人的。领导力依然是人的。随着AI变得更强大，信任变得更加宝贵。

我从Microsoft、Workday及其他领导者那里听到的

虽然峰会涵盖了从哈佛教授到内部法律领导者再到法律运营高管的多场会议，但在非常不同的视角中出现了一组一致的主题。

由 Bjarne Tellman (FjordStream Advisors) 主持的会议将挑战定义为“结构化速度”。他的观点是，组织不仅仅是在采用AI工具，而是在构建必须安全扩展智能的系统。在他看来，法务部门的角色不是阻碍创新，而是创建允许快速且不脆弱的治理和数据结构。他将此描述为“AI工厂”模型的基础：一个自我强化的系统，数据、治理和学习随着时间不断提升输出。

来自 Microsoft在Corporate, External, and Legal Affairs (CELA)的领导，信息更具操作性和指导性。该组织正在积极将Legal重新架构为咨询和开发职能，构建内部AI工具、监管情报系统和基于代理的工作流程，以减少手动研究，转而专注于更高价值的监管和政策参与。贯穿始终的信息很明确：法律团队不再只是技术的消费者；他们正在成为技术的构建者。

对于 Workday，讨论集中在组织如何负责任地大规模运营人工智能。所描述的模型从原则到实践再到人员，得到一个结构化治理体系的支持，该体系由法律、隐私和工程部门共同监督人工智能开发。一个反复出现的主题是，成功采用人工智能更多取决于组织是否能够设计出允许在整个企业中一致且安全使用人工智能的接收、风险分类和问责系统，而非单个工具。

在所有会议中，包括来自大型企业法律和运营团队的案例，讨论始终回到几个实际挑战：如何构建企业数据以便AI系统能够真正使用，如何从事项和合同“抽屉”转向集成知识系统，以及如何将质量保证嵌入AI驱动的工作流程，以便大规模信任输出结果。

部署者-开发者悖论

对于像我们这样的公司，在应对deployer-developer悖论时，这些问题变得更加重要，因为我们同时从两个角度回答它们。作为AI deployer，我们需要了解不断变化的法律、法规和公众期望如何影响我们自己的组织。作为AI developer，我们需要了解这些发展如何影响我们的客户。这意味着我们不断同时关注两个方向：

1. 向内。 我们如何负责任地使用AI？我们如何治理它？我们如何在促进创新的同时管理风险？
2. 向外。 我们如何帮助客户解决这些相同的问题？他们需要哪些能力？哪些控制措施重要？他们需要哪些证据来证明合规、安全和负责任的治理？

我们对一方了解得越深入，就越能有效解决另一方的问题。这创造了许多组织所没有的优势：我们不仅仅是在观察这些挑战，而是在亲身经历它们。

在许多方面，这使我们处于一个独特的位置，能够塑造组织对AI治理、风险管理和信任的看法。

速度需要结构

在峰会期间反复出现的另一个主题是创新与治理之间的紧张关系。全球各地的组织都在竞相采用AI。有些谨慎行事，有些鲁莽行事。大多数都在努力寻找正确的平衡。

一位演讲者将目标描述为创造“结构化的速度”。我觉得这个短语特别有吸引力。企业需要快速行动，因为客户期望创新，竞争优势很少等待完美的确定性。同时，没有结构的速度会带来风险。

峰会期间分享的一个例子涉及一个自主重新规划产品运输路线以避免天气干扰的AI系统。该系统优化了速度和效率，但未考虑监管限制。它没有考虑重新规划路线的港口是否实际上能够接收这些货物。结果是一个代价高昂的运营问题，没人想要制造。教训不是AI失败了，而是治理失败了。

如果没有适当的护栏，技术可能会比组织的思考速度更快。目标不是阻碍创新，而是创建允许创新安全扩展的结构。

另一位演讲者用德国高速公路作为比喻。高速公路的大部分路段之所以能无速度限制运行，并不是因为没有规则，而是因为对现有规则有强烈的纪律、责任和执行文化。如果下雨，会执行限速规定，且对违反限速行为零容忍。高速公路上的“结构化速度”之所以有效，是因为安全措施被理解和尊重。

同样的原则也适用于人工智能。如果组织不为创新创建安全且经过批准的路径，员工将自行寻找路径。答案不是为了限制而限制，而是创建允许人们快速、负责任且自信行动的框架。

未来不是取代专业人士

每当新技术出现时，关于哪些职业将消失的预测便迅速出现。法律职业，像许多其他职业一样，已经无数次听到这些预测：

• 互联网将改变一切
• 数字化研究将改变一切
• 合同工作流程自动化将改变一切

那些预测没有错。这个职业发生了变化，但并未被取代。

一位演讲者提出了一个让我印象深刻的观点：专业人士常常认为新技术会让他们以更快更便宜的方式完成已有的工作。实际上，技术通常改变了成为专业人士的本质含义。

人工智能很可能会遵循相同的模式。律师所做的最高价值工作从来不是收集信息。我们最宝贵的资产是运用判断力、理解背景、平衡竞争利益、建立信任以及在不确定性中做出决策。

这些责任依然深刻地属于人类。变化的是我们如何度过时间。最成功的专业人士（无论是否法律相关）将是那些学会比任何人更有效地结合技术、判断力和专业知识的人。

最后的想法

我从峰会中最大的收获是，组织现在有机会在别人替他们做之前，帮助塑造负责任的AI采用方式。对于法律团队来说，这意味着帮助创建促进创新的框架。对于科技公司来说，这意味着认识到我们作为AI部署者和开发者所处的独特地位。对于我们所有人来说，这意味着理解未来将由我们如何深思熟虑地使用AI来定义。那些做对了的公司不仅会适应未来，还将帮助创造未来。