대부분의 기업이 겪지 않는 AI 과제

몇 달 전, 하버드 로스쿨이 주최한 GC AI 서밋에 참석했습니다. 예상대로 AI 도구, 거버넌스 프레임워크, 신흥 규제 및 법조계의 미래에 대한 많은 논의가 있었습니다.

토론 주제 중 하나가 다른 주제들보다 두드러졌습니다: 대부분의 조직은 AI를 어떻게 배포할지에 대해서만 생각하면 되지만, 우리는 AI를 어떻게 배포하고 어떻게 개발할지에 대해 생각해야 합니다.

대부분의 기업은 “AI 배포자”로, 내부적으로 AI를 사용하여 생산성을 향상하고, 워크플로를 자동화하며, 의사결정을 강화하고, 운영 효율성을 창출합니다. 이들의 과제는 위험을 관리하면서 AI를 책임감 있게 도입하는 방법을 찾는 것입니다.

기술 기업들은 점점 더 ‘AI 개발자’이기도 하다는 다른 도전에 직면하고 있습니다. 이는 고객이 AI를 활용할 수 있도록 돕는 제품을 개발하면서 자체 규제, 보안 및 거버넌스 요구사항을 관리한다는 의미입니다.

우리는 AI 배포자이자 AI 개발자라는 두 역할의 교차점에 있습니다. 우리는 자체 조직 내에서 AI를 배포하는 동시에 고객이 빠르게 진화하는 AI 환경을 이해하고, 관리하며, 보호하고, 준수하도록 돕고 있습니다. 이는 독특한 도전이자 동시에 독특한 기회를 만듭니다.

법무팀은 두 가지 과제를 해결하는 중심에 있습니다

전통적으로 법무팀은 외부 요인이 회사 운영에 미치는 영향을 이해하는 책임이 있었습니다:

• 정부가 새로운 규정을 도입합니다
• 산업 표준은 진화합니다
• 고객 기대치가 변화합니다

법무 부서의 역할은 이러한 힘을 해석하고 위험을 평가하며 비즈니스가 이를 성공적으로 극복하도록 돕는 것입니다. AI는 그 책임을 바꾸는 것이 아니라 확장합니다.

오늘날 Legal은 순수하게 법률적인 질문뿐만 아니라 다양한 질문에 답하는 데 점점 더 기대되고 있습니다:

• 내부적으로 AI를 어떻게 관리해야 할까요?
• 어떤 위험이 허용됩니까?
• 어떤 보호 장치가 있어야 합니까?
• 혁신과 책임을 어떻게 균형 있게 유지할까요?
• 고객, 직원, 규제 기관 및 투자자의 신뢰를 어떻게 유지합니까?

이러한 질문들은 종종 Legal이 조직 전체를 볼 수 있기 때문에 법무 고문 책상에 놓입니다. 대부분의 기능과 달리 우리는 부서, 제품, 고객, 규제 기관 및 시장 전반에 걸쳐 동시에 운영합니다.

이 정상 회의는 제가 팀과 함께 오랫동안 관찰하고 실행해 온 것을 강화했습니다: 법무 부서의 역할이 조언자에서 조율자로 진화하고 있다는 것입니다. 변호사들이 갑자기 모든 결정을 내리는 것이 아니라, 누군가는 모든 움직이는 조각들을 연결해야 하기 때문입니다.

성공을 결정할 세 가지 질문

서밋에서 가장 유용한 프레임워크 중 하나는 AI를 활용하는 조직이 궁극적으로 세 가지 질문에 답해야 한다는 것이었습니다.

1. AI의 이익을 어떻게 측정하고 있습니까?

AI에 관한 대부분의 논의는 가능한 것에 대한 기대감으로 시작됩니다. 실제로 가치를 창출하고 있는지에 대한 논의는 훨씬 적습니다:

• 반복 작업에 소요되는 시간을 줄이고 있습니까?
• 우리가 의사결정을 개선하고 있습니까?
• 직원들이 더 높은 가치의 활동에 집중하도록 돕고 있습니까?
• 우리가 고객을 위해 더 나은 결과를 만들고 있습니까?

가장 큰 영향을 보는 조직은 단순히 모두가 한다고 해서 AI를 도입하지 않습니다. 이들은 특정 비즈니스 문제를 식별하고 AI가 문제 해결에 도움이 되는지 측정합니다. 기술 도입 자체가 목표가 아닙니다. 비즈니스 성과가 더 중요합니다.

2. 효율성과 품질에 대해 어떻게 생각하고 있나요?

역사적으로 조직들은 속도, 품질, 비용을 경쟁하는 요소로 여겨왔습니다:

• 더 빨리 움직이면 품질이 저하됩니다
• 품질 향상 및 비용 증가
• 비용을 절감하고 속도 저하를 줄이세요

AI는 그 방정식을 재구성할 잠재력이 있지만, 조직이 이를 어떻게 사용하는지 의도적으로 접근할 때만 가능합니다.

정상 회의는 많은 조직이 여전히 답하기 어려워하는 질문으로 반복해서 돌아갔습니다. AI가 적용된 세상에서 품질을 어떻게 측정할 것인가? 효율성은 비교적 측정하기 쉽지만 품질은 훨씬 더 어렵습니다. 법무팀에게 이는 AI가 더 나은 의사결정을 돕고, 문제를 더 빨리 식별하며, 일관성을 개선하고, 단순히 작업을 더 빨리 완료하는 것이 아니라 더 나은 결과를 만드는 데 도움이 되는지 묻는 것을 의미합니다. 미래는 효율성만 극대화하는 조직이 아니라 효율성과 품질을 동시에 개선하는 조직에 속할 것입니다.

3. AI가 신뢰에 어떤 영향을 미치나요?

이것이 가장 중요한 질문일 수 있습니다. 직원들이 AI를 신뢰하지 않으면 사용하지 않을 것입니다. 고객이 AI 사용 방식을 신뢰하지 않으면 거래하지 않을 것입니다. 규제 당국이 귀하의 거버넌스를 신뢰하지 않으면 직접 거버넌스를 만들 것입니다. 이사회가 결과를 신뢰하지 않으면 계속해서 경영진에게 답을 구할 것입니다.

한 연설자는 이렇게 간단히 요약했습니다: “이사회는 AI를 신뢰하지 않습니다. 그들은 당신을 신뢰합니다.” 기술은 권고안을 생성할 수 있습니다. 기술은 작업 흐름을 가속화할 수 있습니다. 기술은 통찰을 제공할 수 있습니다. 그러나 책임은 인간에게 남아 있습니다. 신뢰는 인간에게 남아 있습니다. 리더십은 인간에게 남아 있습니다. AI가 더 강력해질수록 신뢰의 가치는 더 커집니다.

Microsoft, Workday 등 리더들에게 들은 이야기

하버드 교수부터 사내 법무 리더, 법률 운영 임원에 이르기까지 다양한 세션으로 구성된 정상 회의에서 매우 다양한 관점에서 일관된 주제들이 나타났습니다.

다음이 주도한 세션: Bjarne Tellman (FjordStream Advisors) 은 ‘구조화된 속도’라는 도전 과제로 문제를 제시했습니다. 그의 요점은 조직이 단순히 AI 도구를 도입하는 것이 아니라 지능을 안전하게 확장해야 하는 시스템을 구축하고 있다는 것입니다. 그의 관점에서 법무 부서의 역할은 혁신을 늦추는 것이 아니라 속도는 유지하되 취약성은 없는 거버넌스와 데이터 구조를 만드는 것입니다. 그는 이를 ‘AI 공장’ 모델의 기반으로 설명했는데, 데이터, 거버넌스, 학습이 시간이 지남에 따라 결과를 지속적으로 개선하는 자기 강화 시스템입니다.

에서 Microsoft의 Corporate, External, and Legal Affairs (CELA) 리더십 메시지는 보다 운영적이고 지시적이었습니다. 조직은 내부 AI 도구, 규제 인텔리전스 시스템 및 수동 조사를 줄이고 더 높은 가치의 규제 및 정책 참여에 집중할 수 있는 에이전트 기반 워크플로를 구축하는 컨설팅 및 개발 기능으로 Legal을 적극 재구성하고 있습니다. 핵심 메시지는 분명했습니다: 법무팀은 더 이상 단순한 기술 소비자가 아니라 기술 구축자가 되고 있습니다.

다음 Workday에서는 조직이 대규모로 AI를 책임감 있게 운영하는 방법에 대해 논의했습니다. 설명된 모델은 원칙에서 실천, 그리고 사람으로 이동했으며, 법무, 개인정보 보호 및 엔지니어링이 공동으로 AI 개발을 감독하는 구조화된 거버넌스 시스템에 의해 지원됩니다. 반복되는 주제는 성공적인 도입이 개별 도구보다는 조직이 AI를 기업 전반에 걸쳐 일관되고 안전하게 사용할 수 있도록 인수, 위험 분류 및 책임 시스템을 설계할 수 있는지에 달려 있다는 점이었습니다.

대규모 기업의 법무 및 운영 팀 사례를 포함한 모든 세션에서 대화는 일관되게 몇 가지 실질적인 과제로 돌아갔습니다. AI 시스템이 실제로 사용할 수 있도록 기업 데이터를 구조화하는 방법, 사안 및 계약 ‘서랍’에서 통합 지식 시스템으로 전환하는 방법, AI 기반 워크플로우에 품질 보증을 내장하여 대규모로 출력물을 신뢰할 수 있도록 하는 방법입니다.

배포자-개발자 역설

우리와 같은 회사가 deployer-developer 역설을 탐색할 때, 이러한 질문들은 두 관점에서 동시에 답변해야 하므로 더욱 중요해집니다. AI deployer로서, 변화하는 법률, 규정 및 공공의 기대가 우리 조직에 어떤 영향을 미치는지 이해해야 합니다. AI developer로서, 동일한 변화가 고객에게 어떤 영향을 미치는지 이해해야 합니다. 이는 우리가 항상 두 방향을 동시에 바라보고 있음을 의미합니다:

1. 내부로. AI를 책임감 있게 어떻게 사용합니까? 어떻게 관리합니까? 혁신을 가능하게 하면서 위험을 어떻게 관리합니까?
2. 외부로. 고객이 같은 질문을 해결하도록 어떻게 도울까요? 어떤 역량이 필요합니까? 어떤 통제가 중요합니까? 준수, 보안 및 책임 있는 거버넌스를 입증하기 위해 어떤 증거가 필요할까요?

한쪽을 더 잘 이해할수록 다른 쪽을 해결할 위치가 더 좋아집니다. 이것은 많은 조직이 갖지 못한 이점을 만듭니다: 우리는 단순히 이러한 문제를 관찰하는 것이 아니라 직접 경험하고 있습니다.

여러 면에서, 이는 조직이 AI 거버넌스, 위험 관리 및 신뢰에 대해 생각하는 방식을 형성할 수 있는 독특한 위치에 우리를 놓습니다.

속도에는 구조가 필요합니다

서밋 내내 반복적으로 등장한 또 다른 주제는 혁신과 거버넌스 간의 긴장이었습니다. 전 세계 조직들이 AI 도입을 서두르고 있습니다. 일부는 신중하게 움직이고, 일부는 무모하게 움직입니다. 대부분은 올바른 균형을 찾으려 노력하고 있습니다.

한 연사는 목표를 '구조화된 속도'를 만드는 것이라고 표현했습니다. 저는 이 표현이 특히 인상적이었습니다. 기업은 고객이 혁신을 기대하기 때문에 빠르게 움직여야 하며, 경쟁 우위는 완벽한 확실성을 기다리지 않습니다. 동시에 구조 없는 속도는 위험을 초래합니다.

서밋에서 공유된 한 예는 날씨로 인한 중단을 피하기 위해 제품 배송을 자율적으로 경로 변경하는 AI 시스템에 관한 것이었습니다. 이 시스템은 속도와 효율성을 최적화했지만 규제 제한 사항을 고려하지 못했습니다. 배송이 경로 변경된 항구가 실제로 이를 수용할 수 있는지 고려하지 않았습니다. 그 결과 아무도 의도하지 않은 비용이 많이 드는 운영 문제가 발생했습니다. 교훈은 AI가 실패했다는 것이 아니라 거버넌스가 실패했다는 것입니다.

적절한 가드레일이 없으면 기술이 조직의 사고 속도보다 빠르게 움직일 수 있습니다. 목표는 혁신을 늦추는 것이 아니라 혁신이 안전하게 확장될 수 있는 구조를 만드는 것입니다.

또 다른 연사는 독일의 아우토반을 비유로 사용했습니다. 아우토반의 많은 구간이 속도 제한 없이 운영될 수 있는 이유는 규칙이 없기 때문이 아니라, 존재하는 규칙에 대한 강한 규율, 책임감, 집행 문화가 있기 때문입니다. 비가 오면 속도 제한이 적용되며, 그 제한 위반에 대해서는 관용이 없습니다. “구조화된 속도”는 안전 조치가 이해되고 존중되기 때문에 아우토반에서 작동합니다.

같은 원칙이 AI에도 적용됩니다. 조직이 혁신을 위한 안전하고 승인된 경로를 만들지 않으면 직원들이 스스로 경로를 찾게 됩니다. 답은 제한을 위한 제한이 아닙니다. 사람들이 빠르고 책임감 있게, 자신 있게 움직일 수 있는 프레임워크를 만드는 것입니다.

미래는 전문가를 대체하는 것이 아닙니다

새로운 기술이 등장할 때마다 어떤 직업이 사라질지에 대한 예측이 빠르게 이어집니다. 법조계는 다른 많은 직업들처럼 수없이 많은 예측을 들어왔습니다:

• 인터넷이 모든 것을 바꿀 예정이었다
• 디지털 연구가 모든 것을 바꿀 것이었다
• 계약 워크플로 자동화가 모든 것을 바꿀 예정이었습니다

그 예측들은 틀리지 않았습니다. 직업은 변했지만 대체되지는 않았습니다.

한 연사가 제게 깊은 인상을 남긴 관찰을 했습니다: 전문가들은 종종 새로운 기술이 자신들이 이미 하는 일을 더 빠르고 저렴하게 할 수 있게 해줄 것이라고 생각합니다. 하지만 기술은 보통 전문가라는 의미 자체를 처음부터 바꿉니다.

AI는 아마도 같은 패턴을 따를 것입니다. 변호사들이 하는 가장 가치 있는 일은 정보를 수집하는 것이 결코 아니었습니다. 우리의 가장 소중한 자산은 판단력 적용, 상황 이해, 상충하는 이익의 균형, 신뢰 구축, 그리고 불확실성 속에서의 의사결정입니다.

그러한 책임은 여전히 깊이 인간적입니다. 변하는 것은 우리가 시간을 보내는 방식입니다. 가장 성공적인 전문가들(법률 분야든 아니든)은 기술, 판단력, 전문 지식을 누구보다 효과적으로 결합하는 법을 배우는 사람들일 것입니다.

최종 생각

이번 정상회의에서 얻은 가장 큰 교훈은 조직들이 이제 누군가 대신하기 전에 책임감 있는 AI 도입이 어떤 모습일지 형성할 기회를 갖게 되었다는 것입니다. 법무팀에게는 혁신을 가능하게 하는 프레임워크를 만드는 데 도움을 주는 것을 의미합니다. 기술 회사에게는 AI의 배포자이자 개발자로서 우리가 차지하는 독특한 위치를 인식하는 것을 의미합니다. 우리 모두에게는 미래가 AI를 얼마나 신중하게 사용할지에 따라 정의된다는 것을 이해하는 것을 의미합니다. 이를 올바르게 하는 회사들은 단순히 미래에 적응하는 것이 아니라 미래를 만드는 데 기여할 것입니다.