OpenAI와, AI가 물려받는 환경

저는 여가 시간에 펜실베이니아에 있는 저희 농장에서 일합니다. 덤불을 정리하고, 길을 내고, 목초지에서 일합니다. 그곳에서 금방 배우게 되는 것이 하나 있는데, 거기서는 어떤 것도 마스터 플랜대로 정확하게 자라지 않는다는 점입니다(아무리 노력해도 말이죠). 숲은 수십 년 동안 뿌리내릴 수 있었던 것, 사슴이 먹지 않은 것, 폭풍이 쓰러뜨리지 않은 것, 이전 주인이 홀스타인 소들을 풀어 풀을 뜯기던 자리가 쌓여 만들어진 결과물입니다. 그 숲은 회복력이 있지만, 우리가 설계한 것은 아닙니다. 이번 주말에는 철사 주위로 완전히 자라 버린 나무에서 오래된 울타리를 잘라내고 있었습니다. 애초에 계획에 없던 일이지만, 나무는 그저 장애물에 맞서 계속 자라왔던 것입니다.

조직도 같은 방식으로 진화합니다. 대부분의 기업은 당장의 문제를 해결하면서 시스템을 점진적으로 구축해 왔습니다. 팀은 더 빠르게 움직이기 위해 액세스를 공유했고, 직원은 직무가 바뀌어도 권한은 그대로 유지했으며, 새로운 협업 도구는 기존 도구가 사라지는 속도보다 빠르게 등장했습니다. 시간이 흐르면서, 액세스 관계는 대부분의 조직이 지속적으로 거버넌스를 적용할 수 있는 속도보다 빠르게 쌓여 갔습니다.

오랫동안 이런 무분별한 확산은 위험을 동반했지만, 의도치 않은 이점도 있었습니다. 민감한 데이터를 관리하기 어렵게 만들던 복잡성이 데이터를 찾기도 어렵게 만들었다는 점입니다. 공격자도 사람과 똑같은 한계를 가지고 있었습니다. 어수선한 환경을 헤쳐 나가는 데는 시간과 기술, 인내가 필요했습니다. 우리는 늘 "모호함은 보안이 아니다"라고 말해 왔습니다. 그런데 알고 보니, 적어도 어느 정도는 보안이었던 셈입니다.

최신 AI 모델은 그러한 모호함을 대부분 걷어냅니다. 이러한 변화가 바로 Netwrix가 OpenAI의 Daybreak 프로그램에 합류한 이유입니다. Daybreak은 소수의 보안 방어자 그룹에 일반 용도 배포에 적용되는 가드레일 없이 프런티어 모델에 대한 조기 액세스를 제공합니다. Daybreak 같은 프로그램에 참여한다는 것은 단순히 더 나은 모델에 접근한다는 의미를 넘어섭니다. 시장의 나머지보다 앞서, 이런 시스템을 실제 환경에 적용했을 때 어떻게 작동하는지 이해할 수 있는 기회입니다.

AI가 전제를 바꾼다

AI는 사람과 같은 제약 안에서 움직이지 않습니다. 이는 이미 Copilot 같은 도구에서 나타나고 있습니다. 누군가 간단한 질문 하나로 급여 데이터, 오래된 프로젝트 파일, 누구도 다시 떠오를 거라고 예상하지 못한 내부 보고서를 끄집어낼 수 있습니다. 그 정보는 기술적으로는 접근 가능했지만, 대부분의 사람이라면 스스로는 결코 찾아내지 못했을 것입니다. 권한은 줄곧 그 자리에 있었고, AI가 그 권한에 더 쉽게 닿을 수 있게 만들었을 뿐입니다. 지금 거의 모든 CISO에게서 듣는 우려는 이 모델들이 잘못 작동한다는 것이 아닙니다. 오히려 제대로 작동해서, 환경이 이미 액세스를 허용해 둔 보상 데이터, 내부 보고서, 민감한 프로젝트 정보를 그대로 끄집어낸다는 점입니다.

Claude나 GPT-5.5 같은 프런티어 모델은 여기서 한 걸음 더 나아갑니다. 방대한 정보를 가로질러 추론하고, 패턴을 식별하고, 코드를 생성하고 테스트하며, 단계마다 사람의 프롬프트를 기다리지 않고 여러 작업을 연결해 수행합니다. 보안의 맥락에서, 잘 배포된 프런티어 모델은 코드베이스에서 취약점을 분석하고, 발견된 항목이 실제로 악용 가능한지 검증하며, 수정안을 작성할 수 있습니다. 과거에는 숙련된 분석가와 며칠의 시간이 필요했던 작업을 단 몇 분으로 압축해 내는 것입니다.

같은 역량이 액세스가 한 번도 정리된 적 없는 환경에서는 위험을 가중시킵니다. 세 번의 합병 이전부터 권한을 가진 채로 남아 있는 서비스 계정, 또는 무언가 망가질까 두려워 아무도 손대지 않는 공유 관리자 계정 같은 것들 말입니다. 이는 실제로 흔히 발생하는 문제이며, 프런티어 AI는 이런 문제도 다른 모든 것을 처리하는 방식 그대로 처리합니다. 빠르게, 대규모로, 그리고 과거에는 노출을 늦춰 주던 마찰 없이 말입니다. Anthropic의 Glasswing 프로젝트는 이것이 실제로 어떤 모습인지 보여주었습니다. Cloudflare는 단 몇 주 만에 핵심 경로 시스템 전반에서 2,000개의 버그를 발견했으며, 그중 400개는 심각도가 높음 또는 위험 수준이었고, 거짓 양성 비율은 자사의 사람 테스터보다 더 낮았습니다. Mozilla는 Firefox 150에서 271개의 취약점을 발견하고 수정했는데, 이는 이전 버전에서 발견한 양의 10배가 넘는 수치입니다. Glasswing 파트너들은 한 달 동안 합산하여 1만 개가 넘는 높음 또는 위험 심각도의 취약점을 드러냈습니다.

보안 책임자에게 시사하는 점

답은 무엇인가를 연결하기 전에 환경에 거버넌스를 적용하는 것입니다. 핵심 질문은 예전부터 있던 것들입니다. 누가 액세스 권한을 가지고 있는가, 왜 그 권한을 가지고 있는가, 그리고 그것이 지금도 타당한가? 새로운 것은 그 질문에 답해야 한다는 절박함입니다. 어디서부터 시작해야 할지 정리해 봅니다.

• AI 에이전트를 권한이 있는 ID처럼 다루십시오. 프런티어 모델이 API나 오케스트레이션 계층을 통해 환경에 연결되는 순간, 권한을 상속받아 그에 따라 행동합니다. 권한이 있는 사람의 계정에 적용할 통제를 그대로 적용하십시오. 범위를 제한하고, 활동을 로그로 남기고, 역할이 바뀔 때마다 액세스를 점검해야 합니다.
• 위험이 가장 큰 영역부터 우선순위를 두십시오. 대규모 조직에서 전체 액세스를 검토하려면 AI 도구가 가동되기 전에 확보할 수 없는 시간이 필요할 수 있습니다. 노출 위험이 가장 큰 계정과 데이터 저장소에 집중하십시오. 관리자 자격 증명, 민감한 데이터 저장소, 범위가 넓고 소유자가 불분명한 서비스 계정 등이 그 예입니다.
• AI에 특화된 액세스 감사를 지금 실행하십시오. AI 통합을 확대하기 전에, 시스템이 실제로 어디까지 도달할 수 있는지 매핑하십시오. 의도했던 도달 범위가 아닙니다. 현재 권한으로 실제 도달할 수 있는 범위입니다. 이 격차는 거의 항상 예상보다 큽니다.
• 데이터 분류가 끝날 때까지 기다리지 마십시오. AI는 폭넓게 접근되도록 의도된 데이터와 시간이 지나면서 액세스가 쌓인 데이터를 구분하지 않습니다. 민감한 정보가 어디에 있고 누가 거기에 도달할 수 있는지 파악하는 일은 안전한 AI 배포를 위한 필수 선행 작업이지, 배포 뒤에 따라붙는 부가 작업이 아닙니다.

보안 책임자에게 시사하는 점

답은 무엇인가를 연결하기 전에 환경에 거버넌스를 적용하는 것입니다. 핵심 질문은 예전부터 있던 것들입니다. 누가 액세스 권한을 가지고 있는가, 왜 그 권한을 가지고 있는가, 그리고 그것이 지금도 타당한가? 새로운 것은 그 질문에 답해야 한다는 절박함입니다. 어디서부터 시작해야 할지 정리해 봅니다.

• AI 에이전트를 권한이 있는 ID처럼 다루십시오. 프런티어 모델이 API나 오케스트레이션 계층을 통해 환경에 연결되는 순간, 권한을 상속받아 그에 따라 행동합니다. 권한이 있는 사람의 계정에 적용할 통제를 그대로 적용하십시오. 범위를 제한하고, 활동을 로그로 남기고, 역할이 바뀔 때마다 액세스를 점검해야 합니다.
• 위험이 가장 큰 영역부터 우선순위를 두십시오. 대규모 조직에서 전체 액세스를 검토하려면 AI 도구가 가동되기 전에 확보할 수 없는 시간이 필요할 수 있습니다. 노출 위험이 가장 큰 계정과 데이터 저장소에 집중하십시오. 관리자 자격 증명, 민감한 데이터 저장소, 범위가 넓고 소유자가 불분명한 서비스 계정 등이 그 예입니다.
• AI에 특화된 액세스 감사를 지금 실행하십시오. AI 통합을 확대하기 전에, 시스템이 실제로 어디까지 도달할 수 있는지 매핑하십시오. 의도했던 도달 범위가 아닙니다. 현재 권한으로 실제 도달할 수 있는 범위입니다. 이 격차는 거의 항상 예상보다 큽니다.
• 데이터 분류가 끝날 때까지 기다리지 마십시오. AI는 폭넓게 접근되도록 의도된 데이터와 시간이 지나면서 액세스가 쌓인 데이터를 구분하지 않습니다. 민감한 정보가 어디에 있고 누가 거기에 도달할 수 있는지 파악하는 일은 안전한 AI 배포를 위한 필수 선행 작업이지, 배포 뒤에 따라붙는 부가 작업이 아닙니다.

참고 자료

1. OpenAI, "Daybreak"

2. OpenAI, "Introducing Trusted Access for Cybersecurity"

3. Microsoft, “Microsoft 365 Copilot을 위한 안전하고 관리되는 기반을 구성하세요”

저는 여가 시간을 펜실베이니아에 있는 우리 농장에서 보냅니다. 잡목을 정리하고, 산책로를 만들고, 목초지에서 일을 하죠. 빨리 깨닫게 되는 한 가지는, 그곳에서 무엇이든 마스터 플랜에 완벽히 따라 자라는 일은 없다는 겁니다(아무리 해보아도 말이죠). 숲은 수십 년 동안 뿌리내리게 된 그 어떤 것이든, 사슴이 먹지 않은 것, 폭풍이 쓰러뜨리지 못한 것, 또는 이전 주인이 홀스타인 소를 방목하던 자리 같은 것들이 누적된 결과입니다. 그것은 회복탄력성이 있지만, 우리가 설계한 것은 아닙니다. 이번 주말에는 철사에 완전히 감겨 자라버린 나무에서 오래된 울타리 일부를 잘라내고 있었어요. 그건 애초에 계획에 없던 일이었지만, 나무는 장애물에 부딪히면서도 그냥 계속 자라났습니다.

조직도 같은 방식으로 변화합니다. 대부분의 기업은 당면한 문제를 해결하면서 시스템을 점진적으로 구축해 왔습니다. 팀은 더 빠르게 진행하기 위해 액세스를 공유했고, 직원은 역할을 바꾸면서도 권한은 그대로 유지했으며, 기존 도구가 사라지기 전에 새로운 협업 도구가 더 빨리 등장했습니다. 시간이 지날수록, 액세스 관계는 대부분의 조직이 이를 지속적으로 관리할 수 있는 속도보다 더 빠르게 누적되었습니다.

수년 동안 그런 난잡함은 위험을 안고 있었지만, 우연한 이점도 있었습니다. 즉, 민감한 데이터가 관리하기 어려웠던 그 복잡성이, 동시에 찾기도 어렵게 만들었던 것입니다. 공격자들은 인간과 똑같은 한계를 가졌습니다. 어수선한 환경을 탐색하려면 시간, 기술, 그리고 인내가 필요했습니다. 우리는 늘 “불분명함은 보안이 아니다”라고 말하곤 했습니다. 그런데 적어도 어느 정도는 그것이 보안이었던 것으로 밝혀졌습니다.

더 새로운 AI 모델은 그 불분명함의 대부분을 제거합니다. 이러한 변화가 Netwrix가 OpenAI's Daybreak program에 참여하게 된 이유입니다. 이 프로그램은 일반 목적의 배포를 제약하는 것과 동일한 가드레일 없이, 소수의 보안 방어 인력에게 프론티어 모델에 대한 초기 접근을 제공합니다. Daybreak 같은 프로그램에 참여한다는 의미는 더 나은 모델에 대한 접근 그 이상입니다. 더 넓은 시장보다 앞서, 이러한 시스템에 실제 환경을 연결했을 때 무엇을 수행하는지 이해할 기회를 얻는 것입니다.

AI는 가정을 바꿉니다

AI는 사람이 따르는 것과 동일한 제약 아래에서 작동하지 않습니다. 이는 이미 Copilot 같은 도구에서도 나타나고 있습니다. 사용자는 간단한 질문을 던지기만 해도 예상하지 못했던 급여 데이터, 오래된 프로젝트 파일, 또는 내부 보고서가 다시 드러날 수 있습니다. 해당 정보는 기술적으로는 접근 가능했지만, 대부분의 사람들은 스스로 찾아내지 못했을 것입니다. 권한은 애초에 거기에 있었고, AI는 그 권한에 도달하기를 더 쉽게 만들었습니다. 지금 거의 모든 CISO로부터 듣는 우려는 이러한 모델이 잘못된 방식으로 동작한다는 것이 아닙니다. 오히려 모델이 올바르게 동작하여, 환경이 이미 접근 권한을 부여해 둔 보상 데이터, 내부 보고서, 민감한 프로젝트 정보를 끌어올려 드러낸다는 점입니다.

Claude나 GPT-5.5 같은 프론티어 모델은 더 나아갑니다. 대규모 정보 전반을 바탕으로 추론하고, 패턴을 식별하며, 코드를 생성하고 테스트하고, 각 단계마다 사람의 프롬프트를 기다리지 않고 여러 작업을 연쇄적으로 수행합니다. 보안 관점에서 잘 배치된 프론티어 모델은 코드베이스를 취약점 관점에서 분석하고, 특정 발견 사항이 악용 가능한지 검증하며, 대응(복구) 방안을 초안으로 작성할 수 있습니다. 예전에는 숙련된 분석가와 며칠이 걸리던 작업을 몇 분으로 압축하는 셈입니다.

그와 같은 역량은 접근 권한이 정리된 적이 없는 환경에서 위험을 더욱 키웁니다. 예를 들어, 세 번의 인수(머지) 이전부터 이어져 내려온 권한을 가진 서비스 계정이거나, 무언가가 깨질지도 모른다는 이유로 아무도 손대고 싶어 하지 않는 공유 관리자 계정 같은 경우입니다. 이런 문제들은 현실적이고 흔한 것들입니다. 그리고 프론티어 AI는 다른 어떤 것처럼 이를 동일한 방식으로 처리합니다. 즉, 과거에 노출을 늦추던 마찰(저항) 없이, 빠르고 대규모로 처리합니다. Anthropic의 Project Glasswing은 실제로 그런 모습이 어떻게 나타나는지를 보여주었습니다. Cloudflare는 몇 주 만에 핵심 경로 시스템 전반에서 2,000개의 버그를 찾아냈고, 그중 400개는 높은 위험도 또는 치명적 심각도였습니다. 또한 이 성과는 자체 인간 테스터보다 더 나은 오탐률로 달성했습니다. Mozilla는 Firefox 150에서 271개의 취약점을 찾아 수정했는데, 이는 이전 릴리스에서 발견했던 것보다 10배 이상 많은 수치입니다. Glasswing 파트너들은 한 달 동안 합산으로 1만 건이 넘는 높은 위험도 또는 치명적 심각도의 취약점을 노출(발견)해냈습니다.

보안 리더에게 의미하는 바

핵심은, 어떤 것이든 연결하기 전에 환경을 통제(거버넌스)하는 것입니다. 핵심 질문은 오래된 것들입니다. 누가 접근 권한을 가지고 있는가, 왜 그 권한을 가지고 있는가, 그리고 지금도 그 권한이 타당한가? 이러한 질문에 답해야 한다는 긴급성은 새롭게 다가왔습니다. 시작 지점은 여기입니다:

• AI 에이전트를 Privileged identities처럼 취급하세요. 프론티어 모델이 API나 오케스트레이션 계층을 통해 환경에 연결되면, 권한을 상속받고 그 권한에 따라 행동합니다. 권한이 있는 사람 계정에 적용하던 것과 동일한 통제를 적용하세요. 즉, 범위를 제한하고, 활동을 로깅하며, 역할이 바뀔 때마다 접근 권한을 검토합니다.
• 가장 위험도가 높은 영역부터 우선순위를 두세요. 대규모 조직 전반에서 전체 액세스 검토를 수행하려면, AI 도구가 실제로 가동되기 전에 감당하지 못할 수 있는 시간이 소요됩니다. 노출 규모가 가장 큰 계정과 데이터 저장소에 집중하세요. 즉, 관리(관리자) 자격 증명, 민감 데이터 리포지토리, 범위가 넓고 소유 주체가 불명확한 서비스 계정입니다.
• 지금 AI 전용 액세스 감사를 실행하세요. 어떤 AI 통합을 확대하기 전에, 시스템이 실제로 접근할 수 있는 범위를 파악하세요. 의도된 접근 범위가 아니라, 현재 권한 기준으로 접근 가능한 범위를 확인하는 것입니다. 그 격차는 거의 항상 예상보다 훨씬 큽니다.
• 데이터 분류를 기다리지 마세요. AI는 널리 접근 가능하도록 의도된 데이터와, 시간이 지나며 접근 권한이 누적된 데이터를 구분하지 않습니다. 민감 정보가 어디에 있는지, 그리고 누가 그 정보에 접근할 수 있는지를 파악하는 것은 안전한 AI 배포를 위한 필수 선행 작업이지, AI 배포 이후에 '있으면 좋은 것'처럼 미룰 일이 아닙니다.

이 흐름이 향하는 곳

프론티어 AI에서 가장 빠르게 움직이는 조직들은 이미, 적절한 모델을 선택하는 것만큼이나 환경(운영 범위)을 통제·관리하는 것이 중요하다는 점을 이해하고 있는 듯합니다. Anthropic은 가장 성능이 뛰어난 모델인 Claude Mythos에 대한 접근을 소수의 Glasswing 파트너로 제한했습니다. OpenAI는 Daybreak를 같은 원칙에 기반해 구축했습니다. Netwrix는 그 그룹에 속해 있습니다. Daybreak가 답하도록 설계된 질문들, 즉 AI가 어디까지 도달할 수 있는지, 그리고 그 도달 결과가 의미 있는지(중요한지)는 우리가 20년 동안 해결하기 위해 매진해 온 질문이기 때문입니다.

이 프로그램이 배포 전에 필요로 하는 접근 제어와 거버넌스는, 이들 조직이 일찍부터 배운 어떤 사실을 반영합니다. 즉, 프런티어 AI의 가치는 해당 시스템이 작동하는 환경의 품질에 따라 확장됩니다. 잘 거버넌스된 Identity(신원)와 데이터 인프라를 통해 작동하는 폭넓은 추론 능력을 갖춘 모델은 보안 팀에게 진정한 성과 배가 요인입니다. 하지만 동일한 모델이 수년간 축적된 채 검토되지 않은 접근을 통해 작동하면, 사후에 감당하기 어려울 정도의 속도와 규모로 노출이 발생합니다.

이 모델들은 이미 여기에 있습니다. 그들이 어디まで 접근할 수 있는지를 결정하는 것은 여러분에게 달려 있습니다.

참고문헌