2026년 특권 액세스 관리 매직 쿼드런트™: Netwrix가 5년 연속 선정되었습니다. 보고서를 다운로드하세요.

리소스 센터블로그

도난 및 변조: AI 보안 요구 사항 뒤에 있는 두 가지 위험

도난 및 변조: AI 보안 요구 사항 뒤에 있는 두 가지 위험

Nov 17, 2026

AI 규제 준비 시리즈, 6부작 중 2부

AI 규제는 두 가지 기술적 위험으로 요약됩니다. 모델 가중치와 데이터의 도난, 그리고 포이즈닝이나 무단 변경을 통한 변조입니다. 두 위험 모두 identity, 접근, 데이터 가시성, 모니터링에 달려 있으므로 하나의 보안 기반으로 둘 다 다룰 수 있습니다.

1부에서는 AI 법률과 프레임워크가 표면적으로는 단편적으로 보이지만 결국 동일한 보안 주제로 돌아온다는 점을 살펴보았습니다. 이 주제들은 두 가지 기술적 위험으로 압축됩니다.

첫 번째는 도난입니다. 무단 접근이나 유출로 AI 자산을 잃는 것입니다. 두 번째는 변조입니다. 무단 데이터 투입, 포이즈닝 또는 수정으로 모델 무결성을 잃는 것입니다.

규제마다 표현이 똑같지는 않지만, 보안 리더가 두 위험을 중심으로 계획을 세울 수 있을 만큼 일관됩니다.

위험 1: 모델 도난 및 유출

모델 가중치는 모델이 작동하도록 만드는 학습된 매개변수입니다. 수년간의 연구와 막대한 컴퓨팅 투자를 나타낼 수 있습니다. 이를 통제하지 못하면 경쟁사나 공격자가 대가 없이 제품을 손에 넣게 됩니다.

대규모 프런티어 개발자에게 가중치 보호는 더 이상 단순한 모범 사례가 아닙니다. California SB 53, 뉴욕 RAISE Act, 일리노이 AISMA는 각각 미공개 모델 가중치를 무단 수정이나 전송으로부터 보호하기 위한 사이버 보안 관행을 다룹니다. NIST AI RMF도 모델, 학습 데이터, 지적 재산에 대한 무단 접근과 유출로부터의 보호를 AI 보안과 복원력의 일부로 명시합니다.

이 법률들은 “내부 또는 외부 당사자”에 의한 전송이나 수정을 다루므로, 상시 접근 권한을 가진 내부자와 내부자처럼 보이는 침해된 계정도 적용 대상입니다.

대응 방법:

  • 모델 가중치와 관련 AI 아티팩트가 어디에 저장되어 있는지 파악합니다.
  • 어떤 사용자, 서비스 계정, 권한 있는 ID가 접근할 수 있는지 파악합니다.
  • 과도하거나 오래된 접근 권한을 제거합니다.
  • 권한 있는 접근을 필요한 최단 시간으로 제한합니다.
  • 엔드포인트 및 기타 채널을 통한 무단 전송을 탐지하고 차단합니다.
  • 사고를 조사하고 보고하는 데 필요한 증거를 보존합니다.

위험 2: 모델 및 데이터 포이즈닝

포이즈닝은 아무것도 외부로 나가지 않기 때문에 도난보다 눈에 띄지 않습니다. 공격자, 악의적인 내부자 또는 침해된 ID가 학습 데이터, 모델 체크포인트, 구성 파일 또는 기타 아티팩트를 변경해 시스템이 의도와 다르게 동작하도록 만듭니다.

그 결과는 미묘한 편향에서 특정 입력에서만 작동하는 숨겸진 백도어까지 다양합니다. 모델이 여전히 정상적으로 작동하는 것처럼 보이기 때문에 포이즈닝은 오랫동안 발견되지 않을 수 있습니다.

규제 당국도 이를 인지하고 있습니다. EU AI법은 고위험 AI 시스템에 대한 사이버 보안 복원력 요구 사항에서 데이터 포이즈닝과 모델 포이즈닝을 명시적으로 언급합니다. OWASP와 MITRE ATLAS도 포이즈닝과 모델 조작을 구체적인 AI 공격 기법으로 분류합니다.

대응 방법:

  • 학습 데이터셋과 모델 저장소에 대한 쓰기 접근을 제한합니다.
  • AI 자산을 변경할 수 있는 권한 있는 ID를 제한하고 모니터링합니다.
  • 모델 파일, 체크포인트, 데이터 및 관련 구성에 대한 무단 변경을 탐지합니다.
  • 무엇이, 언제, 누구에 의해 변경되었는지 확인할 수 있도록 감사 기록을 보존합니다.
  • 비정상적인 변경이나 접근 패턴이 나타나면 신속하게 대응합니다.

이 두 위험을 함께 다뤄야 하는 이유

유출은 주로 기밀성 문제이고 포이즈닝은 주로 무결성 문제이기 때문에, 서로 다른 팀과 도구가 담당하는 경우가 많습니다.

두 “대응 방법” 목록을 나란히 놓고 보면 동일한 구성 요소가 양쪽에 나타나며, 각각 다른 역할을 합니다.

구성 요소

도난을 막는 방법

변조를 막는 방법

AI 자산과 데이터의 위치 파악

훔칠 가치가 있는 모델 가중치를 보관한 저장소를 식별합니다

무결성 기준선이 필요한 데이터셋과 체크포인트를 식별합니다

읽기 또는 쓰기 가능한 대상 통제

모델 파일을 열고 복사할 수 있는 대상을 제한합니다

학습 데이터와 모델 저장소에 쓸 수 있는 대상을 제한합니다

상시 권한 있는 접근 제한

가중치를 네트워크 밖으로 옮길 수 있는 상시 활성 계정을 줄입니다

파이프라인을 몰래 변경할 수 있는 상시 활성 계정을 줄입니다

데이터의 유입 및 유출 통제

USB, 클라우드 업로드, 이메일을 통한 가중치와 지적 재산 유출을 차단합니다

검증되지 않은 파일이 학습 워크플로에 유입되는 것을 차단합니다

무단 변경 탐지

보조 역할: 모델 파일 주변의 의심스러운 활동을 파악하는 데 도움이 됩니다

알려진 정상 상태와 비교해 수정된 데이터, 체크포인트, 구성을 찾아냅니다

감사 추적 유지

누가 어떤 파일에 접근하거나 옮겼는지, 그리고 언제인지 보여 줍니다

무엇이, 언제, 누구에 의해 변경되었는지 보여 줍니다

두 위험 모두 identity, 접근, 데이터 가시성, 모니터링에 달려 있으므로 하나의 강력한 보안 기반으로 둘 다 다룰 수 있습니다.

그리고 이 기반에는 중요한 시사점이 있습니다. AI 보안이 ID와 데이터 보안으로 귀결된다면, ID 및 데이터 환경에 이미 존재하는 약점이 AI의 약점이 되기도 합니다. 이는 3부에서 다룹니다.

시리즈 다음 편: 3부, AI가 이미 가지고 있는 보안 약점을 증폭하는 방식.

전체 플레이북 받기

AI Regulatory Readiness 전자책을 다운로드하여 두 가지 요구 사항이 구체적인 보안 통제에 어떻게 대응되는지 확인하세요.

지금 다운로드

공유하기

더 알아보기

저자 소개

Asset Not Found

Istvan Molnar

IT 보안 컴플라이언스 전문가 및 제품 마케팅 매니저

Istvan Molnar는 Netwrix의 숙련된 IT 보안 컴플라이언스 전문가이자 제품 마케팅 매니저로, 국제 표준, 규정 및 사이버보안 프레임워크에 대해 10년 넘는 전문성을 보유하고 있습니다. 그는 복잡한 컴플라이언스 요구 사항과 Netwrix 제품 포트폴리오 간의 격차를 연결하는 데 특화되어 있으며, 컴플라이언스 중심의 이니셔티브와 시장 진입 전략을 위한 전략적 지침, 설득력 있는 콘텐츠, 지원을 제공합니다.