AI 규제에 대비하는 방법은 두 가지입니다.
첫 번째는 규제별 접근입니다. 새로운 법이 통과되면 컴플라이언스 팀이 이를 읽고, 보안팀은 그 법이 요구하는 것처럼 보이는 것을 구축합니다. 그러다 문구, 범위, 기한이 조금씩 다른 다음 법이 통과되면 같은 과정이 반복됩니다.
두 번째는 통제별 접근입니다. 각 법령을 쎫아가는 대신, 여러 법률과 프레임워크에 반복해서 나타나는 보안 분야를 파악해 구축하고, 새로운 법이 나올 때마다 이미 갖춘 통제에 매핑합니다.
법은 바뀌고 아키텍처는 진화하겠지만, 그 밑바탕에 있는 보안 분야는 훨씬 안정적입니다.
2부와 3부에서는 AI 위험을 ID, 접근, 데이터로 거슬러 올라가 살펴보았습니다. 여섯 가지 통제는 이 토대를 실무에 적용합니다.
민감한 AI 데이터 검색 및 분류
먼저 AI 시스템이 접근할 수 있는 모델 아티팩트, 학습 데이터, 규제 대상 또는 기타 민감한 정보를 목록화하는 것부터 시작하세요.
분류는 목록을 우선순위 목록으로 바꾸는 작업입니다. 어떤 저장소에 모델 가중치가 있고, 어떤 데이터셋에 개인 정보나 규제 대상 데이터가 포함되어 있으며, 어떤 파일이 비즈니스에 핵심적인지 알려 줍니다. 이러한 맥락 덕분에 가장 중요한 곳에 더 강력한 통제를 적용할 수 있습니다.
접근 거버넌스
민감한 AI 자산이 어디에 있는지 알았다면, 다음 질문은 누가 접근할 수 있는가입니다. 모델 가중치, 학습 데이터셋, 구성, 민감한 비즈니스 데이터가 있는 저장소에 대한 실질 접근을 파악하세요. 아무도 부여하려 하지 않았던 권한도 포함됩니다.
실질 접근에는 직접, 상속, 그룹 기반 권한이 모두 포함되며, 예상보다 범위가 넓은 경우가 많습니다. 오래되었거나 과도한 권한은 제거하고, 접근 검토를 연례 행사처럼 몰아서 하지 말고 일상적인 운영의 일부로 만드세요. 쓰기 권한은 특별히 주의 깊게 살펴야 합니다. 학습 데이터나 모델 파일을 수정할 수 있는 모든 ID는 포이즈닝으로 이어질 수 있는 잠재적 경로이기 때문입니다.
상시 권한 줄이기
권한 있는 접근은 일시적이고, 승인되어야 하며, 추적 가능해야 합니다. 상시 관리자 계정은 공격자가 노리는 대상이자, 프런티어 AI 법률이 명시적으로 언급하는 유형의 내부자 접근입니다.
적시(JIT) 접근은 AI 자산을 언제든 수정하거나 전송할 수 있는 계정을, 필요할 때에만 필요한 시간 동안 부여되는 상위 권한으로 대체하며, 누가 왜 사용했는지에 대한 기록도 남깁니다. 상시 계정이 줄어들수록 탈취할 가치가 있는 자격 증명도 줄어듭니다.
AI 워크플로로 들어오고 나가는 데이터 이동 통제
엔드포인트 데이터 유출 방지(DLP)와 장치 통제는 관리되는 엔드포인트를 통해 데이터가 이동하는 방식을 관리합니다. 데이터가 나가는 경로에서는 모델 데이터, 학습 데이터, 지적 재산이 USB 장치, 브라우저, 이메일, 클라우드 서비스를 통해 유출되는 것을 막을 수 있습니다. 직원이 승인되지 않은 AI 도구에 민감한 콘텐츠를 붙여 넣는 것을 막는 것도 포함됩니다.
같은 기능이 반대 방향에서도 작동하여, 승인되지 않은 파일과 데이터가 AI 개발 및 학습 워크플로로 들어오는 것을 막습니다. 따라서 데이터 이동 통제는 유출 위험과 포이즈닝 위험을 모두 줄이는 하나의 통제가 됩니다.
모델 및 학습 데이터 무결성 보호
파일 무결성 모니터링과 변경 추적은 학습 데이터, 모델 파일, 체크포인트, 구성, 지원 인프라에 대한 무단 수정을 탐지합니다.
변경이 미묘할 수 있고 모델이 여전히 정상적으로 작동하는 것처럼 보이기 때문에, 이것이 포이즈닝에 대한 핵심 탐지 계층입니다. 무결성 모니터링은 자산을 정상으로 알려진 상태와 비교해 무엇이, 언제 바뀌었고 그 변경이 승인된 것인지 보여 줍니다. 이러한 기준선이 없으면 무단 수정은 입증하기 어렵고 놓치기 쉽습니다.
탐지, 조사, 문서화
보안팀은 환경 전반의 의심스러운 접근, ID 행동, 변경 사항을 볼 수 있어야 합니다. 문제가 발생하면 누가 무엇에 접근하고, 변경하고, 옮겼는지, 그리고 언제인지를 보여 주는 감사 기록과 조사 증거도 필요합니다.
이러한 증거는 사고 대응을 뒷받침합니다. 또한 여러 AI 법률이 촉박한 기한을 두고 있는 규제 보고도 뒷받침합니다. 보고서는 그 근거가 되는 증거만큼만 탄탄하며, 그 증거는 사고가 발생하기 전에 이미 존재해야 합니다.
여섯 가지 통제가 연결되는 방식
통제 | 답하는 질문 | 다른 통제와의 연결 방식 |
|---|---|---|
|
검색 및 분류 |
민감한 AI 자산은 어디에 있는가? |
다른 모든 통제에 무엇을 먼저 보호해야 하는지 알려 줍니다 |
|
접근 거버넌스 |
누가 이를 읽거나 수정할 수 있는가? |
나머지 통제가 감시해야 하는 ID 집단을 줄여 줍니다 |
|
상시 권한 줄이기 |
지금 누가 권한 있는 접근을 갖고 있는가? |
AI 자산을 옮기거나 변경할 수 있는 상시 활성 계정을 줄여 줍니다 |
|
데이터 이동 통제 |
AI 워크플로에서 무엇이 나가거나 들어오는가? |
어떤 데이터를 차단할지 알기 위해 분류에 의존합니다 |
|
무결성 보호 |
바뀌지 말았어야 할 것이 바뀌었는가? |
조사자에게 비교할 수 있는 정상 기준선을 제공합니다 |
|
탐지, 조사, 문서화 |
무슨 일이 있었는지 입증할 수 있는가? |
다른 모든 통제가 생성하는 접근 및 변경 기록을 활용합니다 |
어떤 통제도 단독으로 작동하지 않습니다. 각 통제는 다른 통제에 의존하거나 다른 통제를 더 효과적으로 만듭니다. 5부에서는 이러한 통제가 수명 주기로서 어떻게 함께 작동하는지, 그리고 Netwrix가 어디에 해당하는지 살펴봅니다.
시리즈 다음 편: 5부, AI 보안에는 수명 주기 접근 방식이 필요합니다.
공유하기
더 알아보기
저자 소개
Istvan Molnar
IT 보안 컴플라이언스 전문가 및 제품 마케팅 매니저
Istvan Molnar는 Netwrix의 숙련된 IT 보안 컴플라이언스 전문가이자 제품 마케팅 매니저로, 국제 표준, 규정 및 사이버보안 프레임워크에 대해 10년 넘는 전문성을 보유하고 있습니다. 그는 복잡한 컴플라이언스 요구 사항과 Netwrix 제품 포트폴리오 간의 격차를 연결하는 데 특화되어 있으며, 컴플라이언스 중심의 이니셔티브와 시장 진입 전략을 위한 전략적 지침, 설득력 있는 콘텐츠, 지원을 제공합니다.