AI 토큰만 있으면 누구나 해커가 될 수 있습니다

공개 코드 저장소에는 이미 공격 스크립트가 가득합니다. 지하 AI 도구는 요청만 하면 피싱 미끼와 작동하는 악성코드를 만들어 주므로, 모델 API에 접근할 수 있다는 것 외에는 거의 장벽이 남아 있지 않습니다. 기술 요건이 거의 0에 가까워진 만큼, 받은 편지함, 헬프데스크, 로그인 페이지로 들어오는 공격이 더 늘어날 것입니다. 또한 공격 뒤에 어떤 모델이 있는지가 누가 실행했는지보다 더 유용한 위협 신호가 되어 가고 있습니다.

AI가 없앤 세 가지 장벽

기술. 예전에 악성코드를 만들려면 프로그래밍 언어를 알고, 백신 시그니처가 어떻게 작동하는지 이해하고, 코드가 돌아갈 때까지 테스트해야 했습니다. 이제 공격자는 원하는 것을 일상 언어로 설명하기만 하면 모델이 코드를 작성합니다. 피싱도 마찬가지입니다. 모델은 어떤 메시지가 합법적이고, 긴급하고, 클릭해도 안전해 보이는지 이미 알고 있으므로 공격자가 설득력 있는 문구를 직접 쓸 필요가 없습니다.

개인화. 예전 방식의 피싱은 일반적인 이메일을 수천 통 뿌리고 몇 퍼센트가 클릭하기를 바랐습니다. 모델에 누군가의 LinkedIn 프로필, 회사 보도자료, 소셜 게시물 몇 개를 주면 실제 직함, 상사 이름, 거래처 관계를 언급하는 미끼를 작성합니다. 숙련된 사회공학 공격자가 대상 한 명을 조사하는 데 몇 시간이 걸렸다면, 모델은 몇 초면 되고 전체 대상 목록을 한꺼번에 처리할 수 있습니다.

속도. 기존 방어는 악성코드 시그니처, 알려진 피싱 도메인, 행동 기준선 같은 패턴에 의존합니다. AI가 만든 공격은 누구도 그 패턴을 목록화할 수 없을 만큼 빠르게 변이합니다. 한 버전의 시그니처가 만들어질 때쯤이면 모델은 그것과 일치하지 않는 변종을 이미 열 개 더 만들어 냅니다.

이런 변화가 겹치면서 스크립트 키디와 본격적인 위협 행위자의 경계가 흐려지고 있습니다.

AI가 공격 킬 체인을 바꾸는 방식

킬 체인 자체는 그대로입니다. 달라진 것은 규모입니다.

1. 정찰(Recon). 공격자는 예전에 LinkedIn, 회사 인명록, 과거 데이터 유출 자료를 손으로 뒤졌습니다. 이제 AI 도구가 이 데이터를 자동으로 수집하고 교차 분석해, 며칠 걸리던 대상의 직무, 관계, 습관 프로필을 몇 분 만에 만들어 냅니다.
2. 무기화(Weaponization). 모델이 공격 자료를 작성합니다. 특정 어조에 맞춘 피싱 이메일, 다섯 번째가 아니라 첫 시도에 작동하는 악성코드, 부서 내부의 말투를 흉내 내는 사회공학 스크립트 등이 포함됩니다.
3. 전달(Delivery). 공격자는 이메일, SMS, 가짜 로그인 페이지, 음성을 통해 대상에 접근합니다. 콘텐츠 생성 비용이 낮아 여러 채널을 동시에 공략하고 무엇이 통하는지 확인합니다.
4. 악용(Exploitation). 탈취한 자격 증명이나 취약점으로 발판을 마련하면, AI가 다음 단계를 자동화하도록 돕습니다. 타이밍을 최적화하고, 프록시를 돌려 쓰고, 추측 대신 실시간으로 계정 잠금 정책에 맞춰 대응합니다.
5. 지속성(Persistence). 정적 악성코드는 매번 똑같아 보이기 때문에 잡힙니다. AI 지원 악성코드는 스스로를 다시 작성하고, 동작을 바꾸고, 정상 사용자 패턴을 흉내 내면서 조용히 데이터를 빼냅니다.

AI가 다섯 단계 모두에 관여한다는 점이 이번 흐름을 이전 사이버 범죄 도구와 구분합니다.

공격자가 쓰는 AI 모델과 그 용도

ChatGPT, Claude, Gemini, Grok 같은 주류 모델에는 안전 장치가 있어서, 공격자는 모델이 내놓지 말아야 할 결과를 얻기 위해 탈옥 프롬프트와 프롬프트 인젝션에 상당한 노력을 들입니다. 그 대가는 품질입니다. 시장에서 가장 뛰어난 모델이므로 탈옥에 성공하면 최고 수준의 결과가 나옵니다.

그다음이 지하 계층인 WormGPT, FraudGPT, GhostGPT입니다. '악의적'이라는 평판과 달리, 상당수는 Grok이나 Mixtral 같은 합법적인 모델 위에 채팅 인터페이스와 탈옥용으로 조정한 시스템 프롬프트를 얹은 얇은 래퍼 서비스입니다. 구매자는 이미 탈옥된 모델을 받으므로 그 작업을 직접 할 필요가 없습니다.

용도는 모델의 역량에 따라 나뉩니다. 코딩 성능이 뛰어난 모델은 출력 품질이 페이로드의 작동 여부를 좌우하므로 악성코드와 익스플로잇 생성을 맡습니다. 대화 성능이 뛰어난 모델은 어조와 맥락이 미끼의 설득력을 좌우하므로 피싱과 비즈니스 이메일 침해(BEC)를 맡습니다. 음성과 영상 생성 기술이 발전하면, '거래처'나 '상사'를 사칭해 송금을 요구하는 가짜 음성 메시지와 영상 통화 등 딥페이크 기반 비싱도 늘어날 것입니다.

공격자는 모델을 비교해 가며 쓰고, 개발자가 작업에 맞는 도구를 고르듯 킬 체인의 각 단계에 가장 강력한 도구를 선택합니다.

AI 기반 공격의 경제성

공격자가 합법적인 API를 쓰든 범죄용 래퍼 서비스를 쓰든, 모든 프롬프트와 생성 결과에는 백엔드에서 실제 비용이 듭니다. 지하 도구의 가격은 이제 공개되어 있습니다. 텔레그램 기반 상품은 주당 약 50달러부터 시작하고, 더 자리 잡은 서비스는 월 약 200달러, 연간 약 1,700달러입니다.

이를 수익과 비교해 보십시오. BEC 공격 한 건이 성공하면 한 번의 송금으로 수만 달러를 얻을 수 있고, 랜섬웨어 배포는 그보다 훨씬 큰 가치가 있을 수 있습니다. 이런 수익에 비하면 월 200달러는 반올림 오차에 불과합니다. AI는 5년 전에는 없던 규모로 공격을 싸게 만들고 수익성 있게 만듭니다.

Netwrix Change Tracker가 AI로 만든 공격의 흔적을 포착하는 방법

페이로드를 무기화하는 단계부터 시스템에 남아 지속하는 단계까지, 킬 체인의 모든 단계는 결국 파일, 구성 설정, 스크립트, 레지스트리 키처럼 실제로 존재하는 무언가를 건드립니다. AI는 공격을 더 빠르고 눈으로 알아채기 어렵게 만들 수 있지만, 이 마지막 단계는 그대로 보입니다. Netwrix Change Tracker는 변경이 일어나는 즉시 이를 알리고, 계획되고 승인된 내용과 대조하며, 무엇이 언제 바뀌었고 정책에 부합했는지 전체 기록을 남깁니다. 주니어 시스템 관리자의 변경, 주당 50달러짜리 스크립트를 쓰는 스크립트 키디의 변경, 대규모로 움직이는 탈옥 모델의 변경을 모두 똑같이 취급합니다.

같은 논리는 조직이 직접 운영하는 AI 시스템에도 적용됩니다. 모델의 동작을 직접 볼 수는 없지만, 이를 제어하는 시스템 프롬프트, 안전 필터, 구성 파일은 서버에 있으며 Change Tracker가 모니터링할 수 있습니다.

공격자의 도구는 매주 바뀌지만, 시스템이 어떤 모습이어야 하는지를 기준으로 하는 탐지는 그 속도를 따라갈 필요가 없습니다. 달라졌을 때 알아차리기만 하면 됩니다.

Change Tracker 실제 동작 보기

Innovation Week의 모든 대담 살펴보기를 통해 Netwrix와 업계 전문가들이 데이터 및 ID 보안에 대해 나누는 이야기를 들어 보세요.