AI 국가 전략의 진짜 승부처는 GPU 수량만이 아닙니다.

이 글은 AI 시대 한국 보안 거버넌스 시리즈의 5편이자 국가 전략 확장편입니다. 앞선 글들이 평가 체계, 다행위자 균형, 적응 능력 지표, 시장 압력을 다뤘다면, 이 글은 그 논의를 AI control plane 주권과 국가 AI 보안 운영 체계로 확장합니다.

한국과 싱가포르의 AI 국가 전략을 정보보호 관점에서 비교하면, 표면적으로는 두 가지 선택지처럼 보입니다. 하나는 컴퓨트 인프라를 대규모로 확보하는 전략이고, 다른 하나는 AI를 안전하게 개발하고, 검증하고, 확산하는 신뢰 허브 전략입니다.

그러나 이 이분법 자체가 함정일 수 있습니다.

AI 국가 전략은 인재, 전력, 데이터, 연구 생태계, 산업 수요, 반도체 공급망, 투자 구조까지 포함하는 복합적인 문제입니다. 다만 정보보호 관점에서 보면, 지금 가장 과소평가되기 쉬운 축이 있습니다. 바로 AI control plane입니다.

여기서 AI control plane이란 GPU 자체를 뜻하지 않습니다. 어떤 모델이 배포되고, 어떤 데이터에 접근하며, 어떤 AI agent가 어떤 도구를 호출하고, 그 요청과 결과가 어디에 기록되고, 사고 발생 시 누가 어떤 근거로 검증할 수 있는지를 통제하는 운영 계층을 말합니다.

싱가포르 NAIS의 중요한 축은 속도만이 아니라 검증과 신뢰입니다. 생성형 AI와 Agentic AI에 대한 거버넌스 프레임워크, LLM 기반 애플리케이션 테스트 도구, AI safety tool, AI assurance 생태계를 함께 구축하면서, AI를 “얼마나 많이 쓰는가”보다 “어떻게 검증하고 책임질 수 있는가”를 묻습니다.

정보보호 관점에서 이 접근은 중요합니다. 앞으로 AI 사고는 단순히 모델이 틀린 답을 내는 문제가 아닐 가능성이 큽니다. Prompt injection으로 RAG 시스템이 내부 데이터를 유출하거나, AI agent가 과도한 권한으로 메일·DB·SaaS·클라우드 콘솔을 호출하거나, 외부 모델·adapter·plugin·container image가 공급망 위험을 만들 수 있습니다. AI가 업무 시스템과 연결될수록 보안의 중심은 모델 성능이 아니라 데이터 흐름, 권한, 로그, 검증 가능성으로 이동합니다.

반면 한국 전략의 강점은 물리적 주권과 산업 기반입니다. 국가 AI 컴퓨팅 센터, GPU 확충, HBM과 AI 반도체, 데이터센터와 전력 인프라를 강화하면 민감한 워크로드를 국내에서 처리할 수 있습니다. 공공, 금융, 국방, 제조 영역에서는 분명한 우위입니다. 그리고 이 인프라 선점 기회는 지금 놓치지 말아야 합니다.

한국의 산업 구조도 이 방향을 뒷받침할 수 있습니다. 반도체, 메모리, 자동차, 조선, 배터리, 통신, 전자 제조 기반은 AI를 단순 서비스가 아니라 제조 AX, 반도체 AX, 로보틱스 AX로 확장할 수 있는 토대입니다. 특히 제조 현장에서 축적되는 공정 데이터와 암묵지는 한국이 가진 중요한 차별점입니다.

문제는 컴퓨트 인프라 확충이 곧 기술 주권이나 보안 성숙도를 의미하지 않는다는 점입니다. 데이터센터를 짓고 GPU를 확보하더라도, 그 위에서 동작하는 핵심 모델, 클라우드 운영권, 추론 엔진, agent framework, 보안 검증 도구, 소프트웨어 공급망이 외부 사업자에 의존한다면, 국가는 물리적 인프라를 보유하더라도 상위 control plane에서는 후순위에 머물 수 있습니다.

최근 Anthropic의 Project Glasswing은 이 문제를 다른 각도에서 보여줍니다. Glasswing은 사이버보안 영역의 사례이지만, 그 구조는 AI 국가 전략에도 시사점이 있습니다. Anthropic은 단순히 “AI가 취약점을 잘 찾는다”는 메시지만 내고 있지 않습니다. 모델, 하니스, threat model builder, scanning subagents, 검증 파이프라인, 보안 파트너 네트워크, coordinated vulnerability disclosure, 패치 워크플로우를 하나의 생태계로 묶고 있습니다.

여기서 하니스란 단순한 테스트 코드가 아닙니다. 모델이 낸 결과를 실제 코드와 운영 환경에서 재현하고, 중복을 제거하고, 위험도를 다시 매기고, 패치와 회귀 테스트로 연결하는 검증 장치입니다. 결국 AI 보안의 가치는 모델 출력이 아니라 검증 가능한 운영 체계에서 나옵니다.

이 점은 AI exploit benchmark에서도 반복해서 드러납니다. 모델의 성능은 agent loop, tool interface, prompt, nudge, context budget, grading 방식과 분리해서 봐야 하며, 비용 효율도 단순 token price가 아니라 하니스가 얼마나 결과를 끌어올리는지까지 함께 봐야 합니다.

이 구조는 역사적으로 Microsoft가 플랫폼을 확장해온 방식과 닮아 있습니다. Microsoft는 Windows만 판 것이 아닙니다. Windows API, Visual Studio, SDK, 인증 프로그램, Partner Network, 배포 채널을 함께 묶어 ISV 생태계를 만들었습니다. 그 결과 개발자와 파트너는 자연스럽게 Microsoft 플랫폼 위에서 움직였습니다.

Anthropic Glasswing도 비슷한 방향으로 해석할 수 있습니다. 차이는 대상이 운영체제와 애플리케이션 생태계가 아니라 AI 보안 검증 생태계라는 점입니다.

물론 AI control plane은 Windows처럼 단일 사업자가 완전히 통제하는 폐쇄형 플랫폼과는 다릅니다. 모델, 클라우드, agent framework, 데이터, 인증, disclosure, 산업별 규제가 훨씬 더 분산되어 있기 때문입니다. 그래서 앞으로의 권력은 단일 독점보다 표준, 인증, 하니스, 파트너 네트워크, disclosure 조정 능력을 가진 거버넌스 노드에 가까울 가능성이 큽니다.

AI 시대의 플랫폼 권력은 모델을 가진 쪽에만 있지 않습니다. 하니스를 가진 쪽, 검증 기준을 가진 쪽, 파트너 네트워크를 가진 쪽, 취약점 공개와 패치 흐름을 조율하는 쪽으로 이동하고 있습니다.

이 관점에서 보면 한국의 위험은 더 분명해집니다. GPU와 데이터센터는 국내에 있어도, AI 보안 검증 하니스, agent security framework, disclosure workflow, benchmark, 인증 기준이 외부 플랫폼에 묶이면 어떻게 될까요. 그때 한국은 중요한 인프라와 산업 데이터를 보유하더라도, AI 보안 검증과 운영 규칙을 정의하는 위치에 서기 어려울 수 있습니다.

물론 Glasswing의 초기 성과는 장기적인 품질 검증이 더 필요합니다. 실제 exploitability, 중복률, reachable exposure, patch quality는 시간이 지나며 검증되어야 합니다. 그러나 적어도 한 가지 방향은 분명해 보입니다. AI 보안에서 병목은 점점 “모델이 결과를 내는가”에서 “그 결과를 누가 검증하고, 우선순위화하고, 패치로 연결하는가”로 이동하고 있습니다.

이 점은 사이버보안에만 국한되지 않습니다. 제조 AX, 금융 AI, 공공 AI, 국방 AI도 마찬가지입니다. 모델이 낸 판단을 그대로 믿는 것이 아니라, 도메인별 threat model, 검증 하니스, 운영 로그, 책임 경계를 함께 설계해야 합니다. 이를 외부 플랫폼이 정의하게 두면, 한국은 산업 데이터와 컴퓨트 자산을 가지고도 AI 생태계의 규칙을 만드는 위치에 서기 어렵습니다.

정보보호 관점에서는 더 큰 문제가 있습니다. GPU가 많아질수록 그 위에서 동작하는 모델, 데이터, API, AI agent, 권한, 로그, 공급망도 함께 복잡해집니다. 통제되지 않은 대규모 AI 인프라는 전략 자산이 아니라 거대한 공격 표면이 될 수 있습니다.

따라서 중요한 것은 완전한 국산화가 아닙니다. 핵심은 전략적으로 통제 가능한 스택입니다. GPU, NPU, 추론 엔진, 모델, 데이터, 운영 로그, agent 권한, 보안 검증 체계 중 어느 계층을 국내에서 통제하고, 어느 계층을 외부 사업자와 연동할지 명확히 설계해야 합니다. 외부 사업자와 연동한다면 routing transparency, logging, retention, subprocessors, jurisdiction, incident access를 어떻게 통제할지도 함께 정해야 합니다. 이것이 기술 주권의 실질입니다.

여기에 한 가지가 더 필요합니다. AI control plane에 대한 주권입니다. 어떤 데이터가 학습·검색·추론에 쓰였는지, 어떤 모델과 adapter가 배포되었는지, AI agent가 어떤 도구를 호출할 수 있는지, 프롬프트와 응답 로그가 어디에 저장되는지, 추론 요청이 어느 리전과 사업자를 거치는지, 사고 발생 시 누가 어떤 근거로 포렌식할 수 있는지를 통제할 수 있어야 합니다.

AI 안전 거버넌스도 이 설계의 마지막에 붙이는 컴플라이언스가 아닙니다. EU AI Act와 주요국의 AI 조달 기준이 강화될수록, 안전 검증과 인증이 없는 AI 시스템은 공공, 금융, 헬스케어, critical infrastructure 시장 진입에서 더 큰 제약을 받을 가능성이 큽니다. 이때 AI 안전 인증은 단순한 규제 비용이 아니라 시장 진입을 위한 신뢰 인프라가 될 수 있습니다.

따라서 컴퓨트·제조 인프라 선점과 AI 안전 거버넌스 구축은 단기와 장기로 순서를 나눌 문제가 아닙니다. 컴퓨트 인프라 선점은 반드시 필요합니다. 문제는 그것을 먼저 하고 나중에 보안을 붙이자는 순서론입니다. AI 인프라가 커질수록 control plane도 동시에 설계되어야 합니다.

한국이 이 축을 놓치기 쉬운 데에는 구조적 이유가 있습니다. 한국 산업정책은 반도체, 제조, 데이터센터, 전력 인프라처럼 눈에 보이는 물리 기반을 설명하고 투자하는 데 익숙합니다. 반면 AI assurance, 보안 하니스, agent 권한 경계, tool-call 로그, disclosure coordination은 성과가 즉시 보이지 않고, 아직 독립된 산업 언어로도 충분히 정리되어 있지 않습니다. 그래서 컴퓨트 인프라 투자는 국가 전략의 중심에 오르기 쉽지만, 그 위에서 작동하는 검증과 운영 증적 체계는 뒤로 밀리기 쉽습니다.

한국이 진짜로 구축해야 할 것은 단순한 국가 AI 컴퓨팅 센터가 아닙니다. 국가 AI 보안 운영 체계입니다. GPU 클러스터 위에 model SBOM에 준하는 모델 구성 정보, dataset lineage, RAG source provenance, AI agent 권한관리, prompt·response·tool-call 로그, AI red teaming, runtime guardrail, incident response, vulnerability disclosure coordination, patch verification이 함께 올라가야 합니다.

이를 거대한 구호로만 둘 필요는 없습니다. 첫 단계는 공공·금융·제조 AI 조달 기준에 몇 가지 운영 증적을 포함하는 것에서 시작할 수 있습니다. 예를 들어 model 구성 정보, dataset lineage, RAG source provenance, agent 권한 범위, tool-call 로그 보존, 사고 시 포렌식 접근권은 조달과 인증 과정에서 검토할 수 있는 항목입니다. 산업별로는 제조 AX, 금융 AI, 공공 AI에 맞는 재현 가능한 red team 하니스와 assurance 기준이 필요합니다. AI-generated vulnerability finding을 접수하고, 중복 제거하고, 우선순위화하고, 패치 검증까지 연결하는 국내 검증 역량도 함께 키워야 합니다.

한국의 AI 인프라 전략은 틀린 것이 아닙니다. 오히려 반드시 필요한 방향입니다. 다만 그것만으로는 불완전할 수 있습니다. GPU, HBM, 데이터센터, 제조 AX는 AI 주권의 물리적 기반입니다. 하지만 그 위에 AI control plane, assurance, 보안 하니스, 운영 증적 체계를 함께 올리지 않으면, 물리적 주권은 있어도 운영 주권은 외부 플랫폼에 의존하게 될 수 있습니다.

앞서 말한 위험 중에서도 가장 빨리 굳어질 수 있는 것은 agent 권한과 tool-call 로그입니다. 모델과 GPU는 조달 주기가 길지만, AI IDE, MCP, SaaS connector, workflow agent는 훨씬 빠르게 현장에 들어옵니다. 이때 어떤 agent가 어떤 시스템을 호출할 수 있는지, 어떤 승인을 거쳤는지, 어떤 결과와 증적을 남겼는지가 외부 플랫폼의 기본값으로 굳어지면 나중에 되돌리기 어렵습니다. AI control plane 주권의 첫 전선은 agent가 도구를 호출하는 순간의 권한과 로그입니다.

AI 국가 전략의 승자는 GPU를 가장 많이 가진 나라가 아닐 수 있습니다. 진짜 승자는 GPU 위에서 돌아가는 데이터, 모델, AI agent, 권한, 로그, 검증, 공개, 패치 흐름을 끝까지 통제하고 증명할 수 있는 나라일 것입니다.

함께 읽을 글

이 글은 AI control plane을 국가 전략의 문제로 다뤘지만, 같은 논의는 취약점 대응과 개발 도구 공급망에서도 반복된다.

참고 자료