요약
중국이 프런티어 AI 모델과 에이전트 기술을 처음으로 수출 통제 목록에 넣으려 합니다.
클라우드 보안 단체 클라우드 시큐리티 얼라이언스(CSA)의 연구 노트입니다. 중국 상무부와 과학기술부가 10월 16일 낸 공고 제48호를 분석하고, 중국산 AI를 쓰는 기업이 할 일을 정리했습니다.
왜 중요한가
- 중국이 모델 가중치와 에이전트, AI 공격 도구까지 기술 기준을 정해 통제하는 첫 사례입니다.
- 세계 상위권 중국 모델을 해외로 넘기거나 중국 밖 서버에서 돌리려면 정부 허가가 필요해집니다.
- CSA는 중국산 모델을 쓰는 기업에 대체 모델을 준비하고 미국과 중국 양쪽의 통제에 대비하라고 권고했습니다.
핵심 내용
- 초안은 수출 통제 목록에 기술 40개를 추가하며, 그중 23개가 AI 분야입니다.
- 가중치·소스 코드는 학습 연산 10^26 FLOP(부동소수점 연산 횟수), 매개변수 2조 개, 세계 10위 안 가운데 하나만 해당해도 제한됩니다.
- 에이전트는 작업 사슬 길이와 동시 실행 수 등으로 통제하고, 국방·핵심 기반시설용 고성능 에이전트는 수출을 금지합니다.
- API·앱·SaaS로 서비스하는 것은 통제 밖이며, 오픈소스나 논문으로 이미 공개된 기술도 빠집니다.
- 목록 추가는 11월 15일까지 의견을 받는 초안이지만, 수출 전 등록 의무는 이미 시행 중입니다.
HN 반응
- 공개 기술은 빼고 자동 허가를 주겠다는 상무부 설명을 근거로 가중치 공개 노선이 유지된다는 해석과, 결국 규제 쪽으로 간다는 반론이 맞섰습니다.
- 중국 모델은 가중치를 공개해 신뢰를 얻었다며 상위권 제한을 우려하는 목소리와, 몇 주 전 나온 소식이라 새롭지 않다는 지적이 함께 나왔습니다.
https://www.mofcom.gov.cn/xwfb/xwfyrth/art/2026/art_d7661dbf62794345a221404f82a25959.html
"둘째, 오픈소스, 개방적 협력, 자원 공유를 장려합니다. 중국 정부는 인공지능이 공동 번영을 촉진하고 공동 안보를 지키는 중요한 원동력이 되도록 힘쓰고 있습니다. 인공지능 오픈소스 혁신 생태계 구축을 뒷받침하기 위해, 오픈소스 AI 기술이 관련된 기술 수출, 중국 기업의 해외 컴퓨팅 센터 구축·운영, 해외 칩 제조, 해외 자원을 활용한 공동 연구개발, 국제 표준 제정 참여에는 자동 허가 같은 편의 조치를 적용해 기본적으로 '신고 즉시 수출'을 실현할 것입니다. 오픈소스나 공개 학술 논문을 통해 이미 공개 영역에 들어온 기술은 수출 관리 범위에 포함하지 않아, 인공지능 기술의 국제 교류와 협력에 유리한 환경을 만들겠습니다."
공식 입장만 보면 여전히 오픈 웨이트를 지지하는 것 같네요.
오픈 웨이트 모델을 장려하는 흥미로운 방식이네요. 폐쇄형 AI를 수출하려는 쪽은 누구든 허가를 신청해야 한다는 얘기로 들립니다.
폐쇄형 가중치 모델을 만드는 회사들은 보통 모델을 아예 수출하지 않고, 모델 접근 권한을 서비스로 팝니다. (이는 모델 수출로 치지 않습니다.) 그러니 수출 허가를 신청해야 하는 쪽은 주로 오픈 웨이트를 공개하는 회사(제한 대상 범주의 기준을 넘는 경우)이거나, 중국 밖 데이터센터에서 모델을 호스팅하는 회사입니다.
누구 말입니까?
수출통제 초안 기자회견에서 상무부가 한 말입니다. https://www.mofcom.gov.cn/xwfb/xwfyrth/art/2026/art_d7661dbf62794345a221404f82a25959.html "기업이 제한 유형 대형 모델을 활용해 대외적으로 API 호출, 앱/웹 상호작용, SaaS 응용, 로컬 단말 경량화 배포 등을 제공하는 경우는 대형 모델 기술 수출 관리 범위에 속하지 않는다."
한편 미국은 API 접근도 수출의 한 형태로 본다는 게 분명해 보이니, 오해할 만도 합니다. 아니면 중국이 지금은 그런 형태의 수출을 제한하지 않는다고 말하는 편이 더 정확하겠죠.
이 주제로 작은 책을 썼습니다. https://insanai.github.io/aiexportcontrols/
오프라인용 PDF도 여기서 받을 수 있습니다. https://insanai.github.io/aiexportcontrols/books/en/open-source-ai-export-controls-en.pdf
게임 이론으로 보면 수출 통제는 결국 양쪽 모두에게 실패로 이어진다는 점도 다루고 있습니다.
유명한 얘기지만 소련 헌법은 미국 헌법보다 훨씬 많은 자유를 명시적으로 보장했죠. 그러니 문서만 봐서는 알 수 있는 게 별로 없어요.
그런데 AI에 관해서는 중국이 훨씬 개방적이라는 건 잘 알려진 사실이잖아요. 그 비유가 맞으려면 중국이 위선자여야죠. 실제로는 개방적이지 않으면서 개방을 선언하는 쪽 말이에요.
OpenAI를 두고 그렇게까지 비꼴 필요는 없잖아요.
정부가 하는 말보다는 하는 일이 대체로 훨씬 중요합니다. 그리고 이번에 정부가 하는 일은 제한하는 방향으로 움직이는 것이고요.
아닙니다. 지금까지 중국이 해온 일은 아무것도 바꾸지 않은 것입니다.
지금 하는 말은 앞으로도 바꾸지 않겠다는 것이고요.
물론 하룻밤 사이에 달라질 수도 있습니다.
여기에는 여러 측면이 있습니다. 중국은 소프트 파워의 의미를 깨닫고 있고, 게다가 AI 관련 모델, 서비스, 하드웨어의 주요 공급자가 되면 세계 경제에서 자국의 입지가 더 굳어집니다. 이 분야에서 미국과 정면으로 겨루기는 어려울지 몰라도, 미국보다 싸게 팔 수는 있습니다.
물론 위험도 있습니다. 학습 데이터와 조건 설정 데이터를 확인할 수 없는 모델이 그대로 풀려 나오면, 원치 않는 페이로드가 들어 있을 수 있습니다. 하지만 다른 나라의 서비스 제공업체도 마찬가지입니다. 호스팅되는 추론은 학습 데이터에 있던 내용에 비춰 진실을 말해 줄 거라고도(추론 오류가 아니라 검열을 말하는 겁니다), 내 정보를 유출하지 않을 거라고도 제대로 믿을 수 없습니다.
이번 수출통제안에는 수출을 아예 금지하는 범주가 몇 가지 새로 들어갑니다. 샌드박스 탐지가 한 예입니다. AI 모델에만 해당하는 조항은 꽤 넉넉하지만, 그래도 모델이 지나치게 뛰어나서 다른 금지 조항에 걸릴 가능성은 있습니다. 오픈소스를 장려한다는 발표는 수출이 금지가 아니라 제한만 되는 경우에만 적용되고, 그 경우에도 기업이 수출 의사를 미리 신고해야 합니다. 원칙적으로는 정부가 수출 허가를 내주지 않을 여지가 있다는 뜻입니다.
그러니 바뀌는 건 있습니다.
게다가 미국을 믿을 수 없는 나라가 많으니(마두로를 떠올려 보세요, 흠흠) 그런 나라들은 중국 AI 솔루션을 택할 겁니다.
"말보다 행동을 보라." -Zed
"지금 당신네 정부는 다른 나라 정부나 하는 줄 알았던 짓을 하고 있어." -Van Halen, Right Now
근거를 좀 대주시겠어요? 반박하려는 건 아니고 궁금해서요.
제가 (아주 꼼꼼히 알아본 건 아니지만) 보기에는, 제한할 수 있는 능력은 갖추되 그 능력이 오픈 웨이트 모델 수출이라는 현행 관행에 걸림돌이 되지 않도록 조항도 함께 넣는 것 같습니다.
그러니 제가 보기에는 어느 한쪽으로 기울었다기보다 선택지를 열어 두고 있는 것입니다.
중국이 자국 모델의 수출을 제한하려는 이유는 이해합니다.
하지만 중국 모델이 이만큼 인기를 얻은 유일한 이유는 오픈소스이기 때문이라고 생각합니다.
저는 중요한 업무에 쓸 만큼 중국 모델을 신뢰하지는 않습니다. 오픈이 아닌 이상은요.
[세계 상위 10위 안에 드는] 강력한 중국 모델을 하나라도 제한하면 그 모델을 옹호하기도, 전 세계 사용자가 도입하기도 아주 어려워질 겁니다.
강력한 AI의 민주화가 끝나가는 시작점일지도 모르겠다는 생각이 듭니다.
그리고 맞아요, 그 민주화를 이끈 쪽이 중국 모델이었다는 아이러니도 잘 압니다!
왜 다들 이걸 계속 "오픈소스" 모델이라고 부르는 겁니까? NVIDIA의 바이너리 블롭과 크게 다르지 않습니다. 물론 돌아가고 실행해서 결과도 얻을 수 있지만, 소스 코드, 학습 데이터, 학습 과정은 대부분 숨겨져 있고 독점입니다. 가중치를 공개하는 것은 소스를 공개하는 것과 다릅니다. 이건 오픈소스 모델이 아니라 오픈 웨이트 모델입니다.
저는 추론 코드가 완전히 공개되어 있으니 여전히 오픈소스라고 봅니다. 실제로 쓰는 사람은 모델을 열어서 내부 상태를 들여다볼 수 있고, 많은 사람이 공개 모델을 자기 목적에 맞게 이리저리 수정하거나 파인튜닝하는 것도 볼 수 있으니까요.
제 생각에는 이 정도면 '오픈소스'라고 부르기에 개념적으로나 기술적으로나 충분합니다. 반대 경우를 상상해 볼 수도 있습니다. 추론 자체가 알 수 없는 바이너리 블롭을 거쳐야 해서 모델의 기술 스택이 완전히 독점으로 남는 경우 말입니다.
학습 데이터, 학습 레시피와 커리큘럼, 그리고 그 최적화에 들어간 비법이 빠져 있다는 지적은 맞습니다. 하지만 그것이 오픈소스라는 명칭의 필수 요건이라고는 생각하지 않습니다.
대신 모델 가중치는 일종의 렌더링된 결과물이고, 그런 관점에서 평가해야 한다고 봅니다. 사진가나 일러스트레이터가 카메라 RAW 파일이나 포토샵 레이어 전체가 아니라 완성된 이미지만 내놓았다고 해서, 허용적 라이선스가 붙은 이미지를 덜한 것으로 취급하지는 않잖습니까.
물론 다른 점은 있습니다. 언어 모델에서 렌더링된 결과물(가중치 덩어리)은 평범한 사진보다 훨씬 더 중요하다는 것입니다.
아니요, 그건 SaaS 웹앱이 아니라 내 컴퓨터에서 바이너리를 내려받아 실행할 수 있다는 이유로 Photoshop이 오픈소스라고 말하는 것과 같아요. 거의 모든 사람이 동의하지 않을 걸요.
그건 오픈 웨이트에 대한 설명이지 오픈소스에 대한 설명이 아니잖아요.
전통적인 의미의 오픈소스 소프트웨어는 전부 ISA에 의존하는데, 그 ISA는 대중에게 공개되지 않은 마이크로코드로 실행되잖아요?
이게 뭐가 다른지 모르겠어요. 인텔이 트랜지스터 물리 라이브러리와 마이크로코드까지 공개해야 "진정한" 오픈소스라고 하는 셈이잖아요. 저는 가장 최근 마이크로코드 변경에 대한 내부 메모도 갖고 있지 않은데, 이건 비유하자면 "학습 과정"에 해당하는 거고요.
그럼 가중치에 백도어가 없는지 직접 검사해 보셨습니까?
두 경우 모두 위험이 있지만, 성격이 아주 다릅니다.
폐쇄형 모델을 쓰면 모델 제공업체가 내 데이터를 전부 가져갑니다. 게다가 마음만 먹으면 적대적인 도구 호출을 능동적으로 돌려보낼 수 있고, 그런 행동을 모델에 학습시키는 수고조차 필요 없이 내 하네스가 그걸 걸러 주기만 바라야 합니다. 이를 막으려면 꼼꼼하게 제한을 걸어 두는 수밖에 없습니다.
오픈 모델을 내 시스템이나 제3자 제공업체에서 쓰는 경우, 모델을 만든 쪽이 적대적인 도구 호출을 일으키는 "트리거"를 학습시켜 놨을 가능성은 있습니다. 하지만 그쪽은 직접 통제할 수 없고, 내가 실제로 모델을 어떻게 쓸지 모르는 "깜깜이" 상태에서 그런 행동을 학습시켜야 합니다.
그렇다고 모델을 방심하고 믿어도 된다는 뜻은 아닙니다. 다만 피해를 입힐 가능성은 달라집니다. 무엇보다 모델 또는 제공업체 API가 어느 날 갑자기 바뀔 위험 없이 모델에 평가(eval)를 돌려 볼 수 있으니까요.
그래서 폐쇄형 모델을 쓰는 데는 제3자 호스팅 업체에서 돌리는 오픈 모델보다 훨씬 큰 신뢰가 필요하고, 내 하드웨어에서 오픈 모델을 돌리는 것보다는 말할 것도 없이 더 큰 신뢰가 필요합니다.
중국 모델은 인터넷 없이 로컬에서 돌릴 수 있지만, 미국 모델은 인터넷에 연결되어 있어야 하잖아요. 백도어를 숨기기 더 쉬운 쪽이 어디겠어요.
문제는 결국 오픈 모델도 옛날 방식의 "프리웨어"와 비슷하다는 점입니다. 입력을 받아 출력을 내놓는 블랙박스 바이너리니까요. 일반적인 "프리웨어"라면 리버스 엔지니어링으로 어셈블리를 동작에 대응시켜 가며 확신을 가질 수 있었습니다. 하지만 이런 오픈 모델은 그렇지 못합니다. 그러니 오픈이라 해도 이 모델들을 너무 많이 신뢰할 수는 없습니다. 모델 가중치 숫자를 읽는 것만으로는 현재 식별할 수 없는 백도어가 있을 수도 있고요. 후속 학습으로 "알려진" 문제의 가능성을 줄여 볼 수는 있지만, 우리가 모르는 문제가 무엇인지는 알 수 없습니다. 흥미로운 시대가 올 겁니다.
이 규정들, 새로운 게 아니지 않나요? 이전 지침(상위 10위 모델 제한, 오픈소스 협력은 예외)과 일치하는 것 같은데요.
맞습니다. 몇 주 전에 있었던 일인데 HN에서는 한 번도 논의되지 않았습니다.
요즘은 큰 뉴스가 연달아 터져서, 이런 중요한 소식이 논의되지 못하고 묻히는 게 문제의 일부입니다. HN은 메인 페이지에 글을 30개만 보여 주니까 논의에 한계가 있고요.
맞아요. HN에서만 이제야 화제가 된 것 같아요. 저는 r/LocalLlama에서 이미 본 소식이라 더 새로운 소식인 줄 알았어요.
위험한 시나리오는 미국과 중국이 손잡고 공동 "AI 비확산" 협정을 맺는 것입니다. 핵 기술이 이미 그 능력을 가진 나라들에 의해 제한된 것과 같은 방식으로요. 그러면 두 나라끼리만 사실상 나머지 세계를 기술적으로 식민지화하게 될 겁니다.
이건 바로 지난달 트럼프와 시진핑의 AI 정상회담에서 논의된 주제였습니다. 이제 수출 통제가 자리를 잡기 시작하는 모습이 보입니다.