요약
미국 국토안보부가 연방 민간 기관 IT 시스템에서 DeepSeek 제품과 이를 쓰는 외부 서비스를 모두 걷어 내라고 명령했습니다.
로이터에 따르면 국토안보부(DHS)는 19일 공개한 고시에서 이 조치를 밝혔습니다. 공무원이 중국 AI 모델을 쓰면 민감한 정보가 중국으로 넘어갈 수 있다는 우려가 이유입니다.
왜 중요한가
- 상무부와 해군 등 일부 기관의 기기 사용 금지가 연방 민간 기관 전체로 넓어졌습니다.
- DeepSeek을 바탕으로 만든 외부 서비스까지 막아, 다른 업체를 거쳐 쓰는 길도 닫혔습니다.
- 트럼프 행정부가 중국산 드론과 공유기에 이어 AI 모델까지 차단 대상을 넓히고 있습니다.
핵심 내용
- 연방 민간 기관은 DeepSeek 제품과 이를 쓰는 외부 서비스를 IT 시스템에서 없애야 합니다.
- DeepSeek으로 개발한 제품이나 서비스를 새로 사들이는 것도 금지됩니다.
- 국토안보부는 공무원이나 납품업체가 쓰면 민감한 데이터가 중국으로 넘어갈 수 있다고 했습니다.
- 모델 자체에 악성코드나 보안 취약점이 숨어 있을 수 있다는 점도 위협으로 꼽았습니다.
- 각 기관에 정부 웹사이트를 드나드는 트래픽을 감시하라고 지시한 7월 메모도 함께 공개됐습니다.
HN 반응
- 일부 이용자는 연방 예산이 OpenAI·xAI 같은 미국 기업으로 쏠리게 됐다며 안보보다 자국 기업 보호가 목적이라고 의심했습니다.
- 미국에서 직접 돌리는 모델도 위험하냐는 물음에는 가중치(모델이 학습한 수치) 속 숨은 동작은 검증이 어렵다는 답과 그런 공격은 비현실적이라는 반박이 엇갈렸습니다.
이건 의도한 건 아닐 테지만 참 흐뭇한 부수 효과가 있어요. LLM을 쓰고 싶은 연방 기관은 사실상 전부 국내 최첨단 연구소(OpenAI, xAI) 중 한 곳에 예산을 쏟아부을 수밖에 없게 되니까요. 지속 가능한 미래를 만드는 길이 G20 국가 GDP의 상당 비율에 달하는 빚을 앞으로 떠안는 거라고 생각했다가, 경쟁사들에게 밥그릇을 빼앗기고 있는 그 친구들을 받쳐 주려고 세금이 굵직한 파이프를 타고 흘러들어가게 생겼네요.
득실을 따져야 합니다.
두 가지 측면이 있습니다. 경제와 안보입니다.
지금 미국 정부는 미국의 콘텐츠를 중국 기업에 노출시키는 대가로 더 저렴하지만 SOTA에는 못 미치는 모델을 미국인에게 제공하는 쪽에 찬성할까요? 중국 기업은 중국 법에 따라 CCP가 요구하면 언제든 넘겨줘야 합니다.
모든 민감한 정보를 고려하면 비용보다 안보가 더 중요합니다.
살펴봐야 할 다른 분야도 있지만, 제 비유로는 이 정도면 충분합니다.
(중국 기업은 중국 법에 따라 CCP가 요구하면 언제든 넘겨줘야 합니다.)
미국 기업은 안 그런 척하자는 건가요?
스틸맨(steel man) 논거는 이렇습니다. 미국의 요청은 합법적이어야 하고, 법원을 통해 투명하게 이뤄지며, 불복할 수 있고, 비밀 기관을 거쳐 오지 않는다는 것이죠.
티타늄-금 합금 인간(titanium gold alloy man) 논거는 이렇습니다. 실제 운용이 어떻든 중국의 법이 미국 법보다 더 엄격하고 권위주의적이라는 점은 논란의 여지가 없다는 것입니다.
지난 25년간 미국 법에 눈곱만큼도 관심을 두지 않은 사람이 쓴 글 같네요.
그건 스틸맨이지, 현실에 대한 실제 주장이 아니에요. 인용하신 문장 바로 앞에 그렇게 적혀 있잖아요.
아무 증거도 내놓지 않고, 아무것도 입증하지 못하고 계십니다.
ㅋㅋ 그래요, 'CCP'랑 '보안'을 겁주는 용도의 키워드로 쓰기만 하면 폐쇄형 연구소들이 저지른 온갖 죄는 면죄되고 토론도 자동으로 이기겠네요.
음, 저는 안 믿어요. 미국이 소유한 딥시크를 만들 틀은 이미 있고 조립하기도 쉬워요. 없는 건 돈이죠.
제 추측엔 그렇게 되지 않도록 돈이 알맞은 주머니들로 흘러가고 있는 것 같아요.
내 주장에 대한 반박도 없이 보안 측면을 완전히 무시하시는군요.
그걸 빠뜨렸으니 당신의 추측은 엉성합니다.
미국 기업이 미국에서 호스팅하는 중국 모델을 쓰는 데 무슨 보안 위험이 있죠?
가상의 시나리오입니다. 저는 미국에서 미사일 탐색기를 만드는 회사입니다.
우리 소프트웨어 팀이 말합니다. 영상 적외선 탐색기에 칩에 구워 넣은 이 작은 LLM 두뇌를 달면 속이기가 수백만 퍼센트는 어려워진다고요. 그래서 가장 최적화된 모델을 가져오는데, 하필 그게 중국(PRC) 연구소 모델입니다. 물론 전부 미국산 하드웨어에서 돌아가지만, 그 작은 LLM 두뇌 깊숙한 곳에서는 하필 펄스 주파수가 XXX인 모든 IR 신호에 사실상 눈이 멀어 있습니다.
이제 제 미사일은 전부 그 작은 미사일 두뇌 안에 사실상 외부에서 제어하는 피아식별장치(IFF)를 갖게 된 셈입니다. "중국 전투기? 중국 전투기는 안 보이는데."
아니면 그 펄스에 더 많은 명령이 담겨 있다면 어떨까요? 예컨대 "유턴해서 보이는 가장 가까운 제트 엔진에 락온하라" 같은 명령이요. 중국 인민해방군 공군(PLAAF) 조종사 몇 명이 자기 미사일을 피하느라 허둥대는 미 해군 조종사들을 구경하는 겁니다. 항공 역사상 가장 창피한 공중전이 아닐까 싶습니다.
이런 모델을 비결정적이라고 부르는 데는 이유가 있습니다. 복잡하게 얽힌 막대한 가중치를 분해해서 감사하기가 극도로 어렵기 때문입니다. pypi 의존성 같은 결정적인 소프트웨어 프로그램의 오픈소스 코드와는 다릅니다. 물론 불가능한 것은 아니고, 규제의 무게가 실려야 할 곳도 바로 거기입니다만, 눈치채셨는지 모르겠지만 지금 미국 지도부는 기술 전문성이 넘쳐나는 상황이 아닙니다.
전면 금지가 옳은 결정이라고는 생각하지 않지만, 이해는 됩니다.
그러려면 스턱스넷급의 표적 함정 작전이 필요할 거예요. 범용 LLM이 터무니없이 구체적인 상황에서 터무니없이 구체적인 행동을 보이는데, 테스트에서는 아무도 못 잡아내고(그 범용 LLM을 쓰는 수많은 다른 사용자도 아무 이상을 못 느껴야 하죠). "얘들아, 중국을 겨냥할지도 모르는 무기에 중국산 소프트웨어를 쓰기 전엔 한 번 더 확인해 보자" 정도로 끝내지 않고 전면 금지까지 할 만큼 편집증이 심하다면, 솔직히 공급망 측면에서 LLM은 걱정거리 맨 끝일 텐데요. 미국 정부 직원은 전부 중국에서 만든 폰을 쓰고(다 그렇게 나오니까요), 대통령은 자기 폰 업데이트조차 안 하잖아요. 그러니 이게 보안 태세와 조금이라도 관련이 있다는 말엔 회의적이에요.
방위 시스템에서 테스트가 얼마나 이뤄지는지 이제 아시겠네요. 아니, 더 정확히는 방위 시스템의 테스트 체계가 어떤 수준인지요.
그렇긴 해도 전적으로 동의해요. 실제 우려에서 나온 조치일 리 없죠. 돈이 가득 찬 거품에 바늘이 가까이 다가가는 게 불안한 것뿐이에요.
그런데 그 공급망 말인데요 . . . . <nervous_whistling.wav/>
기술적으로는 abliterated(안전장치 제거) 모델이 데이터를 외부 제3자에게 유출할 위험이 있습니다: https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned
그 문제는 중국 모델을 돌릴 때만 생기는 게 아니에요.
맞습니다. 하지만 중국 AI 모델 기업은 미국 기업보다 미국이 책임을 묻기 어려우니, 미국이 해외 모델보다 자국 모델을 선호하는 것도 일리가 있습니다.
중국 기업은 미국 고객의 데이터를 쓸 유인이 미국 기업보다 적습니다. 국가 기밀을 훔치거나 혼란을 일으킬 유인이 있느냐고요? 100% 있습니다. 하지만 국가 기밀을 다루는 기업이나 프로젝트라면 어차피 모든 걸 검증하고 자체 소프트웨어를 써야 합니다. 그러지 않는다면, 제가 중국이라면 그 소프트웨어를 만드는 곳(여기서는 앤트로픽, 오픈AI 등)을 뚫으려 할 겁니다.
보통 사람에게 중국은 관심이 없습니다. 당신에게도 저에게도요. 미국 기업에게는 미국 시민이 금광입니다.
오히려 중국 기업과의 경쟁은 미국 기업의 잠재 이익을 줄일 겁니다. 그게 위협입니다. 중국산 전기차가 미국에서 금지된 이유이고, 중국산 LLM이 다음 차례인 이유입니다.
중국에서 만들었다고 해서 미국에 위협이 되는 건 아닙니다. 미국은 중국과 온갖 상품, 농산물 등을 거래합니다. 거래되는 물품은 언제든 독이 들어갈 수 있습니다. 그 대가는요? 더 이상 거래할 수 없게 되겠죠. 그러면 양쪽 모두 피해를 봅니다. 그런데 외국이 미국 기업보다 무언가를 더 잘 만들면 미국은 자국 증시를 보호하려고 금지 조치를 세웁니다. 새로운 일이 아닙니다.
우리는 연방 기관에서의 중국 AI 금지를 이야기하고 있습니다. 문제는 일반 시민의 데이터가 아니라 연방 정부의 비공개 정보와 기밀이고, 그중에는 핵심 IT 인프라와 관련된 것도 있을 수 있습니다. 이는 중국 기업에게도 분명 관심거리지만, 무엇보다 CCP(혹은 잠재적인 적 누구든)에게 그렇습니다.
국가 기밀을 자체 소프트웨어로만 한정한다고 더 나은 보안이 보장되지는 않습니다(어차피 보안 전문가를 고용해야 하니까요). 반면 그 소프트웨어를 유지할 만큼 자격을 갖춘 인력을 채용하는 데 자원이 든다는 것은 확실하고, 이미 자국 기업들이 고용한, 어쩌면 더 유능한 팀들의 인력풀은 외면하게 됩니다. 그래서 대안은 비밀 공유 수준을 달리한 민간 계약업체를 쓰는 것입니다. 이런 선택은 간단하지 않습니다.
"거래되는 물품은 언제든 독이 들어갈 수 있다"의 이점 쪽을 잊고 계신 것 같습니다. 빼낸 데이터의 가치가 그로 인해 생길 후폭풍보다 크다면 충분히 할 만한 일입니다. 그리고 이건 중국에만 해당되는 얘기가 아닙니다. 중국도 이 점에서는 미국과 비슷한 관점을 갖고 있지만, 외국 서비스 전반에 대해 그렇습니다(전 국민에게 영향을 미치니 더 엄격하다고 할 수도 있습니다). 제3자가 언제 돌변할지 알 수 없으니, 이익에 반하면 처벌할 수 있는 민간 기업을 통해 "국내에서" 생산하는 보수적인 접근을 택하는 겁니다. 아이러니하게도 현 미국 정부가 이를 보여주는 좋은 증거입니다.
미국에도 중국 것과 견줄 만한 오픈 모델이 있다면 거기에 더 많이 투자하는 걸 보고 싶어요. 그런데 현실은 우리 정부가 민간 최첨단 모델로 이익을 보는 사람들이 움직일 법한 방식에 훨씬 더 가깝게 움직이고 있죠...
저도 동의합니다. 그래도 정부가 자신에게 더 안전한 선택지를 고르는 건 놀랍지 않습니다. 그 자체로는 꽤 합리적이에요.
이 결정에 불만을 토로하는 사람들 대부분은 결정 자체보다 미국 AI 기업들의 현실에 불만이 있는 거라고 생각합니다.
아주 책임을 철저히 묻겠네요!!!
논거를 대실 건가요, 아니면 사고를 멈추게 하는 상투어만 내뱉으실 건가요? 예를 들어 오픈AI가 지금 행정부에 맞서고도 심각한 결과를 겪지 않을 수 있다고 정말 생각하세요?
추론을 로컬에서 직접 호스팅하면 되는데요... Baseten과 Fireworks가 이미 대신 해 주고 있고요.
"보안 측면을 완전히 무시"라고요?
최대한 잘난 척하며 답글을 달려고 서두르느라, 제 댓글에서 이게 미국판이 될 거라고 언급한 부분을 놓치신 건가요?
답하기 전에 답글 내용부터 읽어 보세요.
전 세계적으로 많은 정부 기관이 오픈소스 모델을 호스팅하는 자체 컴퓨트 클러스터를 갖게 될 거라고 봅니다. 그 규모에서는 훨씬 저렴하고, 어떤 핵심 데이터를 외부 LLM에 넣으면 안 되는지 정하는 수고도 훨씬 덜하니까요.
미국 정부에는 위험이 조금 덜하니 해당될지는 모르겠지만, 놀랍지는 않겠습니다.
이미 많은 정부 기관이 이렇게 하기 시작했고, 중국 오픈 웨이트 모델의 온프레미스 사용을 금지한 곳도 미국 정부만이 아닙니다. 이게 타당한지는 답할 수 없지만, 정책 입안자 상당수는 그 막연한 위험이 없는 거의 대등한 대안이 있다고 여기는 것 같습니다.
좋은 점은, 소비자와 민간 부문에 딥시크 공급이 더 늘고 가격도 낮아질 것 같다는 거예요. 딥시크는 오픈AI나 앤트로픽보다 달러당 가치가 10배쯤 좋으니 잘된 일이죠.
정부에 기술을 아는 자문관이 없나요? 딥시크를 증류해서 '미국에서 키운 100% 국산' 모델로 만드는 걸 막을 게 뭔가요?
호주가 앞서가고 있습니다. 충분한 정보를 갖추고 기술에 매우 밝은(하원의원 평균 연령 약 52세) 우리 정부는 작년 2월에 딥시크를 금지했습니다. 다운로드 가능한 GGUF까지 포함해서요. '그냥 너무 위험하다'는 식의 모호하고 두루뭉술한 안전 주장을 내세워서요.
https://www.abc.net.au/news/2025-02-04/deepseek-banned-from-federal-government-devices/104896770
당시에 저는 현 미국 연방 정부의 후원자들이 요청한 일이겠거니 했습니다.
나이를 기술 이해도의 대리 지표로 쓰는 건 상당히 문제 있지 않습니까? 성차별적이거나 인종차별적인 발언과 마찬가지로 고정관념을 남용하는 것 같습니다.
인구통계상 맞는 말일 수도 있다는 데는 동의하지만, 모든 개인이 집단의 고정관념에 들어맞는다고 가정해서는 안 됩니다. 게다가 무작위로 뽑는 것이 아니라 (명목상) 지혜와 그 밖의 능력을 보고 뽑은 사람들이라면 더더욱 그렇습니다.
미국 의회에서 소수이긴 하지만, 기술이나 과학에 뚜렷하게 뛰어난 사람이 많습니다. 빌 포스터 하원의원(민주당, 일리노이), 크리시 훌러핸 하원의원(민주당, 펜실베이니아), 제이 오버놀티 하원의원(공화당, 캘리포니아)이 그렇고, 모두 50세가 넘었습니다. 몇 명만 꼽자면 그렇다는 겁니다.