요약
스웨덴 정부청사가 월요일부터 직원 업무용 컴퓨터에서 ChatGPT와 Claude 접속을 막습니다.
스웨덴 공영 라디오의 뉴스 프로그램 에코트(Ekot)가 입수한 내부 공지로 알려진 소식입니다. 정부청사(총리실과 각 부처를 묶은 조직)는 직원들이 마이크로소프트의 Copilot처럼 승인된 도구만 쓰기를 바란다고 밝혔습니다.
왜 중요한가
- 정부가 AI를 아예 끊기보다 계약을 맺은 서비스로 직원 사용을 모으는 쪽을 택했습니다.
- 국세청과 국가시설위원회(SiS)도 같은 차단을 시행해 정부청사만의 일이 아닙니다.
- 교통청 감사에서 민감한 정보를 입력한 사례가 나와, 관리되지 않는 AI 사용이 실제 위험으로 확인됐습니다.
핵심 내용
- 디지털화 책임자 미카엘 베테르크란츠는 계약 없는 AI 서비스 사용이 정보 보안에 영향을 줄 수 있다고 사내 게시판에 적었습니다.
- 일부 직원은 정부청사가 직접 만든 AI 비서 플랫폼을 거쳐 ChatGPT와 Claude를 계속 쓸 수 있습니다.
- 정부청사는 검토 끝에 Copilot 보안도 강화했지만, 보안 사안이라며 구체적인 내용은 밝히지 않았습니다.
- 교통청 내부 감사는 올해 초 직원들이 10여 개 AI 서비스를 위험하게 쓰고 있다는 사실을 찾아냈습니다.
- 정부청사는 이전부터 DeepSeek 사용을 제한해 왔고, 강제집행청도 차단 여부를 검토하고 있습니다.
HN 반응
- 외부로 나가는 데이터를 통제하려는 합리적 조치라는 평가와, 결국 더 못한 Copilot을 강요하는 결정이라는 비판이 갈렸습니다.
- 미국 정부가 요구하면 계약은 소용없으니 EU가 모델을 직접 돌려야 한다는 주장에는 유럽의 전력과 데이터센터가 부족하다는 반론이 붙었습니다.
결국 외부로 나가는 트래픽을 직접 통제하고 싶다는 얘기로 들리네요. 제가 보기엔 꽤 합리적이에요.
맞아요. 아마 소비자용이 아니라 데이터 보존 없음(Zero Data Retention) 계약을 그 서비스들에 강제하려는 것도 있을 거고요.
예를 들어 트럼프가 대화 기록을 푸틴에게 넘기고 싶어 하면 그런 계약은 정말 휴지 조각입니다. 정부가 왜 데이터 서비스를 EU 바깥의 제3자에게 맡기는지 지금 시점에서는 이해가 안 됩니다. EU가 EU 정부용 클라우드 프로그램을 만들어서 모든 회원국이 쓸 모델을 직접 돌려야 합니다(물론 라이선스를 받고요). 그러면 협상력도 더 커질 겁니다.
가장 극단적인 시나리오로 비약해서 이런 계약이 쓸모없다고 단정하시네요.
물론 말씀하신 일이 벌어질 수는 있습니다. 하지만 가장 일반적인 경우를 놓고 보면, (위반 시 손해배상을 청구할 수 있는) 어느 정도의 프라이버시를 보장하면서 최첨단 모델도 쓸 수 있게 하는 건 가치가 큰 합리적인 절충안으로 보입니다.
그런 일은 이미 여러 번 일어났습니다.
그래도 제 논지는 달라지지 않습니다.
그런 일이 안 일어난다고 말하는 게 아닙니다. 대부분에게는 다른 고려 사항이 그보다 더 중요하다는 겁니다.
그러려면 데이터센터, 즉 산업용 연산 공장을 지어야 하는데, EU는 이미 전기료가 터무니없이 비싼 데다 그런 계획에 대한 대중의 반발이 워낙 커서 정치적으로 꼼짝도 못 하는 상태입니다.
그게 바로 민주주의라는 겁니다. 시민의 이익을 대기업이 원하는 것보다 우선하는 거죠. 미국 빅테크 기업들이 AI를 갖고 놀 수 있도록 오염과 전기료를 올리는 건 미친 왕이나 할 법한 일 같습니다.
AI가 사람보다 암을 더 빨리 찾아낼 수 있다면, 이미 입증된 사실이죠, 그 정도 대가는 치를 만합니다. AI는 계속 좋아지고 있고 앞으로 인류에게 어떤 식으로 또 도움이 될지는 알 수 없습니다.
정부는 기술 분야에서 언제나 최소 10년은 뒤처져 있습니다. 매주 대규모 데이터 유출이 터져도 불평하지 마세요. 자기들이 정한 원칙이 더 중요하다고 판단한 결과니까요.
뒤의 주장이 앞의 주장을 스스로 깎아내리네요. 그 대가는 데이터센터가 인류에게 이로운 목적에 쓰일 때만 치를 만합니다. 지금까지 우리가 본 용도는 (노동력 감축을 통한) 부의 집중, 대규모 감시, 해킹, 그 밖의 반사회적 행위뿐이에요. 이윤을 극대화하는 용도로서 그런 것들이 계속되지 않으리라고 믿을 이유가 없습니다.
민주주의가 아닙니다. 사람들은 비싼 전기료를 원하지 않아요. 다만 투표로 고를 수 있는 정치인이 전부 비싼 전기료를 안기는 사람들일 뿐입니다.
대기업이 커진 건 고객이 원하는 걸 제공했기 때문입니다. 정치인들처럼 사람들이 일해서 번 돈을 뜯어 가지는 못합니다.
솔직히 말해서 요즘의 가격 급등은 유럽인들이 투표로 어떻게 해볼 수 있는 일이 전혀 아니었잖아요...
독일은 지난 20년 가까이 원전을 닫는 데 대부분의 시간을 썼고, 정치인들이 석탄·가스 기업의 후원을 받았다는 이유로 재생에너지는 막았습니다.
대기업이 커진 건 경쟁사를 전부 사들였기 때문입니다. 『Enshittification』이라는 책을 읽어 보시길 권합니다.
그런데 시민은 멍청합니다. 대중의 어리석음이 원자력을 죽였어요. 모든 결정이 민주적일 필요는 없습니다. 핵심 인프라 결정은 특히 더 그렇고요.
여론을 조작하려고 공작을 벌이기도 정말 쉽습니다. 내가 중국이라면 초지능 경쟁에서 우위를 잡으려고 서방 곳곳에 반(反)데이터센터 콘텐츠를 잔뜩 뿌릴 겁니다. 우리가 시민이 이런 결정에 영향을 미치게 놔둘 만큼 멍청하니까요.
핵 경쟁에서도 똑같이 했다면 어땠을지 상상해 보세요. ASI는 승자독식이라서, 먼저 ASI에 도달한 쪽이 나머지를 전부 배제해 버릴 수 있습니다.
참 단호하시네요. 저도 뭐든 그렇게 확신해 보면 좋겠어요.
확실한 건 없고 확률만 있을 뿐입니다.
최근 LLM의 성장은 블랙 스완입니다. 미래에 대해 어떤 예측을 하든 오차 범위가 엄청나게 큽니다.
유럽은 매우 위태로운 처지에 있습니다. LLM이 실제로 경제 호황으로 이어진다면(개인에게 그렇다는 말이 아닙니다), EU 전체가 경제적으로 완패하고 앞으로 20년 넘게 대부분의 회원국에서 인구 감소와 함께 경제도 위축될 가능성이 큽니다. 전력과 연산 자원에서 미국과 중국에 너무 뒤처져 있어서 지금으로서는 따라잡을 길이 없습니다.
미국도 쌓아 온 부채 규모를 보면 위태롭습니다. LLM이 미래의 경제 호황을 이끈다는 말이 맞더라도 구덩이가 너무 깊어서 회복하는 데 수십 년이 걸릴 수 있습니다.
지금 가장 유리한 곳은 사실 중국입니다. 전력과 연산 자원을 최대한 빠르게 늘리고, 미국의 혁신을 싼값에 베끼고, 거기에 쓸 미국과 EU의 돈이 산더미처럼 쌓여 있으니까요.
글쎄요, 지금은 미적거릴 때가 아닌 것 같습니다. 제 생각에 AGI의 위험과 가능성은 하늘을 찌르고, 시급함도 그만큼 높습니다.
이제 입장을 정해야 할 때입니다. 다만 정보에 근거해 결정하고 싶다면 아마 이렇게 하는 게 좋습니다.
위험 가능성에 대해 납득이 갈 때까지 찾아 읽고,
이미 벌어지고 있는 장점과 돌파구를 알아보고,
최소 Opus급 LLM으로 실제 프로젝트를 제대로 한번 해 보세요. 그래야 이게 우리 세상에 얼마나 놀라운 새 물건인지 정말로 알게 됩니다.
그럼 우리 대신 기술 군주들이 결정하라는 겁니까? 중세와 봉건제로 돌아가자는 이런 주장은 전부 우리는 억눌려야 하고 우리 의견은 중요하지 않다는 생각에서 나옵니다. 그런 사고가 계몽된 사회를 무너뜨리고 불평등과 가난을 불러옵니다.
맨해튼 프로젝트는 민주적 승인을 받지 않았습니다. 일반인에게 맡기면 안 되는 일도 분명히 있습니다.
민주주의가 기술이 지배할 미래에서도 살아남으리라고 맹목적으로 가정하는 건 실수입니다. 민주주의의 부상은 숙련 노동의 중요성과 함께 진행됐습니다. 노동의 필요성이 사라지면, 적어도 제 눈에는 민주주의도 함께 죽습니다.
내가 소셜미디어 플랫폼과의 인맥과 영향력으로 대통령이 된 미국 올리가르히라면, 나도 유럽 정부들이 미국 AI 서비스를 쓰라고 주장하겠네요.
EU에 데이터센터가 없다고요?
https://gcping.com/
데이터센터를 개수로 보지 말고 연산 능력으로 보세요. 미국은 연산 자원이 대략 100배에서 1000배 많습니다.
데이터센터가 EU에 있어도 미국 기업 소유면 별 의미 없어요. 미국 정부가 그냥 "그 데이터 내놔" 하면 그만이니까요.
맞아요. 코로케이션이라 해도 데이터는 전부 Google LLC 소유겠죠. 그래도 EU에 데이터센터가 있는 건 분명합니다.
그렇다면 지난 2년 사이에 급조한 "임시 가스 발전기"를 24시간 돌리는 데이터센터가 EU에 있을까요? 아마 없을 겁니다.
전기가 어떻게 터무니없이 비싸다는 겁니까? 우리는 가장 유연한 형태의 동력(전기)을 집까지 곧장 배달받는데, 그 가격은 인류 역사상 어떤 사람도 자발적으로 육체노동을 해 주지 않았을 수준입니다(시간당 몇백 달러면 말 수천 마리나 사람 수천 명의 노동에 해당합니다. MWh당 500달러 미만일 때 기준입니다). 투자할 의향만 있다면 개인도 에너지 자립이 완전히 가능해졌고요.
얼마 전까지 전기가 더 쌌던 건 지속 불가능한 짓을 하고 그 비용을 전부 남이나 미래에 떠넘겼기 때문입니다. 그렇다고 그게 적절하고 필요하고 바람직한 일이었던 적은 없습니다. 그 방식으로 돌아가자고 주장하는 사람은 전부 탐욕스럽고 이기적인 개자식이라고 봅니다.
정부 데이터라면 계약이 민간 부문에서 보셨을 것보다 훨씬 강력한 경우가 많습니다. 데이터를 잘못 다루면 형사 책임이 따를 수 있으니까요. 데이터 주권 요건도 흔합니다. 정부를 상대로 판매하려면 이런 건 기본 중의 기본입니다.
내부 서비스가 Microsoft Copilot이라는데, 그렇다면 이건 그냥 정말 정말 멍청한 결정일 가능성이 높아요.
맞아요, 제목을 보고 제일 먼저 든 생각이 "결국 다들 더 나쁜 AI 모델을 쓰게만 되겠네"였어요.
그래서 기사를 읽고 나서도 별로 놀라지 않았어요. 특정한 더 나쁜 모델을 일부러 강요하고 있더라고요.