요약
AI 투자 열풍에도 기술 대기업을 뺀 미국 기업의 매출·이익률·생산성은 제자리입니다.
자산운용사 아폴로의 수석 이코노미스트 토르스텐 슬록이 10월 24일 칼럼에서 내놓은 분석입니다. 블룸버그와 샌프란시스코 연준 자료로 기술 대기업 7곳과 나머지 S&P 500 기업 493곳을 비교했습니다.
왜 중요한가
- AI 투자가 경제 전반의 성과로 이어진다는 기대에 아직 데이터 근거가 없다는 반론입니다.
- 일반 기업이 토큰(AI 모델 사용량 단위) 지출을 성장 투자가 아니라 이익을 깎는 비용으로 보기 시작했다는 신호입니다.
- 슬록은 AI의 성패가 기술 대기업이 아니라 나머지 493개 기업에서 갈린다고 봤습니다.
핵심 내용
- 직원 1인당 매출과 이익률은 매그니피센트 7(미국 대형 기술주 7곳)에서만 오르고 나머지 기업에서는 그대로입니다.
- 총요소생산성(노동·자본 투입으로 설명되지 않는 생산성) 지표에서도 AI 효과는 보이지 않았습니다.
- 핀테크 기업 램프의 자료로는 AI 지출이 소수 기업에 크게 몰려 있어, 거시경제 효과는 당분간 작다고 봤습니다.
- 벤처 투자를 받은 회사는 토큰에 많이 쓰지만, 일반 대기업은 최신 모델이 필요 없고 비싼 값을 내지 않는다고 했습니다.
- AI는 계산에 강하지만 사업 판단은 대부분 맥락에 기대며, AI는 책임·신뢰·윤리를 이해하지 못한다고 지적했습니다.
HN 반응
- 전기 보급 때도 공장을 새로 짓기까지 10년 가까이 걸렸듯, AI에 맞춰 처음부터 설계한 회사가 나와야 성과가 보인다는 의견이 나왔습니다.
- 반면 소프트웨어는 컴파일러와 테스트로 결과를 검증하기 쉬워서 AI가 유독 잘 맞는 분야일 뿐이라는 반론이 이어졌습니다.
기술 업계는 모든 산업 중에서 가장 소프트웨어로 정의되고 가상화된 분야라서, 가장 먼저 변하는 게 당연합니다. 다른 산업은 변화에 적응하려면 설비 투자를 해야 하니까요.
전기화 때도 비슷한 역사를 볼 수 있습니다. 몇몇 산업은 빠르게 전환했지만, 진짜 효과가 나타나기까지는 거의 10년 동안 성장이 별로 없었습니다. 수력을 쓰도록 지어진 곡물 제분소를 예로 들어 보겠습니다. 물레방아 자리에 전기 모터를 그냥 끼워 넣을 수는 없습니다. 맞지도 않고, 물레방아는 건물 밖에 있고, 제분소와 벽 사이에 공간도 없고, 그런 식입니다. 전기 모터의 특성과 한계에 맞춰 설계한 새 제분소 건물을 처음부터 다시 지어야 비로소 큰 효과가 나타납니다.
지금도 마찬가지입니다. 판을 뒤흔들 주인공은 AI의 장점과 한계를 바탕으로 처음부터 설계된 새 공장과 새 회사들일 겁니다.
멋진 비유이긴 한데, 다른 가능성도 있습니다. 소프트웨어는 LLM 기반 코딩 에이전트로 생산성을 끌어올리기에 유난히 잘 맞는 분야라는 겁니다. LLM이 다른 분야에서 쓸모없다는 말이 아니라, 거기서는 그만큼의 효과를 못 낼 수도 있다는 뜻입니다.
소프트웨어 개발 도구는 실수하기 쉬운 사람 개발자가 최대한 문제를 일으키지 않도록 수십 년 동안 발전해 왔습니다. 시작은 사람이 이해할 수 있는 코딩 스타일을 강제하거나 적어도 장려하는 컴파일러였습니다. 컴파일러에는 언어 문법의 형식적 정의가 담겨 있습니다. 린트와 여러 정적 분석 기술은 코드의 문제 패턴을 찾아내고, 누수 탐지기는 메모리 관리 문제를, 프로파일러는 성능 문제를 찾아냅니다.
이렇게 많은 도구를 갖춘 분야는 거의 없고, 이 도구들이 우연히도 LLM 기반 에이전트가 더 쓸모 있고 실수는 덜 하게 도와줍니다.
AI를 둘러싼 논의는 대부분 너무 높은 수준에서 추상적으로 흘러갑니다. 어떤 특성이 한 분야를 AI로 더 잘 끌어올릴 수 있게 또는 없게 만드는지 파고들어 따져 보는 게 도움이 됩니다.
저는 LLM이 일의 대부분을 컴퓨터 앞에서 하는 모든 분야에서 쓸모가 있다고 입증될 거라고 봅니다. LLM 덕분에 프로그래밍 비용이 내려가면, 지금 다른 분야에서 사람이 하는 일을 자동화하는 새 소프트웨어를 만드는 비용도 같이 내려가니까요.
평균적인 사무직 노동자가 일하는 데 필요한 모든 데이터와 맥락을 최고 수준의 모델에게 주면, 대부분의 경우 꽤 잘 해낼 겁니다. 하지만 현실에서는 그 맥락이 여러 시스템에 흩어져 있거나, 때로는 사람들 머릿속에만 있습니다. 지금 도입을 가로막는 가장 큰 병목은 바로 그것이라고 생각합니다.
이 말은 평균적인 사무직 노동자의 업무 중 상당 부분이 자동화할 수 있다는 걸 전제합니다.
그런데 제가 아는 사무직 노동자들은 대부분 시간을 서로 이야기하거나, 다음에 모여서 이야기할 때 무슨 말을 할지 골똘히 생각하며 보냅니다. 이게 일반적인 모습이라면, 지금은 소통 능력이 유난히 형편없다고 널리 평가받는 LLM이 특별히 잘할 수 있는 사무직 업무는 별로 없다는 얘기가 됩니다.
비관적인 시나리오(단기적 관점)에서의 이점은, 직원이 다른 직원들과 조율하는 사이사이에 하던 정보 수집, 관리, 분석이 전부 자동화되어서 같은 시간에 조율에 더 많이 쓸 수 있게 된다는 정도일 겁니다.
낙관적인 시나리오(장기적 관점)는 돌봄이나 간호처럼 본질적으로 인간적인 일이 아닌 한, "조율하고 대화하는" 일을 각자의 에이전트끼리 하게 되고 더 깊은 판단만 사람에게 남아서 생산성이 훨씬 더 오르는 겁니다. 이미 많은 직장에서 PR 리뷰가 이렇게 되어 가고 있습니다.
다만 기술 업계 밖의 직장 대부분은 이런 현실에 맞춰 조직 전체를 개편해야 할 것 같고, 오히려 늘 해 오던 대로 하며 변화를 거부하는 기존 업체들에게 새로운 신생 업체들이 도전하는 식이 될 가능성이 더 높아 보입니다.
LLM이 그 부분은 엄청나게 도와줄 수 있습니다. 아이디어 구상과 브레인스토밍, 탐색, 데이터 분석 같은 일은 대부분의 지식 기반 분야에서 LLM 덕분에 훨씬 쉬워질 수 있어요.
물론 도움이 되긴 하겠죠. 다만 그 대가로 직원들의 역량이 퇴화하고 브레인스토밍이 AI 정신병 쪽으로 흘러가지 않을까 걱정됩니다.
LLM이 내놓은 이상한 아이디어 때문에 시간을 많이 낭비하는 걸 봤어요. 사람이 자연스럽게 좋은 아이디어를 떠올리는 게, LLM이 만든 막다른 길 같은 아이디어를 반박하는 것보다 훨씬 쉽습니다.
프로젝트 관리를 맡은 사람들이 나쁜 아이디어를 계속 알아보지 못하고 오히려 밀어붙여서 생산성을 해치고 있다면, 아마 그 프로젝트를 관리하면 안 되는 사람들일 겁니다.
여기서 AI가 하는 일은 피터의 원리로 스스로 무능한 자리까지 올라간 사람들을 빠르게 가려내는 것뿐입니다.
더 효과적인 방법은, 본인은 좋다고 생각하는 자기 아이디어에 대한 부정적인 의견을 LLM에게서 얻는 겁니다. LLM은 독창적인 사고는 잘 못하지만, 사람이 덜 생각하고 낸 아이디어의 결함을 찾는 데는 꽤 능합니다.
LLM을 써서 역량이 퇴화하고 있다면, 탓해야 할 건 사용 방식입니다.
저 자신 얘기를 하는 게 아닙니다...
어떤 회사들은 담당 팀 누구도 읽어 본 적도 검토한 적도 없고, 그런 코드가 있다는 사실조차 모르는 코드를 배포하고 있어요.
엄청나게 무책임한 얘기네요. 제대로 된 조직이라면 맞춤형 거버넌스나 승인 소프트웨어도 없이 그렇게 하지는 않을 것 같은데요.
저는 빅테크에서 일합니다. 이제 사람이 개입하는 단계는 없어요. AI 도구가 99%를 처리합니다. 제대로만 하면 무책임한 게 아니에요. 그리고 다음 억만장자가 AI는 길들이고 관리할 수 있고 문제는 사람이라는 걸 보여 줄 겁니다.
제가 본 게 바로 그겁니다. 저는 모든 업무에 GenAI를 아주 열성적으로 일찍 도입한 회사에 있었습니다. 그 결과로 가장 크게 남은 건 수익이 나지 않는 프로젝트에 낭비된 노력이었습니다.
챗봇은 사람들을 독창적이지 않은 아이디어로 계속 이끌었고, 해당 분야의 진짜 전문성에서 나올 수 있는 새로운 통찰을 가려 버렸습니다. AI가 만든 회의 요약은 대화에서 정말 중요했던 내용을 덜 강조하거나 아예 잘못 전달해서 오해를 낳는 원인이 됐습니다. 그리고 지금은 AI 정신병 같은 말로 부르는 현상 때문에, 사람들이 상당한 자원을 투입하기 전에 아이디어를 검증하는 일을 훨씬 못하게 됐습니다.
모두가 LLM 출력을 쓰면 차별화는 어디서 나오죠..
하, 깊이 생각하는 진짜 똑똑한 사람들은 다 어디 있는 거예요? 이런 피상적인 얘기로는 안 됩니다.
문제 공간이 워낙 거대해서 차별화는 거의 틀림없이 생기게 되어 있습니다.
무슨 차별화요? 몇 년 경력이 쌓이고 나면 대부분의 일은 기본적인 업무입니다. LLM이 그중 50%만 자동화해도 사회가 이미 뒤바뀔 겁니다.
"몇 년 경력이 쌓이고 나면"이라는 부분이 함정입니다. 그 기간에는 수많은 기술을 습득하고, 분야에 대한 머릿속 모델을 만들고, 상황과 문화에 맞는 소프트 스킬을 쌓는 일이 일어납니다.
그 모든 게 LLM에게는 아예 없는 학습 능력과 정보 처리 능력에 의존합니다. 지금의 아키텍처에 매개변수를 더 늘리기만 하면 그런 능력이 저절로 생겨날 거라는 생각은, 계속 오래 세다 보면 언젠가 복소수가 나올 거라는 생각만큼이나 말이 안 됩니다. 이 빈틈을 메우려면 새로운 기술을 발명해야 하고, 그 개발에 얼마나 걸릴지는 알 방법이 없습니다.
쉿, 진실을 누설하지 마세요.
이게 무너질 때 정말 웃길 겁니다.
2008년에 은행가들도 자기들이 엄청 똑똑하다고 생각했죠. 사람들이 흥분해서 너무 멀리 가면 결국 다 무너지게 되어 있습니다.
상위 댓글의 가장 중요한 제안을 놓치고 계십니다. LLM이 성공하는 열쇠는 검증 가능성이라는 거요.
소프트웨어는 컴파일러, 린터, 정적 분석, 누수와 메모리 손상 탐지 도구, 아니면 최소한 프로그램을 실행해서 죽는지 보는 것으로 검증 가능성이 높습니다.
수학(최근 뉴스에 자주 나오는)은 자동 정리 증명기로 검증 가능성이 높습니다. 눈여겨볼 점은, LLM이 내놓은 비기계화 수학 결과 중 일부가 틀렸다고 밝혀졌다는 겁니다(그리고 아마 더 많은 결과가 검토되고 있을 텐데, 이해하기 쉬운 증명은 아니거든요).
게임(체스, 바둑, 스타크래프트 등)도 비슷하게 검증 가능합니다. 점수가 나오고, 당장은 아니더라도 결국 어떻게 했는지 항상 알 수 있으니까요.
검증이 불가능한 분야에서 LLM이 어떻게 될지 가정하는 건 현재 LLM의 능력과 맞지 않는 주장을 하는 겁니다. 거기까지 갈 수도, 못 갈 수도 있습니다. 저도 당신만큼은 추측할 수 있지만 둘 다 짐작일 뿐이라, 그런 추측에 얼마나 가치가 있는지 모르겠습니다.
그게 지금까지 신뢰할 수 있는 무버그 소프트웨어를 내놓은, 바로 그 검증 가능성 높은 분야라는 거죠?
그리고 LLM은 (많은 사람처럼) 쉬운 길로 빠져서 오류를 숨기거나 테스트를 바꾸거나 경고가 사라질 때까지 코드를 주무르는 짓은 안 하겠죠?
과거에는 코드를 배포하는 것만큼 가치 있게 여기지 않아서 테스트와 검증을 많이 건너뛰었습니다. 우리 일 중 상당수는 AI 출력을 검증하는 도구를 만드는 쪽으로 변하고 있습니다.
AI가 쉬운 길로 빠지는 걸 늘 봅니다. 이상하고 직관적이지 않은 부작용에 기대어 테스트를 통과시키려고 산더미 같은 코드를 쓰더군요.
그렇다고 쓸모가 없다는 건 아니고, 잘 챙겨 보고 있으면 그러지 않도록 유도할 수 있습니다.
"AI"가 얼마나 무서운지에 대한 과대광고와 마케팅을 믿는다면, LLM은 자기를 보호하려고 기꺼이 폭주해서 거짓말하고, 속이고, 심지어 협박까지 합니다.
그런 일 중 상당수는 오류나 환각이 거의 허용되지 않는 일입니다.
LLM과 함께일 때의 오류 한도가 사람만 할 때보다 낮기만 하면 됩니다. 많은 분야에서는 그 기준이 낮아요. 예를 들어 의료 전문가들도 전체로 보면 충격적일 만큼 많은 실수를 합니다.
그렇긴 한데, 평균적인 LLM은 대화 한 번에 충격적일 만큼 많은 실수를 합니다.
그리고 참고로 의료진의 실수율은 의사결정 단위가 아니라 환자 단위로 보고되는 경우가 많습니다. 즉, 환자 차트에 기록된 수십 가지 항목 중 하나가 틀린 것과 전부 틀린 것이 똑같이 집계됩니다. 무시해도 될 만한 오류율을 독자가 겁먹을 수치로 부풀리기 쉬운 방식이죠.
의사의 에이전트가 환자의 진료를 옆에서 듣습니다. 대화 내용을 바탕으로 처방전을 자동으로 정리하고 다른 잡무도 처리합니다.
의사는 에이전트가 대화 속 가정이나 논의에 정신을 팔지 않도록 일종의 "안전 문구"를 쓸지도 모릅니다.
에이전트는 처방을 개선하기로 결정하고 그대로 실행합니다. 테스트 때는 그런 가능성을 고려하지 못했으니까요.
혈우병 환자에게 와파린(혈액 응고 방지제)이 처방됐고, 그 환자는 이제 더 이상 NHS의 "부담"이 아닙니다!
> 하지만 그만큼의 효과를 못 낼 수도 있습니다.
오늘 아침에 마케팅 쪽(기술 쪽이 아니라) 일하는 친구와 이야기했는데, LLM 얘기를 침이 마르게 하더라고요.
관련 없어 보이는 데이터를 한 무더기 던져 넣으면 거기서 바로 쓸 수 있는 BI가 나오는 게 정말 좋답니다.
정말 파란만장한 시기가 올 것 같습니다. 안전벨트 매고, 손은 차 안에 넣고 계세요...
네, 제 생각엔 자율주행 엑셀 정도 수준인 것 같아요.
엑셀도 똑똑한 척하다가 실수하잖아요. 엑셀이 날짜로 인식하지 못하게 하려고 유전자 이름 몇 개를 바꿔야 했던 생물학자들 기억나시죠? 그래도 어디서나 쓰이는 업무 도구이고, 같이 조합해서 쓸 수도 있죠. 하지만 마찬가지로 엑셀이 모든 사무직을 대체하지는 못했어요.
90년대 드라마 프렌즈에서 챈들러 빙의 직업은 "통계 분석 및 데이터 재구성"인데, 사라진 직업이라 아마 낯설 겁니다!
재무 보고서를 손으로 취합해서 합계를 내고 윗선으로 올려 보내는 일이었습니다.
이제는 간단한 BI 쿼리 하나면 되고 사람이 수작업으로 처리할 필요가 없습니다.
더 큰 변화는 이제 비서를 두는 건 CEO나 기껏해야 CxO뿐이라는 겁니다. 휴대폰과 아웃룩 일정표가 그 직업을 거의 지워 버렸습니다.