요약
LLM을 얼마나 깊이 쓰느냐에 따라 AI 능력을 보는 눈이 깔때기처럼 갈라지고 있습니다.
AI 연구자 안드레이 카파시가 X에 올린 글입니다. 지난 4월 AI 능력에 대한 이해 격차를 다룬 글을 다시 꺼내며, 이제 격차는 두 집단의 엇갈림이 아니라 가파른 깔때기 모양이 됐다고 했습니다.
왜 중요한가
- 같은 AI를 두고 엉성한 챗봇이라는 평가와 현기증 나는 도약이라는 평가가 동시에 나오는 이유를 이용 계층으로 설명합니다.
- 능력이 수학·코딩처럼 검증할 수 있는 영역에 몰려 있어, 다른 분야 전문가는 아직 변화를 체감하기 어렵다는 뜻입니다.
- 최전선 시스템을 직접 보는 사람은 극소수이고, 그들 사이에서도 사람의 검토와 이해가 뒤처지기 시작했다고 했습니다.
핵심 내용
- 세계 인구의 약 75%인 60억 명은 LLM을 거의 써 본 적이 없다고 어림했습니다.
- 약 20%는 무료 챗봇을 가끔 쓰며 조금 나은 검색이나 글쓰기 도우미 정도로 여긴다고 봤습니다.
- 수학·코딩에서 최고 성능 모델을 업무에 쓰는 약 2천만 명은 몇 달 걸리던 일을 에이전트에 맡기고 있다고 했습니다.
- 내부 시스템을 쓰는 약 5,000명은 수천 개 에이전트가 몇 주씩 협업해 제로데이(아직 알려지지 않은 보안 허점)를 찾아내는 모습을 본다고 했습니다.
- 원인으로는 다루는 문제의 크기, 분야마다 들쭉날쭉한 능력, 무료·유료·내부로 나뉜 이용 등급을 꼽았습니다.
HN 반응
- 많은 이용자는 AI가 집값·물가·전기요금에 시달리는 보통 사람의 삶을 나아지게 하지 못했다고 지적했습니다.
- 주거 같은 문제는 천재가 모자라서가 아니라 풀 유인이 없어서 남아 있다는 주장에, 지금은 거품의 정점이고 쓸모 있는 활용은 그 뒤에 온다는 전망이 더해졌습니다.
https://xxcancel.com/karpathy/status/2109361546505966046
당신은 제 영웅이에요
평범한 사람 입장에서 보면 AI가 삶을 전혀 낫게 하지 못했거나 오히려 나쁘게 만들었다는 게 정말 씁쓸합니다.
자동차는 그대로입니다. 식기세척기도 그대로입니다. 출근할 때 타는 기차도 그대로고, 제시간에 오는 법이 없습니다. 기름값은 더 비쌉니다. 도로는 여전히 꽉 막혀 있습니다. 아이들은 (아마도) 학교 성적이 더 떨어지고 있습니다. 식비는 더 듭니다. 집값은 더 오릅니다. 월세는 더 높아졌습니다. 컴퓨터나 PS5를 사는 데 돈이 더 듭니다. 정치판은 여전히 정신이 불안정한 사람들로 가득합니다. 환경은 나빠지고 있습니다. 여전히 심장병이나 암으로 죽게 됩니다. 음식의 질은 더 나빠졌습니다. 아이들은 일자리를 구하지 못합니다. 부의 불평등은 빨라지고 있습니다.
그래도 뭐, 좋은 면을 보자면... 많은 사람이 (아무도 쓰지 않는) 소프트웨어를 빠르게 만들어 내고 있고, AI는 (수학자들조차 풀어 주길 바란 적 없는) 수학 문제를 풀고 있습니다.
"데이터센터 속 천재들의 나라"가 무엇을 할 수 있을지 상상해 보세요. 보아하니... 아무것도 못 하겠네요.
이게 LLM 열풍을 일으킨 사람들 모두가 가진 핵심적인 오만입니다. LLM이 쓸모없다고 부정하려는 건 아닙니다. 분명 쓸모가 있습니다. 하지만 이 모든 것의 밑바탕에는 "천재들의 나라"만 있으면 문제가 녹아 없어질 거라는 가정이 깔려 있는데, 현실은 그렇지 않습니다. 주거나 기근이나 전쟁 같은 문제가 해결되지 않는 이유는 천재가 부족해서가 아니라, 구조적으로 그것을 해결할 유인이 없기 때문입니다.
게다가 LLM은 바로 그런 문제를 더 키우려고 존재해요. 사람들이 집을 못 사나요? 그럼 이제 컴퓨터도 못 가지게 되겠죠. 그건 부작용이 아니라 의도된 기능이에요. K자형 경제가 충분히 진행되면 LLM을 쓰는 것조차 허락되지 않을 거예요. LLM은 당신을 소유한 새로운 봉건 계급의 도구로만 존재하게 되겠죠.
그러니 지금 그들의 부를 무너뜨리지 않는다면요.
다행히 AI 거품이 그들의 재산을 상당 부분 날려 줄 겁니다.
가트너 하이프 사이클 [0]은 실재하고, 어디에나 적용됩니다. 지금 우리는 "부풀려진 기대의 정점" 근처 어딘가에서 아슬아슬하게 서 있고, 곧 "환멸의 골짜기"로 곤두박질칠 겁니다. 엄청난 부자들이 큰돈을 잃게 될 텐데, 이번에는 (또다시) 구제금융을 받지 않기만을 바랄 수밖에 없습니다.
그러고 나서 거품과 과열이 끝나면, 이 새로운 기술로 실제로 쓸모 있는 일을 하는 길고 더딘 작업이 시작됩니다. 그때가 되어야 이 기술이 다른 모든 것에 영향을 미치는 모습을 보게 될 겁니다.
[0] https://en.wikipedia.org/wiki/Gartner_hype_cycle
공급 능력이 수요를 따라잡으면(몇 년 뒤예요. 짓는 데 시간이 걸릴 뿐이라고요!) 보통 사람도 훨씬 좋고 값싼 하드웨어를 쓸 수 있게 돼요. 지금까지 늘 그래 왔는데, 이번에만 왜 다를지 모르겠네요. 댓글에 알맹이가 하나도 없어요. 트위터에서 질리도록 돌던 레퍼토리를 되풀이할 뿐이잖아요.
시장은 희소성이 있어야 성립해요. 거래가 필요한 이유가 희소성이니까요.
탈희소 사회를 옹호하면서 시장 메커니즘을 끌어다 쓸 수는 없어요.
풍요를 만들어 내는 기계가 원하는 걸 다 가져다주는데, AI 소유자들이 뭐 하러 물건을 더 싸게 만들거나 심지어 내놓기라도 하겠어요?
그래서 그들이 얻는 게 뭔데요? 풍요 기계가 이미 줄 수 없는 것 중에, 생산력 독점을 포기할 만큼 가치 있는 걸 보통 사람들이 무슨 수로 내놓겠어요?
"이게 모든 걸 바꿀 것이다"와 "세상은 늘 이렇게 돌아왔다"를 동시에 주장할 수는 없어요. 그런데도 AI 가속주의자들은 자기 이념을 변호하려고 둘 다 꺼내 들죠.
도마뱀 딥스테이트가 LLM 열풍을 기획했다는 말씀인가요?
샘 올트먼이 도마뱀일지도 모르죠..
r>g는 오래된 수작이고, LLM은 그걸 가속할 뿐이에요. 도마뱀은 마법사가 아니거든요.
자본이 그렇게 적던 시절엔 그럴 수밖에 없었죠... 그게 영원히 이어질 거라는 생각은 누가 봐도 어리석고요.
문제는 그게 풀리지 않는다는 게 아니라, 풀릴 때 어떤 모습이냐는 거예요. 지난번에는 세계적인 격변과 전 세계적인 자본 소각을 뜻했어요. 미국에서는 대체로 비유에 가까웠지만 유럽과 아시아에서는 말 그대로였죠. 실질 가치로 보면 가난한 사람들이 더 고통받지만 명목 가치로 보면 자본이 더 고통받고, 그래서 불평등이 풀리고, 폭주하는 자본이 경제 성장을 넘어서는 수익을 요구하며 그걸 채워 줘야 하는 부담도 풀려요.
같은 "전략"이 이번에도 통할 거라고 확신해요. 다만 이번에는 모두가 핵과 드론 군집과 AI를 갖춘 생물학 연구소를 갖고 있어서 아주 난리가 날 거예요.
시가를 피우는 밀실에 악당들이 모여 콧수염을 배배 꼬면서 계획을 짤 필요가 없어요. 계급적 이해관계라는 좋은 옛 방식이 똑같은 일을 해 주니까요.
s/deep lizard state/billionaires/오히려 이런 문제가 해결되지 않는 건 천재가 부족해서입니다. 대중을 설득해서 책임 있는 정치인들을 지옥으로 보낼 수 있는 천재가 모자라다는 뜻입니다.
이른바 가장 똑똑하다는 사람들 상당수가 완전히 파시즘 편에 섰습니다. 머리의 문제가 아닙니다.
이 말을 하는 사람들은 대체로, "한 세대에서 가장 똑똑한 사람들"이 전부 광고 기술에나 매달려 있다고 한탄하면서도, 그게 정말 가장 똑똑한 사람들만의 집합이 맞는지는 돌아보지 않던 바로 그 사람들입니다. 그 집합에 속한 사람들 가운데 상당수는 20년 전이었다면 금융권에서 중개인으로 돈을 쫓고 있었을 사람들이고, 어차피 생산성을 높이는 일을 하던 사람들도 아니었다는 점도요.
똑똑하면서 돈을 쫓을 수는 있습니다. 하지만 돈을 쫓는 자기 또래 집단만 똑똑하다고 여기는 건 터무니없는 오만입니다.
거기서 "우리만 똑똑하니까 우리가 가장 큰 영향력을 가져야 한다"로 넘어가는 건 한 걸음이면 됩니다.
이 댓글이 무슨 말인지 잘 모르겠습니다. 설명해 주실 수 있나요?
이런 말을 하는 사람들을 본 적이 있습니다. "똑똑한 사람은 마음만 먹으면 거의 무엇이든 쉽게 스스로 납득해 버리고, 그러고 나면 설득해서 돌려세우기가 거의 불가능하다."
맞는 말 같습니다. 역사상 최악의 인물들도 다른 온갖 결함에도 불구하고 엄청나게 멍청해 보이지는 않는 경우가 많고요.
해커뉴스에서 이런 진짜 이야기를 본 게 오랜만이네요. 반갑습니다. 보통은 너드들 사이에서 사람들에게 책임을 묻자고 하는 사람이 나 하나뿐인 것 같았거든요.
그래서, 이걸 어떻게 해낼 수 있을 거라고 보세요?
적어도 미국에서는 "책임 있는 정치인들"을 2년에서 6년마다 지옥으로 보내고 있습니다. 사람들이 그렇게 투표합니다.
그런데도... 대부분의 시간은 사실상 일당 국가 같은 느낌이에요.
기업 이익을 대변하는 정당 말씀인가요?
어쩌면 속으로는 우리 모두 정말로 같은 걸 원하는지도 몰라요...
오히려 권력을 가진 사람들이 모두 권력의 메커니즘, 즉 자본을 섬기는 거죠.
뒤베르제의 법칙입니다. 상대다수대표제(FPP)로 뽑는 의회는 결국 일당 체제로 수렴합니다.
그건 뒤베르제의 법칙이 말하는 내용이 아닙니다. (그래도 흥미로운 가설이니 언급해 주셔서 고맙습니다.)
맞아요, 문제 중 상당수는 "버그가 아니라 의도된 기능"이에요. AI가 이런 "기능"을 더 만들어 내지 않을 거라고 볼 이유도 없고요.
수십억, 수조 달러를 이야기하는 글들을 볼 때마다 저는 매일같이 깊이 슬퍼집니다. 제가 사는 곳(참고로 미국의 일부입니다)에서는 전기와 물조차 안정적으로 공급되지 않거든요. 심지어 전기요금은 올랐는데 그 대가로 얻은 건 아무것도 없습니다.
대형 연구소들이 왜 전력 사정을 개선하는 데 더 힘쓰지 않는지 이해가 안 갑니다. 10억 달러어치 토큰을 핵융합 분석과 연구, 시뮬레이션에 쏟아부어서 돌파구를 억지로라도 만들어 보면 어떨까요. 화석연료 의존에서 우리를 해방시켜 줄 무한하고 값싼 에너지를 내놓으면 호감을 크게 살 수 있을 텐데요.
OpenAI와 샘 올트먼은 말 그대로 핵융합 발전 스타트업을 후원하고 있어요.