요약
아마존이 사내 AI 도구 Atlas로 물류창고마다 노조 결성 위험 점수를 매긴 정황이 내부 문서로 드러났습니다.
영국 독립 매체 오픈데모크라시가 아마존과 캐나다 노조 유니포의 소송에서 공개된 문서를 보도했습니다. 영국에서는 노조 GMB가 2023년 코번트리 창고의 노조 인정 투표(회사가 노조를 교섭 상대로 인정할지 묻는 투표)에서 28표 차로 진 적이 있습니다.
왜 중요한가
- 법률사무소 리데이의 마이클 뉴먼은 노조 결성을 막지 않는다던 아마존의 그간 설명과 이 문서가 어긋난다고 지적했습니다.
- 영국 창고 두 곳이 최고 위험 등급에 올라 있어, 시민단체 폭스글러브는 진행 중인 소송에 쓸 수 있는지 검토하고 있습니다.
핵심 내용
- Atlas는 Reddit 글, 사내 설문 응답, 과거 쟁의 기록 등 수백 가지 데이터로 창고마다 100~900점을 매깁니다.
- 점수가 낮을수록 위험이 크다고 보며, 경영진은 높은 점수를 좋은 것으로 여깁니다.
- 창고는 5개 등급으로 나뉘고, 노조 활동이 임박한 1등급 16곳 중 두 곳이 영국 서턴콜드필드와 코번트리 인근에 있습니다.
- 문서는 이 등급을 인력 배치와 위험 완화 조치에 활용할 수 있다고 설명합니다.
- 아마존은 Atlas가 개인이 아닌 건물 단위로 작동하고 영국에서는 지금 쓰지 않는다고 했지만, 이름만 다른 비슷한 시스템이 있는지는 답하지 않았습니다.
HN 반응
- 모든 대규모 감시는 해롭다는 주장에 과속 단속도 하지 말자는 말이냐는 반론이 붙었고, 자동화되고 견제 없는 감시가 문제라는 정리가 나왔습니다.
- 이런 관행이 결국 고객과 좋은 직원을 잃게 해 손해라는 주장에는, 그런 예측은 수년째 빗나갔다는 반박이 맞섰습니다.
길게 보았을 때 해악보다 이로움이 큰 감시는 없습니다. "나쁜 놈을 잡는다"느니 "사람들이 바르게 행동하게 만든다"느니 하는 끝없는 논쟁은, 인간이 대규모로 협력하고 이타적일 수 있다는 근본적인 믿음에 반하는 것으로 보는 게 맞습니다. 어떤 수준이든 대규모 감시는 정당화될 수 없고, 감시를 허용하면서 디스토피아를 만들지 않는 미래는 존재하지 않습니다.
...이 원칙을 어디까지 밀고 가시는 겁니까? 경찰이 운전자의 속도를 감시하니까, 속도 제한을 단속하는 경찰도 거리에 두면 안 된다는 건가요?
문제 하나에는 보통 해법이 여럿 있고, 각각 부작용과 시행 조건이 다릅니다. 속도 제한 단속에 분명 장점이 있지만 단점도 있습니다. 절대적인 원칙에는 들어맞지 않는 예외가 늘 있기 마련이고요. 다만 저는 교통사고 사망을 줄일 방법이 시민을 감시할 권한을 가진 거대한 조직망을 만드는 것뿐이라고 보지 않습니다. 오히려 자동차를 대신할 현실적인 교통수단을 더 만드는 쪽이 목표에 더 잘 맞는 경우가 많습니다. 처벌 위주의 접근이 늘 틀렸다고 생각하지는 않지만, 인프라 차원에서 풀어야 할 문제를 개인의 문제로 돌리려는 시도인 경우가 많습니다.
맞아요, 가로수, 좁은 도로, 로터리, 과속방지턱, (아무도 동의하지 않겠지만) 일방통행 도로 스파이크까지... 효과가 검증된 방법이 정말 많죠.
영국에서는 과속했다고 사람을 감옥에 보내지는 않습니다.
윗글 쓰신 분은 아마 대규모 감시를 말씀하신 걸 겁니다. 경찰이 속도 측정기를 들고 도로 한 곳을 지켜보는 게 해롭다고 주장하는 사람은 없을 거예요. 해로워지는 건 그게 여러 지역의 수백 개 데이터 지점으로 확대되고, 자동화되고, 시스템 안에 감독과 책임 장치가 거의 없을 때입니다.
저는 "자동화"라는 부분이 그 문장에 당연히 전제되어 있다고 생각했는데요.
"자동화"라니 어느 부분이요? 원글에는 "자동화"라는 말이 없는데, 그런 뜻으로 썼을 수는 있겠네요. 지금까지 나온 주장을 정리하면 이렇습니다.
"인간이 대규모로 협력하고 이타적일 수 있다는 근본적인 믿음에 반한다" - 복잡한 문장인데, 사람을 통제하면 본래 선하게 살 수 있는 사람들이 그러지 못하게 된다는 뜻 같습니다.
규모, 아니면 다른 댓글의 표현대로 "여러 지역의 수백 개 데이터 지점으로 확대될 때 해롭다"는 건데, 왜 그런지는 모르겠습니다.
그 댓글은 "자동화되고, 시스템 안에 감독과 책임 장치가 거의 없다"고 이어집니다. 비효율적이면 왜 더 낫다는 건지는 분명치 않고, 상식에 호소하면서 일종의 이의 제기 절차를 요구하는 것으로 보입니다.
꽤 어수선합니다. 결국 사안마다 사람이 판단하자는 주장 같다는 인상을 받았습니다.
기업이 하는 데이터 수집이 떠오르네요. 엄밀히 말하면 저한테 해를 끼치지도, 저에 대한 결정으로 이어지지도 않는데 그래도 짜증이 납니다. 매장 점장이 사업 구상을 하면서 제가 장 보는 모습을 곰곰이 지켜보는 건 괜찮습니다. 하지만 제가 통계로 환원되는 건 싫어요. 그냥 불쾌합니다. 아마 비인격적이기 때문이겠죠. 데이터 수집에 깔린 질문은 "이 인간들은 기계적으로 어떻게 행동하는가?"니까요.
저는 어느 정도 비대칭은 괜찮다고 봅니다. 제 정보를 보려면 돈을 내야 하지만, 일단 내고 나면 저는 당신 정보를 공짜로 볼 수 있는 거죠.
저는 생각이 다릅니다. 의사 결정을 하는 정부 공무원은 전부 24시간 감시하고 기록했으면 좋겠어요. 훔쳐보기 좋아하는 AI가 녹화본을 수상한 정도와 성과 순으로 분류하고, 시간이 한참 지난 뒤에도 정확하게 판정해서 큰 보너스까지 줄 수 있게요.
그럼 본인도 그런 감시를 받을 용의가 있으시겠죠?
상관없는 얘기죠. 공직자는 더 높은 기준을 적용받아야 합니다.
공적 자금을 조금이라도 받는 조직은 전부 포함되나요? 양도할 수 없는 권리가 어디서 시작되고, 화장실에서 오래 있는 사람을 잡아내려는 당신의 집착은 어디서 끝나는 겁니까?
선언문을 다 쓰기엔 여기 공간이 모자라니 짧게만 말하면, 걸린 이해관계가 얼마나 큰지, 데이터를 얼마나 안전하게 감시할 수 있는지에 달려 있습니다. 자원은 늘 부족한데, 조금만 더 있으면 사람들이 더 오래 살고 삶이 나아질 수 있습니다. 작은 부패는 몇 사람의 삶만 망치지만, 잘 짜인 부패 구조는 수백만 명을 죽입니다. 그들이 빠져나간다는 사실은 문제의 절반에도 못 미칩니다. 진짜 문제는 그게 반복을 부추기고 결국 당연한 일이 되어 버린다는 거죠. 데이터를 제대로 보호하는 것도 중요합니다. 그러지 않으면 사람들이 나서야 할 때 나서기를 두려워하게 됩니다.
충분히 일찍 잡아내면 처벌까지 갈 필요도 없을 겁니다. 조직 구성원이 충분히 수상하게 굴면 다음 계약은 다른 곳에 줄 수도 있고, 그 자리에서 계약을 끊을 수도 있죠. 누군가 뇌물을 제안하면 당신의 고용이 검토 중이라는 알림이 가는 식으로요.
단속을 맡은 사람이 당신의 청문이나 재판 기회를 마련하지 못하면 곧바로 감옥에 갈 수 있어야 합니다.
물론 보수는 근무 조건에 걸맞아야 하고, 그 조건은 첫날부터 분명해야 합니다.
그분이 다른 사람들에게 권력을 행사하는 입장이라면, 그런 감시가 필요할 수도 있지 않을까요?
물론입니다!
얼마나 열심히 일하시는지는 모르겠지만, 뭔가를 해내는 걸 즐기는 분이라면 직원 상당수가 요령만 피우려 드는 직장에 다녀 본 적 있으시죠?
지금 제 직장에서는 직원 두 명이 두 달째 귀찮다고 두 시간 거리를 운전해 공구를 가져오지 않고 있어요. 거기서 일하는 사람들은 그냥 일을 안 합니다. 윗선에 보고도 안 하죠. 첫 질문이 "왜 두 달 전에 보고하지 않았나?"일 테니까요. 저는 매일 그 사람들을 닦달하지만 저도 보고는 안 합니다. 제가 얻을 게 없으니까요.
정부가 돌아가는 방식이 정확히 이렇습니다.
저는 웹 앱을 하나 만들었습니다. 스크린샷 몇 장을 LLM에 넣으면 누가 일을 안 하는지, 얼마나 오래 안 했는지, 어느 시점에서 더 진행하지 못하는지, 얼마 전에 알았어야 했는지를 바로 알 수 있어요. 그림이 터무니없게 나오긴 하는데, 지금은 제 일자리를 지키는 데만 쓸모가 있습니다.
결정은 정부 공무원이 내리는 게 아닙니다. 그들은 그냥 따라서 실행할 뿐이고, 물론 개인적인 이득도 챙기죠.
누군가를 감시하고 기록하고 싶으시다면, 최상위 올리가르히, IMF, 세계은행, WEF, 블랙록, 뱅가드 같은 곳부터 시작하세요. 그다음에 막후를 더 추적하시고요.
"매우 동의함" 말고 다른 답을 고르면 위험 인물로 분류될 가능성이 높다고 생각하니 섬뜩하네요.
우리가 정말 이런 사회를 원하는 건가요?
아, 전부 "매우 동의함"으로 답해도 안 돼요. 그러면 제대로 답하지 않았다는 게 뻔히 드러나서 그것도 위험 요소가 되거든요.
이건 대략 1천 개 기업이 원하는 사회예요. 장단 맞추지 않으면 일자리도 의료 혜택도 없고요.
자본주의는 관행으로든 사상으로든 무너뜨려야 합니다.
소설로 풀어낸 이야기입니다.
https://karmak.org/archive/2003/12/manna/manna1.htm
훌륭한 단편이네요. 아시모프가 떠오릅니다. 마셜 브레인 선생님, 편히 쉬시길.
https://www.reddit.com/r/NCSU/comments/1h0olsv/popular_nc_state_professor_marshall_brain_dies/
https://www.reddit.com/user/MarshallBrain
이건 자본주의와 아무 상관이 없습니다. 이런 관행은 돈을 내는 고객과 유능한 직원을 적으로 돌려서 길게 보면 회사가 손해를 보거든요.
이건 전적으로 남을 통제하고 싶어 하는 사람들의 문제이고, 권위주의나 전체주의 같은 것으로 분류할 수 있을 겁니다.
그 소리를 너무 오래 들어왔는데, 지금까지 사실이었던 적이 없어요.
어쩌면 내년쯤엔 아마존 고객 중 일부가 어째서인지 돈을 더 내고 덜 편한 다른 소매업체를 쓰기로 마음먹을지도 모르죠. 하지만 저라면 거기에 돈을 걸진 않겠습니다.
며칠 전에 아마존(영국) 계정을 닫았습니다. 그들에게 돈을 안 쓰니 이렇게 후련할 수가 없네요.
저는 노조를 탄압하는 행태 때문에 한참 전에 계정을 닫았습니다. 용납할 수 없는 일이고, 그 대가로 아마존은 기업으로서 끝장나야 합니다.
제가 중국에 갔을 때 만난 중국인들 같으시네요.
미국 음식은 싫다면서 KFC를 짓밟더군요.
그러면서 아이폰으로 촬영하고요.
여기도 똑같아요. 아마존 계정을 닫았다고 AWS 위에서 돌아가는 HN에 올리고 있잖아요.
그러면서 당신도 사회에 참여하고 있잖아요. 흥미롭네요.
제 댓글에 집중하세요. 와타보우티즘(whataboutism)으로 몰아가지 말고요.
유명한 밈이에요, 찾아보세요. 어떤 것에 반대하면서도 바로 그것의 일부에 참여할 수밖에 없는 경우가 있잖아요.
예를 들어 제가 자본주의와 그 필연적인 종착점을 비판하는데, 당신이 "그러면서 계속 물건을 사잖아"라고 말할 수 있는 것처럼요.