요약
로블록스 직원 이메일을 단 크롤러가 3D 모델 공유 사이트에서 성인물을 포함해 145.5GB를 내려받았습니다.
무료 3D 모델 공유 사이트 Open3DLab, SFMLab, SmutBase의 운영진이 쓴 글입니다. 10월 15~16일 로블록스 소속이라고 밝힌 크롤러가 거의 모든 프로젝트를 훑고 파일을 통째로 받아 갔습니다. 운영진은 AI 학습용 수집으로 보고 있습니다.
왜 중요한가
- robots.txt(크롤러 접근 규칙 파일)와 이용약관, 비상업 라이선스가 AI 데이터 수집을 막지 못한다는 사례입니다.
- 아동 안전 문제로 여러 주에서 소송을 당한 로블록스가 성인물을 걸러 내지 않고 수집했다는 의혹이 제기됐습니다.
핵심 내용
- 크롤러는 34시간 동안 2만 6천여 번 요청해 712개 프로젝트에서 파일 1,027개를 받아 갔습니다.
- 이 가운데 345개 프로젝트가 성인 콘텐츠였고, 423개는 비상업 용도만 허락한 라이선스였습니다.
- 사용자 에이전트(접속 프로그램이 밝히는 자기소개 문자열)에 로블록스 직원 이메일과 3D 파운데이션 모델 연구라는 설명이 적혀 있었습니다.
- 이 직원은 로블록스의 3D 생성 AI 논문 Cube의 공저자지만, 운영진은 신원을 검증하지 못했고 책임은 회사에 있다고 했습니다.
- 로블록스가 이메일에 답하지 않자 운영진은 데이터 용도와 파일 삭제 여부 등 여섯 가지 질문을 공개했습니다.
HN 반응
- 상용 게임에서 뽑아낸 모델을 올리는 사이트가 저작권을 따질 자격이 있느냐는 지적에, 운영진도 글에서 이를 인정했다는 반박이 맞섰습니다.
- 같은 행위라도 개인 규모와 기업의 기계 규모는 다르게 봐야 한다는 의견과, 데이터 가치를 알면 라이선스와 접근 통제로 지키라는 조언이 나왔습니다.
과학자들 말로는, 2023년 이후 HN 게시물 제목에 ‘모델’이라는 단어가 어떤 신경망을 가리키지 않고 쓰인 건 이번이 처음이라고 하네요.
웃으시지만, 저 모델들로 AI 모델을 학습시켜서 플레이어가 프롬프트만으로 자기 캐릭터를 디자인하게 해 줄 가능성이 커요.
이미 나왔어요: https://github.com/roblox/cube
업데이트는 자주 하나요?
저는 개인적으로 로블록스 위에서 뭔가를 만들 생각은 없지만, 이런 말 하기는 싫은데, 어떤 게임 엔진으로든 내보낼 수 있는 범용 3D 서비스를 로블록스가 내놓는다면 품질이 충분할 경우 돈을 내고 쓸 것 같아요. 게임도 많고 자본도 많으니 충분히 해낼 수 있어 보이고, 기본 모델도 이미 있잖아요.
게임 엔진에 바로 연결되는 텍스트-3D 모델 모델이 더 나왔으면 좋겠어요. 흥미로운 일이 많이 생길 것 같거든요. 아이들이 프롬프트로 상상 속 세계를 현실로 만들어 내고, 소셜 미디어를 뒤덮을 밈이 5천만 개쯤 쏟아지겠죠.
저도 그래요. 그런데 아직은 어느 모델도 그걸 가능하게 할 만큼 결과물이 좋지 않아요. 지금은 다들 모델링과 텍스처링으로 품질을 ‘그럴듯하게 꾸며’ 보이는 데 맞춰져 있는데, 와이어프레임을 열어 보면 실사용하기엔 한참 멀었다는 게 뚜렷해요. 성능이 아주 중요해서 에셋을 아무렇게나 막 쓸 수 없는 게임에서는 더 그렇고요. 그런데 ‘텍스트-3D’ 모델들이 하는 짓이 바로 그거예요.
그래도 결국 도달하긴 할 겁니다. 불과 1~2년 전과 비교하면 엄청나게 나아졌으니까요. 제 말의 요점은, 지금 부족한 건 ‘3D 모델 → 게임 엔진’ 연결이 아니라 충분히 높은 품질의 결과물을 못 내놓는 ‘텍스트 → 3D 모델’ 쪽이라는 겁니다.
해법이 다른 형식들로 렌더링할 수 있는 중간 ‘모델 사양’(이 사양이 모든 모델 모델의 목표 형식이 되는 거죠)일지, 아니면 3D 모델을 코드로 재현하도록 학습시키는 LLM식 편법일지 궁금해요. CAD 중에 모델이나 설계를 코드로 작성하는 프로그램이 있다고 알고 있는데(어떤 건지는 기억이 안 나네요).
제가 겪는 이상한 점이 하나 있어요. Claude에게 threejs로 꽤 재미있는 걸 만들게 할 수는 있는데, 그걸 다른 엔진으로 옮기면 결과가 항상 좋지는 않고, 대개는 날것의 코드로 나오거든요. 저는 3D 쪽 사람이 아니고, 그냥 제가 코딩하거나 떠올린 걸 바로 돌려 보고 싶을 뿐이에요.
모델로 훈련된 모델로 모델을 디자인하는 거죠. 아주 간단해요.
모든 모델은 틀렸지만, 어떤 모델은 모델의 모델로 훈련받고도 여전히 틀렸죠.
https://en.wikipedia.org/wiki/All_models_are_wrong
유명한 모델의 외형을 재현하는 건 가능할 거라고 확신해요. 그러면 모델로 훈련된 모델이 모델의 모델을 만들어 내겠죠.
근데 저는 모델의 정확도를 위해 업계 전문가가 참여하는 쪽이 좋아요. 모델이 감독하고 함께 만들어서 모델로 훈련된 모델이 그러면 모델의 모델을 만들어 내는 거죠.
모델 모델을 모델 모델 모델에 맞춰 모델링하면 문제없을 거예요.
모델이 모달(modal)만 아니면 잘 될 거예요. 모달 모델은 몸퓨터 민터페이스 메자인 방식 중에서도 최악이거든요.
제가 모델 하나 모델링했는데, 그걸로 네 모델을 직접 모델링할 수 있어요, dawg
옛날 느낌 제대로 나죠?
사진작가로서 말씀드리자면, 그 모델은 같이 작업하기 어려워요. 훈련을 전혀 안 받은 것처럼 그냥 가만히 서서 시키는 걸 기다리기만 하거든요. 모델이랑 실제로 작업하는 시간보다 모델한테 뭘 원하는지 설명하는 시간이 더 길어요. 언젠가 프로가 되기를 바라면서 오픈 모델들이랑 작업할 게 아니라, 돈을 좀 들여서 프로 모델을 쓰는 게 낫겠어요.
ㅋㅋㅋ
물론 ‘연구’ 목적이겠죠.
웃으시지만, 이런 데이터야말로 예외 사례를 정말 많이 잡아내고 다른 3D 응용 분야로까지 일반화되는 모델을 학습시킬 수 있게 해 주는 자료입니다.
이 모든 데이터를 대량으로 끌어모으는 일이 도덕적으로 어떤지는 말하지 않겠습니다. 다만 저는 매일 의료·치과 분야에서 3D를 다루는 사람인데,
그런 데이터가 연구에서 금만큼 가치 있다는 건 의심할 여지가 없습니다.
약간 곁가지지만 관련된 이야기를 하자면,
특히 의료나 3D 업계에서 방대한 데이터를 쥐고 있는 사람들은 자기가 깔고 앉은 데이터의 가치를 이제는 제대로 알아야 한다고 생각합니다. 공짜로 줄 수도 있지만, 누군가 그걸로 수천억 달러를 벌고도 보상해 주지 않는다고 화내서는 안 됩니다.
테크 기업에 당하는 게 싫다면, 법이 요구하는 절차를 밟아서 데이터를 지키십시오. (데이터에 라이선스를 제대로 걸어 두는 것도, 사용 범위를 명시한 라이선스와 필요하다면 접근 통제로 데이터를 보호하는 것도 거기에 포함됩니다.)
이런 식으로 항의 소동을 벌이면서, 어떻게 이런 걸 퍼미시브 라이선스까지 붙여서 호스팅할 수 있죠?
https://open3dlab.com/project/e2a0830d-f166-4b1b-aabf-8ca735d0638c/
하나의 예일 뿐이고 메인 페이지에 이런 게 얼마든지 더 있어요.
저 사람들한테 감정이 있는 건 아니지만, 이 항의가 어떤 도덕적 우위에서 나오는 건지 도무지 이해가 안 돼요.
기사를 읽어 보셨다면 저 사람들이 그 점을 인정하고 있고, 입장이 단순하지 않으며, 이건 ‘허점 찌르기’가 아니라는 걸 아실 텐데요.
부유한 기업들이 LLM을 만들려고 산업적 규모로 저작권을 침해하고 있는데, 걸리고 문제 제기를 당해도 치명적인 처벌은 받지 않습니다. 침해당한 쪽은 입을 다물 만큼의 돈을 받고, 다들 넘어가죠. 벌금은 그저 가격일 뿐입니다. 이들은 아무 탈 없이 계속 그럴 겁니다. 그러는 사이 저작권 전문 변호사를 상시 고용하지 않은 작은 사람들만 번번이 당합니다.
“스튜디오에서 삭제 요청이 오면 우리는 따릅니다.” 글쎄요, 따를 수밖에 없죠. 안 따르면 존재 자체가 사라질 위험이 있으니까요.
그리고 ‘팬 포팅’이라는 말이 너무 많은 걸 가려 주고 있어요. 상업 게임에서 추출한 에셋을, 추출해서 패키징한 사람이 정한 아무 라이선스로 올려 둔 거잖아요.
저들 논리대로라면, 저작권이 정말 폐지되어야 한다고 생각하는 쪽에서는 그 저작물을 원하는 대로 리믹스할 수 있는 LLM이 좋은 거겠죠? 결국 모델의 최종 사용자에게 힘을 실어 주는 일이니까요.
세상의 지식으로 학습한 이런 모델이 대기업만 통제하는 폐쇄형 모델 뒤에 갇혀서는 안 된다는 주장도 있을 수 있고, 이번 경우에는 누구나 데이터를 내려받아 그런 모델을 학습시킬 수 있다는 게 좋은 일 아닌가요?
로블록스의 의도까지는 제가 말할 수 없고, 로블록스의 전력도 잘 알고 있어요. 하지만 지금까지는 모델 작업물 중 적어도 일부는 HuggingFace에 공개한 것 같아요: https://huggingface.co/Roblox/
제가 놓치고 있는 ‘단순하지 않은 부분’이 뭔가요?
제 아들이 로블록스에서 소닉 더 헤지혹 게임을 하는 걸 봤는데, 원작 게임을 그대로 뜯어온 수준이었어요(적어도 시각적으로나 플레이 방식으로는요). 게임에서 실제 에셋을 추출한 건지, 원작을 아주 잘 아는 열성 유저가 만든 건지는 잘 모르겠어요. 하지만 로블록스에는 원작만큼 잘 만든 다른 게임 재현작이 꽤 많아요.
여기서도 똑같은 일이 벌어지고 있는 거 아닌가요? 저작권이 있는 자료를 호스팅하는데도 치명적인 처벌은 받지 않았잖아요.
침해의 성격이 달라요. 30년대에 와서야 캐릭터를 그 캐릭터가 속한 이야기와 별도로 저작권 대상으로 삼는다는 발상이 생기지 않았다면(원래 저작물 본문에서는 캐릭터가 개별적으로 저작권 보호를 받지 않아요) 이건 사실 상표 문제였을 겁니다.
남의 작품을 통째로 빨아들이는 것과, 팬들이 좋아하는 캐릭터를 따라 만든 모델 사본을 호스팅하는 것은 본질적으로 다릅니다.
다른 매체였다면 문제조차 되지 않았을 일이라 더 이상해요. 팬들이 영화를 자기 식으로 다시 편집하거나, 팬픽에서 캐릭터를 가져다 쓰거나 하는 데는 이만큼 열을 내는 사람이 없잖아요. 유독 시각 예술에서만 이렇게 흥분하는 게 저는 아주 이상해 보입니다.
앞으로 점점 더 씨름해야 할 중요한 지점이라고 생각합니다. 우리는 어떤 행위를 합법이냐 아니냐, 윤리적이냐 아니냐로만 나누어 생각하려는 경향이 있습니다. 여기에 ‘규모’를 별개의 축으로 넣어야 합니다. 사람 규모에서 하는 일과 기계 규모에서 하는 일은 천지 차이입니다. 사람 규모에서는 인간 경험의 다양성에 보탬이 될 수도 있는 일탈이지만, 기계 규모에서는 사회를 위협하는 왜곡이 됩니다.
https://open3dlab.com/project/04d18c1b-c508-4017-be7b-7669047395bb/
팬이 재현한 게 아니라 노골적인 도둑질이에요. 도둑질입니다.
맞아요. 게다가 사용자들의 침해와 거리를 두는 척조차 하지 않고, 대놓고 부추기고 있어요.
https://www.youtube.com/watch?v=MidugiRfHaY (“암호화된 Unreal Engine 모델 뜯어내기” | Open3DLab)
(사이트 사이드바 광고로 알게 됐어요.)
질문 겸 생각 겸 철학이 하나 있는데요. AES가 지금은 상대적으로 강한 암호화 방식이라면, 암호화 방식이 쉽게 풀릴 때까지 기다렸다가 에셋을 해독하면 안 되나요? 그때쯤이면 게임 에셋도 아주 오래된 물건이 되어 있을 테니 모두가 더 받아들이기 쉬울 수 있어요. 기다리면 아카이브 같은 느낌이 더 나잖아요.
혹시 ‘분산된 인간들은 왜 알아서 적절히 자정하지 않는가?’를 묻고 계신 건가요?
보존이 중요하다는 건 이해합니다. 하지만 솔직히 영어권 웹은 3D 모델이나 2D 이미지 같은 창작 에셋의 희소성은 과대평가하고 금전적 비용은 과소평가하는 경향이 한꺼번에 심한 것 같습니다.
이런 에셋은 하나에 1만 달러쯤 하는 경우가 흔하고, 만드는 데는 열두 시간도 안 걸리기도 합니다. 수확해서 모아 둔 게 아니라, 개인이 작업 지시를 받거나 자기 프로젝트로 인위적으로 만든 물건입니다. 이런 논의를 보면 마치 루브르 소장품 같은 것, 다소 불법적인 수단이 아니면 얻을 수 없는 것을 이야기하는 듯한 느낌이 들고, 그러다 보니 보존이라는 이름으로 어떤 불법 수단까지 용인할 것인가 하는 논의로 흘러갑니다.
아닙니다. 지금 이 순간에도 사람들이 Blender로 만들고 있는 물건입니다. 마우스와 키보드로, 때로는 펜 태블릿으로요. 영미권 인터넷은 아직 수상쩍은 수단을 정당화할 수 있는지를 논할 단계에 와 있지 않다고 생각합니다. 이것들이 사람이 만든 창작물이고 하나하나에 경제적 가치가 있다는 점을 사람들에게 더 자주 알려야 하는 단계입니다.
핵심을 놓치고 계신 것 같습니다. 문제의 아트 에셋은 스튜디오 소유입니다. 네, 공들여 만든 물건이죠. 아주 비싼 기술의 도움을 받아 만듭니다. 전신 스캔, 초당 프레임 수가 높은 카메라 180대를 쓰는 안면 리깅, 모션 캡처 슈트와 소품을 갖춘 본격적인 웨어하우스 스튜디오까지, 모든 걸 동원합니다. 단순한 3D 모델이 아닙니다. 리깅된, 배우의 3D 디지털 트윈입니다. 초상권 등도 협상해서 계약을 맺어야 합니다. 보존이란 데이터를 Blender 씬으로 가공해 바꾸는 게 아니라 있는 그대로 보존하는 것을 말합니다.