요약
싱킹 머신스 랩이 2세대 모델 Inkling 2 Small을 공개하고 다음 주 가중치를 Apache 2.0으로 풀겠다고 했습니다.
미라 무라티가 세운 싱킹 머신스 랩의 두 번째 세대 모델입니다. 총 5,940억 개 매개변수 가운데 170억 개만 켜서 쓰는 전문가 혼합(MoE, 입력마다 일부 하위 신경망만 쓰는 구조) 모델이고, 이미지 입력을 받습니다. 우선은 자사 플랫폼 Tinker에서만 쓸 수 있습니다.
왜 중요한가
- 학습 전체를 NVFP4(엔비디아 블랙웰 GPU의 4비트 부동소수점 형식)로 돌리고도 개방형 모델 상위권 성능을 냈습니다.
- 가중치가 풀리면 누구나 내려받아 고쳐 쓸 수 있는 대형 멀티모달 모델이 하나 늘어납니다.
- 가중치 공개 전에 외부 안전 시험과 레드팀(공격자 입장에서 약점을 찾는 점검)을 먼저 거치는 방식을 택했습니다.
핵심 내용
- 아티피셜 애널리시스 지능 지수에서 31점으로 이전 모델을 크게 앞섰지만, DeepSeek-V4.1-Flash(32.6)와 GLM 5.3(31.7)보다는 낮습니다.
- 사전 학습은 8.4조 토큰을 GB300 NVL72 랙에서 68시간 만에 마쳤고, 이후 최대 100만 토큰 문맥으로 추가 학습했습니다.
- 강화 학습은 코딩·사무·과학·비전·안전 과제를 한 번에 묶어 GPU 2,048개로 9일 동안 진행했습니다.
- 내부 평가의 잘못된 행동 비율은 1세대의 66.8에서 14.9로 줄었지만, GPT-6.1 Sol(0.8)에는 못 미친다고 인정했습니다.
- 답이 장황하고 도구를 잘못 고르는 일이 있으며, 오디오는 지원하지 않는다는 한계도 밝혔습니다.
HN 반응
- 자사가 1등이 아닌 결과까지 담은 비교표를 반기며, 미국 개방형 모델이 빠르게 따라붙는다고 평가한 이용자가 많았습니다.
- 반면 DeepSeek V4.1을 넘지 못했고, 매개변수가 더 많은데도 MiniMax M3.1 Flash에 못 미친다는 반론이 나왔습니다.
오늘날 최고의 오픈 모델들은 몇 달 전부터 대부분의 지식 노동을 해낼 만큼 "충분히 좋은" 수준이었습니다. 이게 미국산으로는 처음으로 그 정도가 되는 모델일지도 모릅니다. 이건 큰 일이에요.
12개월 안에 미국 기반 오픈 웨이트 Opus 5.5가 나올 겁니다.
그럴 가능성은 낮아 보입니다. 그 근처까지만 가는 오픈 웨이트라도 나오면 좋겠네요. 그것만으로도 대단할 거예요.
프런티어 모델 얘기가 나올 때마다 다들 그렇게 말하지만, 오픈 모델은 그때마다 몇 달 안에 따라잡았어요.
오픈 모델이 따라잡는 거지, 미국산 오픈 모델은 훨씬 더디게 따라잡습니다. 인센티브도 문화도 다르니까요.
왜 그럴 가능성이 낮다는 거죠? 프런티어와 오픈 웨이트의 격차는 한동안 12개월보다 훨씬 짧았는데요.
미국산 오픈 웨이트는 훨씬 떨어집니다. 프런티어와의 격차가 12개월보다 한참 더 벌어져 있어요.
프런티어와 오픈 웨이트라면 그렇죠.
프런티어와 미국산 오픈 웨이트는 아닙니다.
게다가 미국의 오픈 웨이트 제공업체가 Opus 5.5 근처까지 가면 갑자기 인수되거나 오픈을 접을 것 같다는 생각도 들고요.
Inception의 Mercury 3와 Particle-1의 모델도 좋습니다.
(Inception이 미국 회사라고 가정하고 있는데, 솔직히 확실하지는 않습니다.)
동의해요. Mercury 3는 요즘 제가 제일 좋아하는 모델 중 하나예요... 속도 덕분에 삶의 질이 확 올라가거든요.
여기에 Poolside(Laguna S)도 추가해도 될까요? 무료 체험 기간에 많이 써 봤습니다(아쉽게도 지금은 끝난 것 같네요).-
제 용도에서는 Mercury Decide가 훌륭했습니다. 제가 시켜 본 작업에서는 Jev보다 나았어요. Inception이 정말 잘 만들었더군요.
후기 고맙네요, Mercury 서비스 칭찬하는 걸 좋아하는 가입 15일 된 HN 계정님.
저는 그쪽과 전혀 관련이 없습니다. 네, 저는 그 회사가 마음에 들고, 지금은 의사결정 모델들을 비교해 보는 게 재미있습니다.
못 믿겠다고요? 제 이름을 구글에서 검색해 보세요.
Muse Glimmer도 꽤 좋습니다.
어떤 점이 좋은지 예를 좀 들어 주실 수 있을까요? 감사합니다.
세상에, 결과가 정말 대단해 보입니다. 처음 가중치가 공개됐을 때는 그 팀이 참 안쓰러웠어요. 그 무렵 다른 훌륭한 모델이 많이 쏟아져 나와서, 단 한두 주라도 빛을 볼 기회가 없었거든요. 그런데 이 결과를 보니 정말 물건이고, DSv4.1-F1017의 괜찮은 대안이 될 것 같습니다. 게다가 한 연구소가 여러 모델을 두고 내놓은 비교 중에서는 제가 본 것 중 가장 훌륭하고 자세합니다.
국산 오픈 웨이트 모델로서 훌륭합니다.
수억 달러도 없이, 작은 팀이 9일 만에 DeepSeek 4.1을 이길 수 있는 모델과 그걸 튜닝할 플랫폼까지 만들어 냈어요.
앞날이 기대됩니다.
DS v4.1을 이기지 못합니다. 게다가 이쪽은 중국 어느 기업보다 컴퓨트 용량이 훨씬 많은데도, 파라미터가 2.7배(596B)나 더 많으면서 MiniMax M3.1 Flash(220B)조차 못 이기고 있어요.
MiniMax M3.1 Flash는 총 파라미터가 428B라서 크기 비율은 1.4배 정도입니다. 모델 카드는 여기 있습니다: https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash
HF가 safetensors 메타데이터로 계산한 숫자는 틀린 경우가 많습니다(예를 들어 u8로 묶은 4비트 가중치를 하나당 절반 개로 셉니다). 그래서 실제 모델 카드의 숫자를 봐야 해요.
중국 연구소들이 발표하는 컴퓨트 수치는 믿지 않겠습니다. 싱가포르로 간 그 엔비디아 주문들이 어딘가로는 갔을 테니까요.
제가 틀렸다면 바로잡아 주세요. 그런데 Inkling은 OpenAI 출신 임원이 세운, 자금이 아주 넉넉한 스타트업이 만든 거 아닌가요? 제 기억으로는 그런데요.
맞습니다. 미라 무라티의 Thinking Machines예요. 작년에 100억 달러 가치로 20억 달러를 조달한 데 이어, 이번에는 400억 달러 가치로 50억 달러를 조달하려 한다고 합니다.
dsv4.1을 전혀 이기지 못합니다.
여기서 가장 중요한 점은 학습을 전부 nvfp4로 했다는 겁니다. 이 정밀도로 학습된 모델 중에서는 지금까지 단연 최고이고, 그래서 이렇게 빠르게 만들 수 있었던 거예요.
오, 좋네요. Spark에서 잘 돌아가겠어요.
수정: 아니네요, 좀 크군요.
결과를 보고하는 팀이 뚜렷한 승자가 아닌 벤치마크를 보니 아주 신선합니다. GLM 5.3 flash보다 낫다고 주장하는데, 벤치마크 밖에서도 그게 유지된다면 인상적일 겁니다.
아직 SOTA인가요? 아니죠. 그럼 국산 오픈 웨이트 연구소들이 놀라운 속도를 보여 주고 있나요? 부정할 수 없습니다.
증류는 모든 배를 띄워 올리는 밀물입니다.
미라 무라티와 존 슐먼이 정말로 자기들이 뭘 하는지 알고 있다면 어떨까요?
출시까지 걸린 시간과 이 연구소들이 설립된 시점을 보면, 그 지연은 내부의 제대로 된 (RL 등) 도구를 갖추느라 생긴 것이었을 가능성이 훨씬 높다고 봅니다.