탈옥한 PS5에서 돌리는 Llama.cpp: 어떤 GGUF 모델이든 콘솔에서 네이티브로 실행합니다

Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

github.com/cobanov ▲ 185 댓글 47 Anon84

요약

탈옥한 PS5에서 Llama.cpp를 돌려 집 안 기기가 함께 쓰는 언어 모델 서버로 만듭니다.

GitHub 사용자 cobanov가 공개한 오픈소스 프로젝트 PS5LM입니다. PC나 클라우드, 계정 없이 콘솔 혼자 GGUF(Llama.cpp가 쓰는 모델 파일 형식) 모델을 띄웁니다. 같은 네트워크의 기기는 이 모델을 불러 씁니다.

왜 중요한가

  • 게임만 돌리던 PS5가 OpenAI·Anthropic 호환 API를 내주는 로컬 AI 서버가 됩니다.
  • 27B급 모델도 2비트 양자화(가중치를 적은 비트로 줄이는 압축)로 콘솔 안에서 돌아갑니다.

핵심 내용

  • Llama.cpp의 Vulkan 백엔드로 콘솔의 RDNA 2 GPU를 쓰고, 공유 메모리 11.4GB를 모델에 씁니다.
  • PS5 Slim에서 Qwen 3.5 9B는 초당 55토큰, Qwen 3.8 27B는 64k 컨텍스트에서 초당 약 20토큰을 냅니다.
  • /v1/chat/completions와 /v1/messages를 지원해 Claude Code도 이 서버에 붙여 쓸 수 있습니다.
  • 펌웨어 7.00~13.60의 탈옥한 PS5와 etaHEN 같은 페이로드(탈옥 뒤 올리는 실행 파일)가 필요합니다.
  • 남은 메모리에 맞춰 컨텍스트 길이를 정하고, Hugging Face에서 모델을 바로 내려받습니다.

HN 반응

  • 소니가 저장소를 내릴 수 있다는 우려에, 해적판이 아니면 관심 없을 것이라거나 어디서든 삭제 요청은 피하기 어렵다는 반론이 나왔습니다.
  • 같은 값이면 PC가 낫다는 의견에 PS5의 GPU가 저가 미니 PC보다 훨씬 빠르다는 반박이 맞섰고, 서버 감시 같은 상시 작업에 쓸 만하다는 평가도 있었습니다.

댓글

30개 표시 · 전체 47개
  1. Rabbit504030201 HN

    이 프로젝트의 주 저장소를 GitHub에 두면 안 됩니다. 농담이 아닙니다. 플레이스테이션 5는 지나간 시대의 골동품이 아니고, 소니가 언제든 페이지를 내려 버릴 수 있습니다.

    이런 프로젝트는 기업 통제에서 먼 호스팅을 기본으로 삼아야 합니다. 첫 번째 조건은 직접 소유한 인터넷 도메인입니다.

  2. Retr0id HN

    소니가 이 탈옥 자체를 달갑게 여기지 않는 건 분명하겠죠. 그래도 llama.cpp 돌리는 사람들한테는 눈곱만큼도 관심 없을 거예요. 왜 신경 쓰겠어요? 게임 불법 복제를 안 한다니 오히려 반갑겠죠.

  3. xp84 HN

    그런데 PS5 하드웨어에 보조금이 있긴 한가요? 실제든 가상이든요. 다시 말해 지금 권장 소비자가격이, 소니가 게임 소프트웨어 사업을 전혀 하지 않는 세상에서 매길 가격보다 낮은 건가요? 게임 판매로 추가 마진을 남길 거라고 전제하고서요. 어떤 관리자는 하드웨어를 게임 아닌 용도로 돌려 쓰는 게 말하자면 자기 가족 밥줄을 끊는 일이라고 주장할 수도 있겠다 싶습니다. 그렇다면 이런 용도가 유행해서 PS5가 불티나게 팔리는데 정작 게임은 아무도 안 사는 상황은 소니가 바라지 않겠죠.

  4. minimaxir HN

    2026년에 삭제 요청이나 DMCA를 피할 현실적인 방법은 없습니다. TOR 같은 편법을 쓰지 않는 한은요. 도메인을 직접 소유해도 소니는 프로젝트의 웹 호스트에 DMCA를 걸면 그만이고요.

  5. agoodusername63 HN

    DMCA를 신경 쓰지 않는 나라에 있는 공개 git 호스트가 여럿 있습니다.

    그런 나라의 업체에서 VPS를 빌려 gitlab 같은 걸 직접 돌리는 것도 얼마든지 가능하고요.

    제일 골치 아픈 건 수상쩍은 URL을 공유해야 한다는 점인데, DMCA를 피해 다니는 인터넷 구석에서는 원래 감수해야 하는 부분입니다.

  6. bubbluppugus HN

    git은 분산 프로토콜이라 배포가 꼭 github.com을 통해야 하는 건 아닙니다.

    개인 키와 비공개 엔드포인트만 있으면 충분합니다.

  7. kevmo314 HN

    아뇨, 방법이 있어요. 이 저장소는 이미 최신 학습 데이터 덤프에 빨려 들어갔을 게 뻔하거든요. 다음 세대 모델들이 비슷한 코드를 신나게 뱉어낼 테니 소니가 뭘 하든 소용없죠!

  8. perching_aix HN

    집에서 만드는 불멸이네요.

  9. LoganDark HN

    Those projects should default to hosts less geared toward corporate governancy; custom internet domain being the first requirement.

    (이런 프로젝트는 기업 통제에서 먼 호스팅을 기본으로 삼아야 합니다. 첫 번째 조건은 직접 소유한 인터넷 도메인입니다.)

    이런 걸 올려 두고도 삭제당하지 않을 곳이 열린 인터넷 어디에 있을지 도무지 떠오르지 않네요.

  10. xnx HN

    PS5를 살 생각은 한 번도 안 했는데, 해커들이 꽁꽁 잠긴 기기를 범용 컴퓨터로 바꿔 놓은 걸 보니 진지하게 고민되기 시작했어요.

  11. stuxnet79 HN

    그 잠긴 기기는 같은 가격으로 조립한 PC에 비하면 사양이 한참 떨어집니다.

  12. throwaway240403 HN

    램 종말 사태(RAMpocalypse)가 닥친 지금도 그 말이 맞나요?

  13. nvme0n1p1 HN

    PS5가 600달러입니다. 램 용량이 같은 이 무작위 미니 PC는 385달러고요. https://www.bee-link.com/products/beelink-eq14-n150

    PS5가 더 나은 사양 하나쯤은 누가 짚어 주겠지만, 제가 방금 들인 15초보다 조금만 더 찾아보면 남는 200달러로 그 차이는 충분히 메울 수 있습니다.

    (부품을 사서 직접 조립해도 되고요)

  14. p1necone HN

    I'm sure someone will point out some spec that's better on the PS5

    (PS5가 더 나은 사양 하나쯤은 누가 짚어 주겠지만)

    비교 자체가 안 됩니다. GPU 성능은 PS5가 한 자릿수 배수가 아니라 자릿수가 다르게 앞서요.

    램이 중요하기는 하지만 LLM을 돌리는 데 필요한 건 램만이 아닙니다. 그 N150으로는 아주 작은 모델이 아니면 쓸 만한 속도가 나오지 않고, 램을 다 쓰는 모델은 말할 것도 없습니다. PS5의 GPU는 약 25배 빠릅니다. 게임을 돌릴 때는 특정 게임에 "충분한" 램만 있으면 그 이상은 성능에 거의 영향이 없고요.

    다만 같은 가격이면 PS5보다 훨씬 빠른 PC를 만들 수 있다는 말은 맞습니다. GPU를 뺀 나머지를 250달러쯤에 구하고 16GB 9060xt(32비트 기준 약 25 테라플롭스, PS5 GPU는 32비트 기준 약 10 테라플롭스)를 350달러쯤에 얹으면 이론상 더 낫습니다. PS5의 GPU는 출시 당시 중상급 PC GPU와 비슷한 수준이었지만, 그게 벌써 5년 전 얘기니까요.

  15. kennywinker HN

    2026년에 16GB 9060xt를 350달러에 어디서 구하세요? 중고 얘기가 아니라면 바닥이 500달러 같은데요.

  16. yathern HN

    N150은 게임용으로 쓸 물건이 아니에요. 300달러대 중반 예산이라면 지금 구할 수 있는 최고의 신품 미니 PC는 아마 이 제품[1]일 겁니다. Ryzen 7 7735U(680M 내장 그래픽)에 램 16GB예요. 성능이 아주 좋지는 않지만 저도 비슷한 걸 에뮬레이터 게임이나 스팀 인디 게임용으로 쓰고 있고, SteamOS를 깔면 거실용으로 훌륭합니다. 예산을 530달러까지 늘리면 Ryzen 7 255(780M 내장 그래픽)가 들어간 이 제품[2]을 살 수 있고, 최신 게임도 (많은 경우 낮은 옵션으로) 돌아갑니다.

    [1] https://www.amazon.com/dp/B0GGM6BKN9 [2] https://www.amazon.com/dp/B0FX2TV3HX

    염치없지만 광고 하나 하자면, 바로 이런 용도로 최고의 미니 PC 할인 상품을 꼼꼼히 순위 매겨 https://MiniPCs.zip 에 올려 두고 있어요.

  17. poglet HN

    호주 지역 아마존, 이베이랑 알리익스프레스도 넣어 주실 수 있나요? 정말 좋은 사이트예요. 소스도 공개되어 있나요?

  18. kcb HN

    N150이 385달러라니 농담이죠?

  19. gambiting HN

    지금처럼 가격이 오른 상황에서도 4K 블루레이 드라이브까지 달린 더 좋은 사양의 PC를 569파운드에 조립할 수 있다고요? 어떻게 하는지 궁금하네요.

  20. jjcm HN

    qwen 3.8 27b를 2비트 양자화로만 돌릴 수 있어도 충분히 쓸 만합니다. 평균보다 살짝 낮은 지능으로 토큰을 끊임없이 뽑아내기만 하면 되는 작업이라면 특히 그렇고요. 예를 들면 이런 일에 딱입니다.

    • 서버 오류율 모니터링

    • 보안 영상 검토

    • 식물 생장 관찰 및 물 주기 제어

    등등. 오래 도는 작업이라면 이제 PS5 한 대 붙여 놓으면 됩니다. 전기료 하루 70센트로 하루에 출력 토큰 약 200만 개(3.5달러어치)를 얻는 셈이고요. 집에 놀고 있는 PS5가 있다면 나쁘지 않죠. 2비트도 그리 나쁘지 않습니다. 풀 정밀도 27b 정확도의 약 80%라서 GPT-5 수준의 지능쯤 되는데, 솔직히 이것만으로도 놀라운 일이에요.

  21. pwython HN

    이걸 생각하면 LLM으로 움직이는 NPC는 정말 멋질 것 같아요. PC 게임(PUBG Ally)에서 제한적으로 시험된 적이 있는데, 앞으로는 이게 표준이 되지 않을까 싶어요.

  22. greggsy HN

    AI 동반자를 두고 그렇게 고민을 해 놓고는, 결국 우리가 원한 건 같이 게임할 상대였다는 걸 깨달았네요.

  23. tiahura HN

    Fortnite의 다스 베이더가 이미 했잖아요.

  24. shiftpgdn HN

    BC250 카드에서도 이론상 돌아가야 합니다. 암호화폐 채굴용이던 메인보드로, AMD의 "Cyan Skillfish" APU를 중심으로 만들어졌어요. 이 APU는 플레이스테이션 5 전용 칩을 축소한 버전이고요. 지금도 이베이에서 150~200달러에 구할 수 있습니다.

  25. haunter HN

    150달러는커녕 200달러에도 구하기 힘들걸요.

    그 가격대에서 조금만 더 보태면 RTX 3060을 사는 게 훨씬 덜 번거로워요(DLSS, DLAA 같은 것도 쓸 수 있고요).

  26. shiftpgdn HN

    저는 몇 달 전에 배송비 포함 150달러에 샀고, 돌리는 데 필요한 부품은 40~50달러쯤 더 들었어요. 제가 사는 곳에서 RTX 3060은 400달러가 넘고, 그걸 꽂을 컴퓨터도 따로 있어야 하잖아요!

  27. LoganDark HN

    방금 이베이를 열어 봤는데 여기서는 200달러쯤 하네요. "modded BIOS"(그게 뭔지는 모르겠지만)가 붙으면 220달러고요.

  28. greggsy HN

    바이오스 플래시는 USB 메모리 하나로 10분이면 끝나요.
    실수하기도 어렵지만, 그게 불안해서 20달러 더 내는 사람도 있겠죠.

  29. LoganDark HN

    판매자가 그냥 귀찮아서 원래대로 안 돌려놓은 거라고 생각해요.

  30. kevmo314 HN

    앤트로픽이 꿈꾸는 자기 복제 모델이 PS5를 장악하기 시작할 날도 머지않았네요!

Hacker News에서 보기 ↗