쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다
GMKtec Launches EVO-X2 Mini PC with Ryzen AI Max+ 395 & AMD CEO Lisa Su's Autograph
미니 pc 인데 deepseek r1 performance ???? rtx 5080 하구 비교???
혹시 아시는 분 설명좀 부탁합니다
가격은 200만원 아래입니다
쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다
미니 pc 인데 deepseek r1 performance ???? rtx 5080 하구 비교???
혹시 아시는 분 설명좀 부탁합니다
가격은 200만원 아래입니다
128GB의 Unified 메모리가 있다면, 모델을 메모리 복사 없이 그냥 연산할 수 있는 것이죠. 그래서 둘을 비교하더라구요.
본인이 공짜로 노가다 해서 OS설치, 필요한 프로그램을 돌릴 환경구축,프로그램 구동및 튜닝까지 전부 할수 있다면 모를까??
그냥 단순히 이 하드웨어 사면 저 프로그램 돌아가요 라는 것은 말이 안됩니다..
AI 쪽에서 어느정도 검증되고 결과를 내어주는 엔비디아도 하드웨어 가격말고 뒤로 숨어 있는 전용 소프웨어 라이브러리 등이 상용으로 존재 하는데 이 가격이 보통 하나의 프로잭트를 하려면 하드웨어의 2배 넘는 돈이 들어 갈수도 있습니다.. 이런 전용 프로그램 없이는 프로잭트를 하지도 못하고 이것들을 그래도 알고 있는 개발자도 필요합니다..
단일 5090과 비교하는 것은 공정하지도, 정확하지도 않은 비교이지만, 아무래도 엔비디아의 project digits에 대응하는 제품으로 포지셔닝 하려는 것 같습니다.
물론, CPU 내장 NPU 성능은 아무래도 좋은 문제이고, CUDA 지원도 안 되며, 네트워크 연결성도 부족하지만 뭐..
5080보다 빠른건 모델 IO 문제 인데..
저라면 차라리 DGX spark 사겠습니다.
같은 값이면 Apple M4 Pro나 M3 Ultra..
혹은 그냥 5090 1장 달려있는 PC 마련할 것 같습니다.
evo-x2 2개를 묶을 수도 있나요
Deepseek 돌릴만한 128GB 모델은 1999 달러입니다. 2,732,952원 + 513,794원 하면 거의 330 만원정도 하구요.
이러면 생각하신 가성비는 안나올겁니다.
5090도 충분히 좋지만.. 간단한 학습 테스트와 추론이 가능한, 그리고 vram이 128이라는 엄청난 자율성이 있는 Spark가 눈이 가더라고요..
저렴하게 대용량 비됴램처럼 써먹을 순 있지만, 내장 그래픽의 성능이 문제인건지 토큰 체크해보면 기어다녀요
극한으로 양자화시킨 Quant를 써야합니다(1.5비트 이하) 이럴바에는 좀더 경량모델이 낫습니다.
2. 5080과의 비교는 무의미한것이 VRAM의 한계를 넘어 DRAM으로 데이터가 넘어가는 순간 일반PC는 학습&추론 속도는 기어가므로 악의적인 비교라고 밖에 할말이 없습니다. 물론 5080 줄줄히 엮으면 무조건 GPU승리죠
3. 암드 395건 엔비디아 스파크건 대놓고 추론에 필요한 메모리 대역폭이 최악(250GB/s)이라 몇볓분들이 비하하는 맥보다도 훨씬 못할 가능성이높습니다.
4. 다만 작고 가볍고 전기 조금먹아도 일단 모델이 돌아간다는것는 큰 장점이기도 합니다. 학습은 그냥 클라우드 H200에서 돌리는게 저렴라하더라고요
5. 추론에 몰빵하신다면 EPYC이나 사파니어래피즈 ES CPU에 DDR5 (8~12)채널 서버 + 중고 3090하나 꽂는게 가성비로는 최고입니다.