[etc] Tesla P4 카드를 이용한 vGPU 구성

곰삼촌   
   조회 5334   추천 0    

안녕하세요?

ESXi 7로 가상화의 세계에 입문을 해서 현재는 proxmox VE로 필요한 정도의 VM을 테스트나 보조적인 수단으로 활용하고 있습니다.

덕분에 원격에서 업무진행도 유연해지고, 시스템 관리 측면에서도 많이 편리해서 최대한 활용을 하기위해 이래저래 공부랍시고 많이 보고 돌아다니다보니, vGPU에 대한 정보를 좀 보았지만 역시 솔루션이 솔루션인지라 가격이 만만치않아서 다른 세상 이야기라고 생각했었습니다.

그런데 최근 eBay에 Tesla P4가 물량이 꽤 많아 나오면서 가격이 괜찮게 성립이 되었고, 저는 GPGPU기반의 AI 연산 이런것보단 이를 활용해서 VM에 GPU Path-Through로 시스템의 퍼포먼스 향상에 활용할 수 있겠다 싶어서 이런식으로 활용해보신 경험이 있으신 분있는지 알고싶어서 이렇게 여쭈어봅니다.

NVIDIA에서 제공한 자료를 보면 최대 vGPU를 8개까지 만들어 쓸수있다고 되어있는데(T4의 경우) 이게 실제 가능한건지요?

물론 가상화 플랫폼(베어메탈 OS)에 vGPU 드라이버가 제대로 로딩이 되어야겠지만 GPU Path-Through 목적으로 활용하셨을때 특별히 문제가 있었다거나 실제 예상과 다른 점이 어떤게 있었는지(Windows나 리눅스 VM) 간단한 조언을 해주시면 감사하겠습니다!


박건 01-10
youtube의 craft computing채널을 찾아보시면 참고가 되실 듯 합니다.
tesla gpu와 proxmox로 게이밍 vm머신 구축을 논한 적이 있던 것으로 기억합니다.
연쿠밍 01-10
ESXi의 경우는 보통 유료인 엔비디아 라이센스서버와 엔비디아 구독이 필요합니다.
Proxmox VE 7의 경우는 엔비디아 Trial드라이버를 긴빠이쳐서 무료로 쓸 수 있습니다.
https://gitlab.com/polloloco/vgpu-proxmox
이 깃랩 가이드를 참조하시면 되요
엔비디아 Trial드라이버에서는 KVM호스트용 드라이버와, 윈도, 리눅스 게스트용 드라이버를 제공합니다.
또한 이 경우에는 VGPU드라이버 패치를 진행하시면 일반 컨슈머 그래픽카드도 쓰실 수 있어요
저희는  Tesla P40도 사용하는데요, 이 경우에는 Resizable BAR (Above 4G Decoding)을 켜줘야했어야 했습니다.
패스스루는 iommu/vt-d켜주면 잘 작동하고요
T4의 경우는 Half Precision도 지원해서, ML돌릴때 좋다는데, 가격이 아직까지 있는편이라 애매하네요
     
곰삼촌 01-10
라이센스 서버나 구독부분은 제가 놓친거 같군요. 역시 뭐든 공짜는 없는 법같습니다 ㅜ.ㅜ
          
연쿠밍 01-10
그래서 저 개인적으로도, 업무적으로도 ESXi인프라스트럭쳐는 포기했어요 ㅎㅎ
               
곰삼촌 01-10
유튜브나 Reddit에 왜 proxmox 기반 VM 구축사례가 많은 이유를 알겠네요. 좋은 정보 감사합니다.
     
dateno1 01-10
ESXi만 그런게 아니라 기본적으로 Nvidia vGPU는 다 라이센스 필요합니다

다만 체험 기간내에 미리 할당해둔건 기간 끝나도 그대로 작동했을껍니다 (구성등 변경 불가)
gmltj 01-10
가능은 한데..... vGPU 를 쓰려면 nvidia 에 비용을 내서 라이센스를 구매해야 됩니다.... vpgu 라이센스 비용이 없는 것은 구형 grid k1, k2 인데 너무 오래된 모델이라 (케플러 지포스 600번대 급)....
     
dateno1 01-10
성능 이전에 요즘 버전이랑 호환조차...
dateno1 01-10
그정돈 장터에도 간간히 보입니다

문젠 라이센스죠

하드웨어자첸 얼마 안 해도 라이센스 서버용 라이센스 금액이 꽤 비싸요 (거기다 영구도 아님)

저거땜에 하드웨어 싼거 보여도 군침만 삼키고 있습니다




제목Page 2/120
2015-12   432013   백메가
2014-05   3854567   정은준1
01-27   11982   준14
01-25   13203   화정큐삼
01-25   12927   세솔아
01-20   15434   컬러
01-19   11331   뚜비는뚠뚠
01-16   11597   FOXBI
01-15   11550   메탈릭
01-13   12294   osthek83
01-12   11813   세솔아
01-11   9320   막내의하루
01-11   7794   회상2
01-10   5968   Dreaday
01-10   5335   곰삼촌
01-10   3516   폭풍간지꽃…
01-07   20294   닭아야옹해바
2022-12   11384   쪼커
2022-12   12881   일리케
2022-12   12830   낄낄맨
2022-12   12354   쪼커
2022-12   14328   쪼커