안녕하세요?
ESXi 7로 가상화의 세계에 입문을 해서 현재는 proxmox VE로 필요한 정도의 VM을 테스트나 보조적인 수단으로 활용하고 있습니다.
덕분에 원격에서 업무진행도 유연해지고, 시스템 관리 측면에서도 많이 편리해서 최대한 활용을 하기위해 이래저래 공부랍시고 많이 보고 돌아다니다보니, vGPU에 대한 정보를 좀 보았지만 역시 솔루션이 솔루션인지라 가격이 만만치않아서 다른 세상 이야기라고 생각했었습니다.
그런데 최근 eBay에 Tesla P4가 물량이 꽤 많아 나오면서 가격이 괜찮게 성립이 되었고, 저는 GPGPU기반의 AI 연산 이런것보단 이를 활용해서 VM에 GPU Path-Through로 시스템의 퍼포먼스 향상에 활용할 수 있겠다 싶어서 이런식으로 활용해보신 경험이 있으신 분있는지 알고싶어서 이렇게 여쭈어봅니다.NVIDIA에서 제공한 자료를 보면 최대 vGPU를 8개까지 만들어 쓸수있다고 되어있는데(T4의 경우) 이게 실제 가능한건지요?
물론 가상화 플랫폼(베어메탈 OS)에 vGPU 드라이버가 제대로 로딩이 되어야겠지만 GPU Path-Through 목적으로 활용하셨을때 특별히 문제가 있었다거나 실제 예상과 다른 점이 어떤게 있었는지(Windows나 리눅스 VM) 간단한 조언을 해주시면 감사하겠습니다!
tesla gpu와 proxmox로 게이밍 vm머신 구축을 논한 적이 있던 것으로 기억합니다.
Proxmox VE 7의 경우는 엔비디아 Trial드라이버를 긴빠이쳐서 무료로 쓸 수 있습니다.
https://gitlab.com/polloloco/vgpu-proxmox
이 깃랩 가이드를 참조하시면 되요
엔비디아 Trial드라이버에서는 KVM호스트용 드라이버와, 윈도, 리눅스 게스트용 드라이버를 제공합니다.
또한 이 경우에는 VGPU드라이버 패치를 진행하시면 일반 컨슈머 그래픽카드도 쓰실 수 있어요
저희는 Tesla P40도 사용하는데요, 이 경우에는 Resizable BAR (Above 4G Decoding)을 켜줘야했어야 했습니다.
패스스루는 iommu/vt-d켜주면 잘 작동하고요
T4의 경우는 Half Precision도 지원해서, ML돌릴때 좋다는데, 가격이 아직까지 있는편이라 애매하네요
다만 체험 기간내에 미리 할당해둔건 기간 끝나도 그대로 작동했을껍니다 (구성등 변경 불가)
문젠 라이센스죠
하드웨어자첸 얼마 안 해도 라이센스 서버용 라이센스 금액이 꽤 비싸요 (거기다 영구도 아님)
저거땜에 하드웨어 싼거 보여도 군침만 삼키고 있습니다