ESXI + 패스스루한 GPU로는 병렬처리가 불가능한가요?

PDS more

검색 목록

쓰기

ESXI + 패스스루한 GPU로는 병렬처리가 불가능한가요?

sam0712

03-27

2024-03-27 17:17:09

조회 607 추천 0

안녕Ȣ16;세요?

최근에 ESXI를 구축Ȣ16;고 특1221; 가상환ᅆ1;에 GPU를 2대 패스스루 해.160;었습니다.

딥러닝도1328; 할ƺ16; 사용1012;1328; 해보고1080;었ǉ16;데요

1060;상Ȣ16;,172; GPU1 번1004;/196; Ȣ17;습Ȣ16;ǋ12; 도1473; GPU2에 특1221; 업무를 할Ǌ17;Ȣ16;니까 GPU11060; 멈춥니다.(1453;1648;ǉ16; 않습니다.)

1060;후 GPU2에 할Ǌ17;.108; 업무가 -149;나면 GPU11060; 다시 ᇼ1;1089;Ȣ16;기 시1089;합니다.

관/144;.108; 1060;슈를 찾아보/140;해도 뭔가 1096; 안나와서 1656;문드/140;봅니다.

ESXI에 gpu를 2대 패스스루Ȣ16;면 원래 병/148;처리가 안.104;ǉ16;,152;까요??

짧은글 일수록 신중하게.



sam0712 03-27 좀 더 찾아보니 다들 된다는것 같네요.. 다른문제인가봅니다.. 연구해보겠습니다. 좀 더 찾아보니 다들 된다는것 같네요.. 다른문제인가봅니다.. 연구해보겠습니다.



제온프로 03-27 가장 중요한 것은 메인보드 인데..정보가 없네요.. 가상화지원 PCIe : SR-IOV 설정이 되어 있나 보세요.. 델서버나 HP 서버는 기본값이 Enable 인데요.. ESXi support for Intel iGPU with SR-IOV https://williamlam.com/2023/11/esxi-support-for-intel-igpu-with-sr-iov.html 가장 중요한 것은 메인보드 인데..정보가 없네요.. 가상화지원 PCIe : SR-IOV 설정이 되어 있나 보세요.. 델서버나 HP 서버는 기본값이 Enable 인데요.. ESXi support for Intel iGPU with SR-IOV https://williamlam.com/2023/11/esxi-support-for-intel-igpu-with-sr-iov.html



sam0712 03-27 패스스루를 끄고 SR-iOV로 가상장치화 한다음 사용해보라는 말씀이신것이죠~? 패스스루를 끄고 SR-iOV로 가상장치화 한다음 사용해보라는 말씀이신것이죠~?



송주환 03-27 NVAIE 라이센스를 구매했다면 맞는 말이지만, 아니라면 그렇지 않아요 NVAIE 라이센스를 구매했다면 맞는 말이지만, 아니라면 그렇지 않아요



sam0712 03-28 NVAIE라이센스라 하심은 vGPU용 라이센스를 말씀하시는게 맞으실까요? NVAIE라이센스라 하심은 vGPU용 라이센스를 말씀하시는게 맞으실까요?



송주환 03-28 NVAIE와 vGPU는 서로 다른 라이센스입니다. Compute Profile을 사용하려면 NVAIE를 구매해야 합니다. NVAIE와 vGPU는 서로 다른 라이센스입니다. Compute Profile을 사용하려면 NVAIE를 구매해야 합니다.



dateno1 03-27 딱히 큰 문제 없었습니다 게스트 입장에선 그냥 그래픽이 2개 있는것뿐입니다 딱히 큰 문제 없었습니다 게스트 입장에선 그냥 그래픽이 2개 있는것뿐입니다



sam0712 03-28 그럴거같은데 왜 자꾸 동시에 일하라고하면 한명이 싫다고 안하고있을까요ㅠㅠ 그럴거같은데 왜 자꾸 동시에 일하라고하면 한명이 싫다고 안하고있을까요ㅠㅠ



트니아빠 03-27 멈춘다는 것은 처리 속도가 현저하게 늦어진다는 것일까요? 특정 업무가 무엇인지는 모르지만, 병목 현상을 일으킬만한 무엇인가 있지 않을까요? 멈춘다는 것은 처리 속도가 현저하게 늦어진다는 것일까요? 특정 업무가 무엇인지는 모르지만, 병목 현상을 일으킬만한 무엇인가 있지 않을까요?



sam0712 03-28 아예 처리가 멈추는듯 합니다. 딥러닝 학습을 진행시킬때 model A를 gpu1번에, model B를 gpu2번에 학습을 시킨다 하면, gpu1에서 잘 학습되던것이 gpu2가 학습을 시작한시점부터 학습을 종료할때까지 아예 돌아가지 않습니다. (사용율 0%) 동일한 코드를 esxi가아닌 일반 pc에서 돌리는경우 문제없이 두대의 gpu에서 잘 동작하기 때문에 코드문제는 아니지않을까 싶습니다. 아예 처리가 멈추는듯 합니다. 딥러닝 학습을 진행시킬때 model A를 gpu1번에, model B를 gpu2번에 학습을 시킨다 하면, gpu1에서 잘 학습되던것이 gpu2가 학습을 시작한시점부터 학습을 종료할때까지 아예 돌아가지 않습니다. (사용율 0%) 동일한 코드를 esxi가아닌 일반 pc에서 돌리는경우 문제없이 두대의 gpu에서 잘 동작하기 때문에 코드문제는 아니지않을까 싶습니다.



서울I김동수 03-28 vram 이 16gb 넘어가나요? 그러면 별도로 세팅해줘야 하는것들이 있습니다. https://octo.vmware.com/enable-compute-accelerators-vsphere-6-5-machine-learning-hpc-workloads/ 덤으로 반드시 uefi부팅 설정도 되어있어야 합니다. vram 이 16gb 넘어가나요? 그러면 별도로 세팅해줘야 하는것들이 있습니다. https://octo.vmware.com/enable-compute-accelerators-vsphere-6-5-machine-learning-hpc-workloads/ 덤으로 반드시 uefi부팅 설정도 되어있어야 합니다.



sam0712 03-28 답글 감사합니다. 해당설정을 하지않는경우 GPU를 사용할수가없어서 모두 해둔상태입니다! 답글 감사합니다. 해당설정을 하지않는경우 GPU를 사용할수가없어서 모두 해둔상태입니다!



민호양 03-28 nvlink나 nvswitch말하시는거 아니겠지요? 단순히 2개인데 안돈다는건가요? 각각 python process를 할당하면 두개는 독립적으로는 도나요? nvlink나 nvswitch말하시는거 아니겠지요? 단순히 2개인데 안돈다는건가요? 각각 python process를 할당하면 두개는 독립적으로는 도나요?

로그인 하시면 댓글을 남길 수 있습니다

검색 목록

쓰기

QnA

쓰기

15/436

번호	제목Page 15/436	글쓴이	날짜	조회	추천
8436	AMD Threadripper pro VS Epyc (8)	제로원소프트	03-29	826	0
AMD Threadripper pro VS Epyc (8) 03-29 826 1 제로원소프트
8435	AMD 그래픽 카드 드라이버 (15)	미담	03-29	929	0
AMD 그래픽 카드 드라이버 (15) 03-29 929 1 미담
8434	듀얼 cpu 구성중 파워 이걸로 충분할까요? (6)	품격의상징	03-29	695	0
듀얼 cpu 구성중 파워 이걸로 충분할까요? (6) 03-29 695 1 품격의상징
8433	재인증하드디스크 (5)	미담	03-28	868	0
재인증하드디스크 (5) 03-28 868 1 미담
8432	EDSFF 규격 관련 게시물은 왜 갑자기 삭제? (1)	엠브리오	03-28	687	0
EDSFF 규격 관련 게시물은 왜 갑자기 삭제? (1) 03-28 687 1 엠브리오
8431	idc 대역폭 비용.. (7)	두리안	03-28	782	0
idc 대역폭 비용.. (7) 03-28 782 1 두리안
8430	[질문] PD지원 안하는 노트북에 PD충전기 사용시 작동 여부 (21)	alpha099	03-28	891	0
[질문] PD지원 안하는 노트북에 PD충전기 … (21) 03-28 891 1 alpha099
8429	프린터 사용을 위한 VPN 서버 구축 (27)	GoverZG	03-28	885	0
프린터 사용을 위한 VPN 서버 구축 (27) 03-28 885 1 GoverZG
8428	데스크탑 무선랜 안데나용 단자 구입처 또는 규격 (4)	무쏘뿔처럼	03-28	561	0
데스크탑 무선랜 안데나용 단자 구입처 또… (4) 03-28 561 1 무쏘뿔처럼
8427	먼지 구덩이에 도입되는 서버에 미세먼지 필터 붙여도 될까요?? (15)	Landa	03-28	853	0
먼지 구덩이에 도입되는 서버에 미세먼지 … (15) 03-28 853 1 Landa
8426	Arista 2중화 구성 질문 (3)	LosAngeles	03-28	541	0
Arista 2중화 구성 질문 (3) 03-28 541 1 LosAngeles
8425	Arista 2중화 구성 질문	kama	03-31	492	0
Arista 2중화 구성 질문 03-31 492 1 kama
8424	HP 서버 Z600 윈도우11 설치 질문 드립니다 (10)	전진	03-27	812	0
HP 서버 Z600 윈도우11 설치 질문 드립니다 (10) 03-27 812 1 전진
8423	4K Video download+ (13)	미담	03-27	740	0
4K Video download+ (13) 03-27 740 1 미담
8422	윈도우11 에서 마우스 오른쪽 버튼 눌렀을때 풀다운 메뉴관련 (6)	쌍cpu	03-27	789	0
윈도우11 에서 마우스 오른쪽 버튼 눌렀을… (6) 03-27 789 1 쌍cpu
8421	파워서플라이 질문입니다. (24)	기억을머금…	03-27	790	0
파워서플라이 질문입니다. (24) 03-27 790 1 기억을머금…
8420	키보드 추천 받습니다 (4)	dateno1	03-27	718	0
키보드 추천 받습니다 (4) 03-27 718 1 dateno1
8419	ESXI + 패스스루한 GPU로는 병렬처리가 불가능한가요? (13)	sam0712	03-27	608	0
ESXI + 패스스루한 GPU로는 병렬처리가 불… (13) 03-27 608 1 sam0712
8418	Dell precision 5510의 TPM2.0 업글방법은? (5)	NiteFlite9	03-27	864	0
Dell precision 5510의 TPM2.0 업글방법은? (5) 03-27 864 1 NiteFlite9
8417	고성능 메모리로 발전하면서 왜 CL 타이밍은 올라가나요? (7)	정은준1	03-27	760	0
고성능 메모리로 발전하면서 왜 CL 타이밍… (7) 03-27 760 1 정은준1