epowergate 06-14

Ultra Ethernet을 지원하는 400G NIC이 맞습니다.
이 넘을 TCP 통신으로 사용하시면 그냥 그런 400G Ethernet NIC 입니다.
물론 그냥 그런 400G NIC이지만 RDMA over Ethernet 정도는 기본적으로 지원합니다.
Ultra Ethernet의 강점은 libfabric을 그대로 사용해야 하는데, 아직 이를 지원하는 Application들이 많지 않습니다.

앗, 질문에 답을 드리자면 (이미 아시겠지만)
현재 국내 구매 어렵습니다

박문형 06-14

답변 감사합니다..

이번에 AMD Advancing AI Keynote 를 보고 AMD가 AI 쪽의 솔류션을 단계적으로 준비한다고 생각하였습니다..

보통 저런 발표회를 하면 제품이 판매되던지 어떤 제조사에서 준비한다던지 하는 이야기가 있는데 AMD는 그런 것을 아직은 대놓고 발표하지는 않는 것으로 보아

그리고 AMD Pensando™ Pollara 400 은 엔지니어 셈플급 제품이 서버 리뷰 사이트에 제공된 듯하고 AMD 본사 홈페이지에서도

그냥 제품 설명 정도나 있고 그 밑에 시스코나 HPE 스위치 허브를 링크 해둔 것으로 보아 어느 정도는 완전히 OEM 제품 같은 것이 아닌가 라는 생각이 들어

질문을 해본 것입니다..

AI 쪽에서 nVidia가 잘하고는 있지만 너무 독점적이다라는 생각이 들고 그에 대적할만한 제품을 만드는 제조사들의 국내 상황이랄까 그런 것들이 궁금하기도 해서

네트워크 카드를 찝어 질문해보았습니다..

epowergate 06-14

NVIDIA에서는 super scale이던가 하는 GPUDirect를 강화한 Ethernet chipset를 개발한 것으로 알고 있습니다.
이걸 NIC과 Switch에 모두 적용했고 기존 자사제품 대비 15%정도 성능이 좋다고 하는 말을 들은것 같습니다.

아무래도 NIC과 스위치를 모두 가지고 있는게 더 도움이 되지 않을까요?
AMD는 스위치가 없으니 다른 네트워크 회사들과 표준을 만들어서 밀어 붙이는건데
HPC/AI 특성상 표준이 별도 도움이 안되니
확실히 NVIDIA가 유리할 것 같습니다.

뭐 아닐수도...

제온프로 06-14

Nvidia는 Mellanox를 가지고 있죠.

Infiniband
RoCE

를 사용하죠.

이제 Cuda 를 잡아야 하고...

NVlink 대적할만한 것을 만들면 되것군요,