안녕하세요LLM 관련질문이에요

오임   
   조회 745   추천 0    

안녕하세요LLM 관련질문이에요

초보구요

텍스트 머신러닝돌리고 하는데

4개1080ti 가 좋을가요?

3090ti  가 좋을가요?

기초데이터는 하둡에 적재되어 있구요

돈이 많이 없어서 이리저리 찾이보고있어요

고수님들 자문을구해봐요
짧은글 일수록 신중하게.
박문형 03-06
최신 GPU 일수록

1개의 GPU 카드의 메모리 용량이 클수록 좋습니다..

문제는 메모리 용량이 큰 GPU 카드는 가격이 비쌉니다..


GPU 카드가 여러개면 관리 및 셋팅도 힘들고 재대로 하고 싶은 작업이 안될 수도 있습니다..
     
오임 03-06
감사합니다
어떻게 해서든 하이엔드 gpu 하나씩 올리겠습니다
3090 ti가 100만이나 하네요
많이 참고가 되었습니다
          
제온프로 03-07
오잉 3090ti가 백만원 밖에 않한다구요?
많이 내렸네요.. 
메모리 24GB 아닌가요?
     
ikaros7 03-07
+1
찬이 03-06
우선 사용하시려는 모델로 필요한 사양을 검색해보셔야 할거 같습니다. 용량이 부족하다면 양자화를 해서 맞춰볼수도 있구요.
김제연 03-06
rag 하실꺼 같은데 rag는 일반 모델 쓰고 학습 시키는거라 3090 이면 충분 하실껄요?
로그인 하시면 댓글을 남길 수 있습니다


QnA
쓰기
제목Page 20/5743
2015-12   1841528   1  백메가
2014-05   5325971   1 정은준1
04-03   641   1 maronet
05-13   642   1 자객
02-18   643   1 미담
04-26   644   1 Sakura24
04-29   646   1 Sakura24
04-04   647   1 로컬스타
03-31   647   1 고민형티버
02-05   648   1 화란
05-04   650   1 어훕
04-17   651   1 무지개reinb…
04-07   651   1 검은신발
03-28   652   1 siper
03-06   652   1 galaxyfamily
04-15   654   1 신은왜
04-07   654   1 과암
04-09   656   1 제온프로
05-12   658   1 울과기펩시충
04-13   660   1 흥마
02-18   660   1 일명
04-17   662   1 Sakura24
목록
쓰기