커뮤니티해외
게이밍 GPU에서 적은 메모리로 자체 LLM을 훈련하는 방법
원제 · You can now train your own LLMs with less memory, on your gaming GPUs
r/LocalLLaMA오늘 9위
24GB VRAM을 갖춘 RTX 3090 GPU에서 자체 27B 모델을 훈련할 수 있는 방법과 코드가 공개되었다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
TL;DR: You can train your own 27B model on a 3090 with 24GB VRAM, though you would have to go through hundreds of billions of tokens for it to be good. I am working on conversion of existing models.
원문의 저작권은 r/LocalLLaMA에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.