커뮤니티국내
Qualcomm Cloud AI 100 Ultra - 128GB 메모리와 548GB/s 대역폭을 갖춘 150W AI 가속기 카드
GeekNews
Cloud AI 100 Ultra는 생성형 AI와 대규모 언어 모델(LLM)을 위해 설계된 추론 카드로, 대규모 배포에 필요한 성능과 전력 효율, 비용 최적화를 목표로 함 TDP 150W에서 ECC 지원 128GB 메모리와 548GB/s 메모리 대역폭을 제공함카드당 AI 코어 64개와 최대 576MB 온다이 SRAM을 갖추며, 최대 연산 성능은 INT8…
원문의 저작권은 GeekNews에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.