[이슈] "삼전닉스에 악재?" AMD, HBM 필요없는 AI칩 품었다

AMD가 고대역폭메모리(HBM) 없이 구동되는 추론용 AI 칩 기술을 보유한 캐나다 스타트업 탈라스를 인수했다.

탈라스의 HC1칩은 AI 모델 가중치를 외부 HBM이 아닌 칩 내부 메모리에 직접 새겨 넣는 '하드코딩' 방식을 채택했다.

이를 통해 고가의 HBM과 복잡한 패키징 없이도 메모리 병목 현상을 해소하고 비용과 전력 소비를 크게 낮췄다.

테스트 결과 엔비디아 B200 대비 처리량은 48배 높고, 토큰 당 비용은 5분의 1 수준의 고효율을 기록했다.

다만 특정 AI 모델 하나만 실행하도록 맞춤 설계되어 새로운 모델이 나오면 칩을 재설계해야 하는 한계가 있다.

에치드, 디-매트릭스 등 다른 스타트업들 역시 HBM 의존도를 낮춘 고효율 추론칩 개발에 본격적으로 나섰다.

AI 반도체 업계의 경쟁은 단순 연산 성능을 넘어 메모리 병목과 전력 소비를 얼마나 줄이느냐로 확대됐다.

그러나 다양한 모델을 유연하게 지원해야 하는 클라우드와 학습 환경에서는 범용 GPU가 주류를 유지할 전망이다.

AI 컴퓨팅 시장은 향후 범용 컴퓨팅(GPU)과 특화 컴퓨팅(추론칩)이 나뉘는 투 트랙으로 발전할 것으로 예상된다.

리사 수 AMD CEO도 모델 변경이 잦지 않은 추론 환경에서는 특화칩이 독자적인 시장을 형성할 것이라고 기대했다.