• 목록

<학회 후기>
2025 2/10~2/12에 용평리조트에서 열린 2025 컴퓨터시스템 소사이어티 동계학술대회에 참석하였다. 회사에서 시스템팀과 협업해서 AI 소프트웨어를 올리는 작업을 하는데 시스템에 대해서 접할 수 있어서 근간이되는 하드웨어 단도 조금더 알 수 있는 좋은 계기가 되었다. 학회가 끝난 후에는 숙소에서 세미나 녹화본을 들으면서 집이나 회사나 학교가 아닌 다른 장소에 가서 공부와 업무를 하니 새롭고 기분이 환기가 되는 경험이었다.

<청취후기>
“HyperAccel LPU: LLM 추론 서비스를 위한 AI 반도체” – 이진원 CTO (HyperAccel)
회사에서 HyperAccel의 LPU를 활용해서 인퍼런싱 테스트를 진행한 경험이 있어 관심을 가지게 되어 듣게 되었다.  LPU가 기존 GPU 중심의 환경에서 벗어나 LLM 추론 전문 하드웨어로서 어떤 가능성을 지니고 있는지 해즈온과 이번 청취를 통해서 확인할 수 있었다. 물론 아직 H100 등 최신 GPU나 다른 AI 반도체 대비 완벽한 '숫자 증명'이 이뤄진 것은 아니지만 실제 FPGA프로토타입을 시연해 본것으로도 HyperAccel의 기술 역량과 방향성이 결코 가볍지 않다고 느꼈다. 앞으로 대규모 ASIC 수요 확보, 최적화된 SW/컴파일러 지원, CSP레벨에서 요구하는 종합적인 (Throughput, Latency, Price, Power)만족 등이 해결된다면 LPU가 LLM 추론 시장에서 상당한 경쟁력을 확보 할수도 있겠다는 가능성을 엿보았다.