SK하이닉스 "어려운 '어텐션' 매커니즘, PIM으로 전담"
"최적의 PIM 솔루션은 (LLM 추론 과정에서) 연산 난이도가 높은 '어텐션 매커니즘'을 SK하이닉스의 PIM 시스템으로 처리하고, 프리필(Prefill)과 디코드(Decode) 등 나머지 연산은 xPU나 GPU와 같은 기존 가속기에 맡기는 방식이다. 역할을 나누면 성능과 효율성을 대폭 높일 수 있고, AI 서비스 비용은 낮출 수 있다." 임의철 SK...
