FASTDECODE

FASTDECODE: High-Throughput GPU-Efficient LLM Serving using Heterogeneous Pipelines

논문 링크 Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘 논문의 강점과 독창적인 지점 이 논문은 대규모 언어 모델(LLM) …