Mamba Drafters for Speculative Decoding
논문 링크 📝 Mamba Drafters: 선형 SSM으로 외부 Speculative Decoding SOTA 다시 쓰기한 줄 요약 (TL;DR)Transformer 대신 Mamba SSM을 외부 드래프터로 쓰고, 트리 초안 + UCB 탐색을 결합해 …
26분
Mamba
Speculative Decoding
State-Space Model
Efficient Inference