Mamba Drafters for Speculative Decoding
논문 링크 📝 Mamba Drafters: 선형 SSM으로 외부 Speculative Decoding SOTA 다시 쓰기 한 줄 요약 (TL;DR) Transformer 대신 Mamba SSM을 외부 드래프터로 쓰고, 트리 초안 + UCB 탐색을 결합 …
23 분
2506.01206v1
Mamba
Speculative Decoding
State-Space Model
Efficient Inference