WorldAttention: An Efficient Attention Architecture for Interactive Video World Models
논문 링크 WorldAttention: 슬라이딩 윈도우를 버린 인터랙티브 비디오 월드 모델의 시스템 공동 설계TL;DR — 텍스트로 제어되는 인터랙티브 비디오 월드 모델은 “전체 히스토리를 기억해야 한다"는 요구와 “KV …
15분
KV Cache
Efficient Inference
Long Context
Attention Optimization
Sparse Attention
Video Generation
![[논문리뷰]: Radial Attention: O(n log n) Sparse Attention with Energy Decay for Long Video Generation](https://moonlight-paper-snapshot.s3.ap-northeast-2.amazonaws.com/arxiv/radial-attention-onlog-n-sparse-attention-with-energy-decay-for-long-video-generation-2.png)