Paper-Review

413페이지

Fathom: Per-Query Read Depth for Sparse Decoding over Offloaded KV Caches

논문 링크 Fathom: 쿼리마다 깊이를 바꾸는 스캔으로 1M 토큰 디코딩을 1.67배 빠르게 하다한 줄 요약 (TL;DR)에이전트 세션이 1M 토큰까지 길어지고 수십 세션이 동시에 상주하면 KV 캐시와 이를 랭킹하는 인덱스가 호스트 메모리에 살게 되 …

20분
KV Cache Long Context Efficient Inference LLM Inference Attention Optimization Quantization

X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation

논문 링크 X-AuT: 행동 프로브와 크로스스케일 증류로 음성 LLM의 오디오 인코더를 깎아내는 방법한 줄 요약 (TL;DR)음성 LLM의 오디오 인코더(오디오 Transformer)를 18→16→14 레이어로 점진적으로 프루닝 하면서, 짧은 행동 프 …

12분
Efficient Inference Large Language Models Transformer Machine Learning Knowledge Distillation Model Compression

Why Is Video Still So Expensive? A Survey of Inference-Efficiency Mechanisms in Video and Audiovisual LLMs

논문 링크 비디오 LLM은 왜 아직도 비싼가? — 추론 효율화 메커니즘 4단계 총정리TL;DR — 이 논문은 2022년 말부터 2026년 8월까지 발표된 VideoLLM 추론 효율화 연구 125편을 엔코더–커넥터–LLM 파이프라인의 4단계로 분류하고, …

14분
Long Context KV Cache Multimodal Learning Vision-Language Model Efficient Inference Large Language Models

Online Draft Co-Training for Speculative Decoding in Large-Scale, Long-Context RL Post-Training

논문 링크 대규모·장문맥 RL 사후학습에서 Speculative Decoding을 실용화하는 두 가지 설계TL;DR : RL 사후학습의 벽-클록 시간을 지배하는 롤아웃 생성을 speculative decoding으로 가속하고, 여기에 온라인 드래프트 …

11분
Speculative Decoding Long Context Reinforcement Learning Distributed Computing Efficient Training Inference Acceleration

MMInference: Accelerating Pre-filling for Long-Context Visual Language Models via Modality-Aware Permutation Sparse Attention

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

43분
Computer Vision Machine Learning

SwitchHead: Accelerating Transformers with Mixture-of-Experts Attention

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

24분
Machine Learning Natural Language Processing Neural and Evolutionary Computing

Duplex: A Device for Large Language Models with Mixture of Experts, Grouped Query Attention, and Continuous Batching

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

22분
Hardware Architecture Machine Learning

AIOpsLab: A Holistic Framework to Evaluate AI Agents for Enabling Autonomous Clouds

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

16분
Distributed Computing Multiagent Systems Software Engineering

SparseTransX: Efficient Training of Translation-Based Knowledge Graph Embeddings Using Sparse Matrix Operations

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

16분
Machine Learning Natural Language Processing

SampleAttention: Near-Lossless Acceleration of Long Context LLM Inference with Adaptive Structured Sparse Attention

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

13분
Natural Language Processing Machine Learning

AI Metropolis: Scaling Large Language Model-based Multi-Agent Simulation with Out-of-order Execution

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

19분
Distributed Computing Machine Learning Multiagent Systems

Robust and Secure Code Watermarking for Large Language Models via ML/Crypto Codesign

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

35분
Security and Cryptography Natural Language Processing Machine Learning

DeepSeek-Prover-V1.5: Harnessing Proof Assistant Feedback for Reinforcement Learning and Monte-Carlo Tree Search

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

45분
Natural Language Processing Machine Learning Logic in Computer Science

Let the Expert Stick to His Last: Expert-Specialized Fine-Tuning for Sparse Architectural Large Language Models

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

37분
Natural Language Processing Machine Learning

DeepSeek-Coder: When the Large Language Model Meets Programming - The Rise of Code Intelligence

논문 링크 같은 논문을 2025-06-30 에도 한 번 더 정리해 두었다. 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과 …

37분
Software Engineering Natural Language Processing Machine Learning

Qwen-Audio: Advancing Universal Audio Understanding via Unified Large-Scale Audio-Language Models

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

40분
Audio and Speech Processing Natural Language Processing Machine Learning

Qwen-VL: AVersatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

34분
Computer Vision Natural Language Processing

The Truth is in There: Improving Reasoning in Language Models with Layer-Selective Rank Reduction

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

26분
Machine Learning Natural Language Processing Computer Vision

SageAttention2 Technical Report: Accurate 4 Bit Attention for Plug-and-play Inference Acceleration

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

25분
Machine Learning Computer Vision Neural and Evolutionary Computing

TeraPipe: Token-Level Pipeline Parallelism for Training Large-Scale Language Models

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

13분
Machine Learning Natural Language Processing Distributed Computing

Scissorhands: Exploiting the Persistence of Importance Hypothesis for LLM KV Cache Compression at Test Time

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

16분
Machine Learning Natural Language Processing

FlexLLM: A System for Co-Serving Large Language Model Inference and Parameter-Efficient Finetuning

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

15분
Distributed Computing Natural Language Processing Machine Learning

Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

22분
Natural Language Processing Machine Learning Neural and Evolutionary Computing

Attention Score is not All You Need for Token Importance Indicator in KV Cache Reduction: Value Also Matters

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

18분
Natural Language Processing Machine Learning

Discovering the Gems in Early Layers: Accelerating Long-Context LLMs with 1000x Input Token Reduction

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

28분
Natural Language Processing Machine Learning

TorchTitan: One-stop PyTorch native solution for production ready LLM pre-training

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

17분
Natural Language Processing Distributed Computing Machine Learning

TokenSelect: Efficient Long-Context Inference and Length Extrapolation for LLMs via Dynamic Token-Level KV Cache Selection

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

35분
Natural Language Processing Machine Learning

VL-Cache: Sparsity and Modality-Aware KV Cache Compression for Vision-Language Model Inference Acceleration

논문 링크 강점과 독창성, 핵심 알고리즘, 그리고 한계 물어본 것: 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

29분
Computer Vision Natural Language Processing Distributed Computing