https://jaehun.me/tags/2609.04010v1/Recent content in 2609.04010v1 on Jaehun's BlogHugoko-krTue, 08 Sep 2026 10:56:16 +0000https://jaehun.me/posts/unlocking-lossless-speedups-in-llms-via-discrete-diffusion/Tue, 08 Sep 2026 00:00:00 +0900https://jaehun.me/posts/unlocking-lossless-speedups-in-llms-via-discrete-diffusion/<p><a href="https://arxiv.org/abs/2609.04010v1"target="_blank" class="inline-flex items-center gap-1" >논문 링크<svg class="h-3 w-3 flex-shrink-0" id="external-link" xmlns="http://www.w3.org/2000/svg" viewBox="0 0 24 24"><path fill="none" stroke="currentColor" stroke-linecap="round" stroke-linejoin="round" stroke-width="2" d="M15 3h6v6m-11 5L21 3m-3 10v6a2 2 0 0 1-2 2H5a2 2 0 0 1-2-2V8a2 2 0 0 1 2-2h6"/></svg> </a></p> <h2 id="uno-ar과-diffusion을-하나의-모델에--무손실-병렬-생성을-통한-llm-가속">Uno: AR과 Diffusion을 하나의 모델에 — 무손실 병렬 생성을 통한 LLM 가속<a href="#uno-ar%ea%b3%bc-diffusion%ec%9d%84-%ed%95%98%eb%82%98%ec%9d%98-%eb%aa%a8%eb%8d%b8%ec%97%90--%eb%ac%b4%ec%86%90%ec%8b%a4-%eb%b3%91%eb%a0%ac-%ec%83%9d%ec%84%b1%ec%9d%84-%ed%86%b5%ed%95%9c-llm-%ea%b0%80%ec%86%8d" class="heading-anchor" aria-label="이 섹션에 대한 링크"><svg class="h-4 w-4" aria-hidden="true" xmlns="http://www.w3.org/2000/svg" viewBox="0 0 24 24"><g fill="none" stroke="currentColor" stroke-linecap="round" stroke-linejoin="round" stroke-width="2"><path d="M10 13a5 5 0 0 0 7.54.54l3-3a5 5 0 0 0-7.07-7.07l-1.72 1.71"/><path d="M14 11a5 5 0 0 0-7.54-.54l-3 3a5 5 0 0 0 7.07 7.07l1.71-1.71"/></g></svg></a></h2><p><strong>TL;DR</strong> — LLM이 느린 이유는 next-token prediction(NTP)이 한 번에 토큰 하나씩만 내놓는 순차 구조 때문이다. Uno는 하나의 아키텍처에 <strong>품질을 책임지는 AR 가중치</strong> 와 <strong>속도를 책임지는 경량 LoRA diffusion 가중치</strong> 를 함께 심고, diffusion 경로가 토큰 블록을 병렬로 초안(draft)하면 AR 경로가 rejection sampling으로 검증한다. 별도의 드래프트 모델도, 손실 있는 AR→diffusion 변환도 없이 <strong>AR 분포를 정확히 보존하는(무손실)</strong> 가속을 얻는다. 결과적으로 베이스 AR 모델 대비 <strong>최대 3배</strong>, 가장 큰 배치 크기에서도 <strong>최대 2배</strong> 의 속도 향상을 달성했고, 오픈 d-LLM(26B DiffusionGemma)과 독점 모델(Mercury 2)을 에이전틱·코딩·장문 추론 벤치마크에서 압도했다 (근거: Abstract).</p>