https://jaehun.me/tags/2610.36671/딥러닝 컴파일러 엔지니어 류재훈의 기술 블로그. LLM 추론 최적화, KV 캐시, 컴파일러, C++와 AI 논문·오픈소스 코드 분석을 정리합니다.ko-krhttps://jaehun.me/posts/paper-2610-36671/https://jaehun.me/posts/paper-2610-36671/Sat, 31 Oct 2026 00:00:00 +0900<p><a href="https://arxiv.org/abs/2610.36671"target="_blank" class="inline-flex items-center gap-1" >논문 링크<svg class="h-3 w-3 flex-shrink-0" id="external-link" xmlns="http://www.w3.org/2000/svg" viewBox="0 0 24 24"><path fill="none" stroke="currentColor" stroke-linecap="round" stroke-linejoin="round" stroke-width="2" d="M15 3h6v6m-11 5L21 3m-3 10v6a2 2 0 0 1-2 2H5a2 2 0 0 1-2-2V8a2 2 0 0 1 2-2h6"/></svg> </a></p> <h2 id="문제-매-단계마다-다시-읽는-이미지">문제: 매 단계마다 다시 읽는 이미지<a href="#%eb%ac%b8%ec%a0%9c-%eb%a7%a4-%eb%8b%a8%ea%b3%84%eb%a7%88%eb%8b%a4-%eb%8b%a4%ec%8b%9c-%ec%9d%bd%eb%8a%94-%ec%9d%b4%eb%af%b8%ec%a7%80" class="heading-anchor" aria-label="이 섹션에 대한 링크"></a></h2><p>이미지로 질문에 답하는 확산 언어 모델은 응답을 한 번에 완성하지 않는다. 여러 단계에 걸쳐 빈 자리를 메우는 동안, 매 단계마다 거의 변하지 않는 이미지를 처음부터 다시 읽는다. LOWN은 “지금 이 단계에 이미지가 정말 필요한가”를 매번 묻고, 필요할 때만 다시 읽어 디코딩 비용을 크게 줄인다.</p>