https://jaehun.me/categories/hardware-accelerators/Recent content in Hardware-Accelerators on Jaehun's BlogHugoko-krSat, 26 Sep 2026 09:26:41 +0900https://jaehun.me/posts/paper-2609-24847v1/Sat, 26 Sep 2026 00:00:00 +0900https://jaehun.me/posts/paper-2609-24847v1/<p><a href="https://arxiv.org/abs/2609.24847v1"target="_blank" class="inline-flex items-center gap-1" >논문 링크<svg class="h-3 w-3 flex-shrink-0" id="external-link" xmlns="http://www.w3.org/2000/svg" viewBox="0 0 24 24"><path fill="none" stroke="currentColor" stroke-linecap="round" stroke-linejoin="round" stroke-width="2" d="M15 3h6v6m-11 5L21 3m-3 10v6a2 2 0 0 1-2 2H5a2 2 0 0 1-2-2V8a2 2 0 0 1 2-2h6"/></svg> </a></p> <h2 id="spectra-추론-단계가-바뀔-때마다-하드웨어도-옷을-갈아입는-재구성-가능-llm-가속기">SPECTRA: 추론 단계가 바뀔 때마다 하드웨어도 옷을 갈아입는 재구성 가능 LLM 가속기<a href="#spectra-%ec%b6%94%eb%a1%a0-%eb%8b%a8%ea%b3%84%ea%b0%80-%eb%b0%94%eb%80%94-%eb%95%8c%eb%a7%88%eb%8b%a4-%ed%95%98%eb%93%9c%ec%9b%a8%ec%96%b4%eb%8f%84-%ec%98%b7%ec%9d%84-%ea%b0%88%ec%95%84%ec%9e%85%eb%8a%94-%ec%9e%ac%ea%b5%ac%ec%84%b1-%ea%b0%80%eb%8a%a5-llm-%ea%b0%80%ec%86%8d%ea%b8%b0" class="heading-anchor" aria-label="이 섹션에 대한 링크"></a></h2><h2 id="한-줄-요약-tldr">한 줄 요약 (TL;DR)<a href="#%ed%95%9c-%ec%a4%84-%ec%9a%94%ec%95%bd-tldr" class="heading-anchor" aria-label="이 섹션에 대한 링크"></a></h2><p>스펙큘레이티브 디코딩은 프리필(연산 바운드 GEMM)·디코드(메모리 바운드 GEMV)·그 사이의 병렬 검증을 오가며 <strong>산술 강도</strong> 가 토큰마다 출렁인다. 고정 데이터패스로는 이 세 체제를 동시에 소화할 수 없다. <strong>SPECTRA</strong> 는 타일 내부의 PE 배열을 커널 단위로 시스톨릭↔벡터-레인으로 전환하고, 타일 간에는 타일 수·샤딩 축·통신 프리미티브를 동적으로 고르는 재구성 가능 아키텍처다. 20타일 FPGA 프로토타입에서 고정 설계 대비 최대 <strong>2.09배</strong>(타일 레벨)에 더해 <strong>1.25배</strong>(시스템 레벨)를 추가로 확보했고, 엣지 GPU 대비 최대 <strong>3.6배</strong> 처리량과 <strong>2.9배</strong> 전력 효율을 달성했다.</p>