서울·경기 아파트 일간 변화 요약 | 2026-10-22
서울·경기 아파트의 금리, 실제 거래와 주요 뉴스를 함께 살펴봅니다.
기술과 일상에 대한 글 목록입니다.
서울·경기 아파트의 금리, 실제 거래와 주요 뉴스를 함께 살펴봅니다.
긴 에이전트 궤적이 만드는 비용과 정확도 딜레마 LLM 에이전트는 추론과 도구 호출을 수백 라운드 반복하며 긴 궤적을 쌓는다. 추론을 빠르게 만들려면 이미 계산한 key-value(KV) 캐시를 GPU에 두고 다음 토큰마다 다시 읽어야 하는데, 궤적이 길어질수록 저장·읽기 비용이 커진다. 논문은 KV 캐…
큰 청크로 만든 미래 영상을 재사용하면서 출력은 작은 단위로 확정합니다. 투기적 샘플링이 반응 지연을 줄이는 원리와 재계산 비용, 실제 서빙 실험의 조건을 살펴봅니다.
대화 이력을 고정 크기 행렬 상태에 기록하는 MemT-1.0의 구조를 살펴봅니다. 전체 문맥·검색 기반 접근과 비교해 기억의 갱신 방식과 정보 손실의 한계를 정리합니다.
본체의 내부 표현을 재사용해 초안 모델의 과거 KV 캐시를 없애는 DLite를 작은 예시와 실제 속도 비교로 설명합니다.
FlashMask-3의 Hopper 커널과 마스크 국소화, 부하 균형, 통신 중첩을 분석하고 장문 훈련 실험의 조건과 한계를 짚습니다.