Natural Language Processing on Jaehun's Blog

[논문리뷰]: NVIDIA Nemotron 3: Efficient and Open Intelligence

Tue, 16 Dec 2025 00:00:00 +0900

논문 링크

NVIDIA Nemotron 3: 하이브리드 Mamba–Transformer MoE로 “정확도/처리량” 프런티어를 당기다

Nemotron 3 는 MoE 하이브리드 Mamba–Transformer, LatentMoE , MTP , NVFP4 학습, 멀티-환경 RL 을 결합해 “정확도 대비 추론 처리량(accuracy-to-inference-throughput)”을 끌어올리고, 최대 1M tokens 컨텍스트 와 상대 처리량 3.3× 를 핵심 메시지로 제시한다 (근거: §Intro/§2.2/§2.3/§2.4/§2.5/§2.6/Fig.2).

[논문리뷰] Pretraining Large Language Models with NVFP4

Thu, 09 Oct 2025 00:00:00 +0900

논문 링크

NVFP4로 4-bit 프리트레이닝을 실전으로: 12B를 10T 토큰까지, FP8과 사실상 동급

TL;DR

12B 하이브리드 Mamba-Transformer를 10T tokens 에서 NVFP4(4-bit) 로 프리트레이닝하면 안정 구간 손실차 <1% , 말기 ~1.5% 로 FP8을 근접 추종 하고, 다운스트림 성능도 대부분 동급(수학·다국어 일부 +0.9~+3.7pp)이다. MXFP4 대비 동일 손실에 토큰 +36% (1.36T vs 1.0T)가 필요해 NVFP4의 토큰 효율 우위 가 확인된다. (근거: Fig.2, Tab.2, Fig.6)

[논문리뷰] Inference-Time Hyper-Scaling with KV Cache Compression

Tue, 29 Jul 2025 00:00:00 +0900

논문 링크

Dynamic Memory Sparsification(DMS): KV 캐시 8× 압축으로 LLM 하이퍼-스케일링을 현실로

한 줄 요약 (TL;DR)

1 K 스텝만의 경량 재적합과 지연 퇴출 전략을 결합한 DMS는 KV 캐시를 최대 8× 압축하면서도 Qwen-R1 32B 기준 AIME 24 +9.1 pt 등 성능을 오히려 끌어올렸다. 결과적으로 동일 연산·메모리 예산에서 더 길고·더 많은 토큰을 실시간으로 생성할 수 있다.

Hogwild! Inference: Parallel LLM Generation via Concurrent Attention

Thu, 19 Jun 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

Hogwild! Inference 논문 심층 분석

제공해주신 “Hogwild! Inference: Parallel LLM Generation via Concurrent Attention” 논문을 자세히 분석하여 강점과 독창성, 핵심 알고리즘, 그리고 한계점을 설명해 드리겠습니다.

Towards Economical Inference: Enabling DeepSeek’s Multi-Head Latent Attention in Any Transformer-based LLMs

Mon, 16 Jun 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

MHA2MLA 논문 분석: 기존 LLM을 경제적으로 만드는 혁신

제출된 논문 “Towards Economical Inference: Enabling DeepSeek’s Multi-Head Latent Attention in Any Transformer-based LLMS"는 기존의 대규모 언어 모델(LLM)이 가진 고질적인 문제인 막대한 추론 비용을 해결하기 위한 혁신적이고 실용적인 방법을 제시합니다. 논문의 핵심 내용, 강점, 독창성, 그리고 한계점을 상세히 분석해 드립니다.

X-EcoMLA: Upcycling Pre-Trained Attention into MLA for Efficient and Extreme KV Compression

Mon, 16 Jun 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

X-EcoMLA 논문 분석: 강점, 핵심 알고리즘, 한계점

“X-EcoMLA: Upcycling Pre-Trained Attention into MLA for Efficient and Extreme KV Compression” 논문은 기존의 대규모 언어 모델(LLM)이 가진 메모리 문제를 해결하기 위한 실용적이고 효율적인 접근법을 제시합니다. 본 분석에서는 논문의 독창적인 강점, 예시를 통한 핵심 알고리즘 설명, 그리고 연구의 잠재적 한계점을 심층적으로 다룹니다.

XGRAMMAR: FLEXIBLE AND EFFICIENT STRUCTURED GENERATION ENGINE FOR LARGE LANGUAGE MODELS

Mon, 02 Jun 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

XGrammar 논문 상세 분석: 유연하고 효율적인 LLM 구조화 생성 엔진

제공해주신 논문 “XGrammar: Flexible and Efficient Structured Generation Engine for Large Language Models” [cite: 1]은 대규모 언어 모델(LLM)이 JSON, SQL, 코드 등 특정 구조를 가진 텍스트를 생성해야 하는 요구에 부응하기 위한 새로운 엔진 XGrammar를 제안합니다. 기존의 문맥 자유 문법(Context-Free Grammar, CFG) 기반 제약 디코딩 방식이 가진 실행 시간 오버헤드 문제를 해결하는 데 초점을 맞추고 있습니다. [cite: 2, 3, 4]

RODIMUS*: BREAKING THE ACCURACY-EFFICIENCY TRADE-OFF WITH EFFICIENT ATTENTIONS

Sat, 17 May 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

Rodimus* 논문 분석: 정확도-효율성 균형을 깨는 새로운 언어 모델

대규모 언어 모델(LLM)의 발전은 자연어 처리 분야에 혁신을 가져왔지만, 기존 소프트맥스 어텐션 메커니즘의 높은 연산 비용($\mathcal{O}(T)$ 복잡도)은 효율성 측면에서 한계로 지적되어 왔습니다. [cite: 2] 최근 발표된 “RODIMUS*: BREAKING THE ACCURACY-EFFICIENCY TRADE-OFF WITH EFFICIENT ATTENTIONS” 논문은 이러한 문제를 해결하기 위해 Rodimus와 Rodimus+라는 새로운 모델을 제시하며, LLM의 정확도를 유지하면서도 연산 복잡도를 획기적으로 낮추는 방법을 제안합니다.

Gemini Embedding: Generalizable Embeddings from Gemini

Mon, 12 May 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

✅ 결론 요약

Gemini Embedding은 Google Gemini LLM에서 초기화된 범용 임베딩 모델로, MTEB(Multilingual) 기준 평균 +5.09 점의 성능 향상과 SOTA 달성을 기록하며 분류, 검색, 클러스터링 등 다양한 태스크에서 강력한 일반화 능력을 보여줍니다.

Gemma 3 Technical Report

Mon, 12 May 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

✅ 결론 요약

Gemma 3는 장문 컨텍스트(최대 128K), 멀티모달 이미지 입력, 다국어 지원을 갖춘 1B~27B 오픈 모델 계열로, 효율적인 KV 캐시 설계와 향상된 distillation 및 RLHF 기반 후처리로 성능·메모리·활용성에서 매우 뛰어납니다. 특히 27B IT 모델은 Chatbot Arena Elo 1338로 LLaMA 3 70B보다 우위에 있으며, 시각 벤치마크에서도 최고 수준 성능을 달성합니다.

SwitchHead: Accelerating Transformers with Mixture-of-Experts Attention

Mon, 14 Apr 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문 「SwitchHead: Accelerating Transformers with Mixture-of-Experts Attention」을 매우 자세하게 읽고 분석한 내용을 바탕으로, 논문의 강점과 독창적인 지점, 핵심 알고리즘의 상세한 설명과 함께 예시 입력을 이용한 동작 과정을 소개하고, 마지막으로 한계점을 명확하게 설명하겠습니다.

SparseTransX: Efficient Training of Translation-Based Knowledge Graph Embeddings Using Sparse Matrix Operations

Wed, 02 Apr 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문 『SparseTransX: Efficient Training of Translation-Based Knowledge Graph Embeddings Using Sparse Matrix Operations』의 강점, 독창적인 지점, 핵심 알고리즘의 예시와 전체적인 과정, 그리고 한계점을 정리하여 전달드립니다.

SELF-DATA DISTILLATION FOR RECOVERING QUALITY IN PRUNED LARGE LANGUAGE MODELS

Tue, 25 Mar 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 핵심을 정리하여 결론부터 간략히 제시한 후, 구체적인 수치를 통해 강점 및 독창적인 지점을 설명하고, 논문에서 제안한 핵심 알고리즘을 예시와 함께 설명하며, 논문의 한계점을 논의하겠습니다.

SampleAttention: Near-Lossless Acceleration of Long Context LLM Inference with Adaptive Structured Sparse Attention

Mon, 24 Mar 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

✅ 결론 요약

SampleAttention은 기존 LLM의 attention을 거의 정확도 손실 없이 대체하면서, 최대 2.42배 TTFT(Time-to-First-Token) 지연을 줄이는 구조화된 adaptive sparse attention 기법이다.
핵심은 두 가지 sparse 패턴인 local window와 column stripe를 활용하여 각 attention head에 대해 동적으로 희소 attention mask를 구성하고, FlashAttention 대비 더 높은 하드웨어 효율성과 가속 성능을 달성한다.

QServe: W4A8KV4 Quantization and System Co-design for Efficient LLM Serving

Tue, 18 Mar 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점과 독창적인 지점

1. 강점

저비트 정량화(Quantization)의 실용적 개선: 기존 INT4 정량화 기법들이 클라우드 기반 LLM 서빙에서 성능 개선을 보이지 못하는 문제를 해결.
QoQ(W4A8KV4) 알고리즘 제안:
- **4비트 가중치(W4), 8비트 활성화(A8), 4비트 KV 캐시(KV4)**를 적용하여 정량화에 따른 정확도 손실을 최소화.
- 진행형 그룹 정량화(Progressive Group Quantization): 8비트 중간 표현을 활용하여 INT8 텐서 코어에서 연산을 수행, 기존 INT4 방식보다 높은 성능 제공.
- SmoothAttention 기법: 4비트 KV 정량화에 따른 정확도 저하를 완화하는 메커니즘.
QServe 시스템과 알고리즘 공동 설계(System-Algorithm Co-design):
- GPU 서빙 성능 극대화: CUDA 코어에서 수행되는 비효율적인 연산을 줄이고, 텐서 코어 활용도를 극대화.
- 레지스터 수준 병렬성(Register-Level Parallelism) 활용: INT4→INT8 변환 시 감산 후 곱셈(Subtraction after Multiplication) 방식을 적용하여 연산량 감소.
- 연산 중심 가중치 재배열(Compute-aware Weight Reordering): CUDA 코어에서의 포인터 연산량을 줄여 L1 캐시 활용 최적화.

2. 독창적인 지점

기존 기법	QoQ (논문 기법)
W4A4의 낮은 정확도 문제	W4A8로 INT8 텐서 코어 활용 가능
W4A16의 높은 메모리 사용량	KV4 도입으로 메모리 효율 개선
INT4 GEMM에서 발생하는 CUDA Core 연산 병목	Register-Level Parallelism으로 해결
기존 KV 캐시 정량화의 정확도 저하	SmoothAttention으로 키(Key) 값 정규화

핵심 알고리즘 과정 설명

1. QoQ 정량화 알고리즘

QoQ는 두 단계의 정량화로 이루어짐:

EFFICIENT LLM INFERENCE USING DYNAMIC INPUT PRUNING AND CACHE-AWARE MASKING

Wed, 12 Mar 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 핵심 내용과 독창적인 기여

이 논문은 대형 언어 모델(LLM)의 추론 속도를 향상시키기 위해 Dynamic Input Pruning(DIP) 및 Cache-Aware Masking 기법을 제안한다. 기존 LLM들은 메모리 대역폭의 병목 현상으로 인해 모바일 디바이스에서 효율적으로 동작하기 어려웠다. 특히 최신 LLM들이 ReLU 대신 SwiGLU를 사용하는데, 이는 자연적인 활성화 희소성이 낮아 기존 동적 희소화 기법이 비효율적이었다.

Comet: Fine-grained Computation-communication Overlapping for Mixture-of-Experts

Mon, 10 Mar 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 핵심 요약 및 기여점

이 논문은 Comet이라는 새로운 MoE(Mixture-of-Experts) 시스템을 제안하여 계산-통신 오버래핑을 더욱 세밀하게 수행함으로써 MoE 모델의 실행 속도를 크게 향상시켰다. 기존 MoE 모델에서 통신 비용이 전체 실행 시간의 47%를 차지하는 문제를 해결하기 위해, 세밀한 수준의(overlapping fine-grained) 계산-통신 오버래핑 기법을 도입했다.

LSERVE: EFFICIENT LONG-SEQUENCE LLM SERVING WITH UNIFIED SPARSE ATTENTION

Thu, 06 Mar 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 핵심 내용을 먼저 간략히 요약한 후, 강점과 독창적인 지점을 자세히 설명하고, 핵심 알고리즘의 동작 원리를 예시와 함께 제시한 뒤, 논문의 한계점을 마지막으로 정리하겠습니다.

Speculate, then Collaborate: Fusing Knowledge of Language Models during Decoding

Tue, 25 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점과 독창적인 지점

이 논문의 핵심 기여는 Collaborative Speculative Decoding (CoSD) 알고리즘을 제안하여, 훈련 없이도 여러 LLM의 지식을 효과적으로 융합하는 방법을 제시한 점이다. CoSD의 강점은 다음과 같다.

You OnlyPruneOnce: DESIGNING CALIBRATION-FREE MODEL COMPRESSION WITH POLICY LEARNING

Tue, 25 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 핵심 요약

이 논문은 PruneNet이라는 새로운 모델 압축 기법을 제안하며, 기존 방법들의 한계를 극복하고자 한다. 주요 기여점은 다음과 같다:

TypedThinker: Typed Thinking Improves Large Language Model Reasoning

Mon, 24 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점과 독창적인 지점

1. 강점

다양한 추론 방식의 활용
기존 LLM(대형 언어 모델)의 한계를 극복하기 위해 연역(deductive), 귀납(inductive), 가설(abductive), 유추(analogical) 네 가지의 논리적 추론 방식을 적용함.
각각의 추론 방식이 특정 유형의 문제에서 효과적인지를 실험적으로 분석함.

LASP-2: Rethinking Sequence Parallelism for Linear Attention and Its Hybrid

Mon, 17 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점 및 독창적인 지점

1. 기존 Sequence Parallelism (SP)의 한계 개선
기존 SP 기법(LASP-1, Ring Attention 등)은 Right-product-first 특징을 제대로 활용하지 못하고, 링 스타일(Ring-style) 통신 방식을 사용해 통신-연산 병렬성이 낮았음. LASP-2는 AllGather 연산을 활용하여 단일 통신 스텝 만으로 전체 메모리 상태를 공유하도록 최적화하여 통신량을 줄이고 계산 병렬성을 극대화함.

Robust and Secure Code Watermarking for Large Language Models via ML/Crypto Codesign

Thu, 13 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 핵심 요약

SmolLM2: When Smol Goes Big Data-Centric Training of a Small Language Mode

Thu, 13 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문 요약 및 분석: SmolLM2 - When Smol Goes Big

DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

Wed, 12 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점과 독창성

1. 순수 강화학습 기반 모델 개발:

DeepSeek-VL2: Mixture-of-Experts Vision-Language Models for Advanced Multimodal Understanding

Wed, 12 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문 개요 및 강점

논문 제목: DeepSeek-VL2: Mixture-of-Experts Vision-Language Models for Advanced Multimodal Understanding

Humanity's Last Exam

Wed, 12 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점 및 독창적인 지점

문제 인식 및 대응: 이 논문은 기존 벤치마크(MMLU 등)가 LLM(대형 언어 모델)에 의해 거의 90% 이상의 정확도를 기록하며 포화 상태에 도달한 문제를 지적하고 있습니다. 이를 해결하기 위해 **Humanity’s Last Exam (HLE)**이라는 새로운 벤치마크를 제안합니다.

Qwen2.5-1M Technical Report

Wed, 12 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 개요 및 강점

Qwen2.5-1M은 Alibaba Group의 Qwen 팀이 개발한 초장문 컨텍스트 지원 대규모 언어 모델 시리즈입니다. 이 모델은 기존 128K 토큰에서 1백만 토큰으로 컨텍스트 길이를 확장했으며, 이를 통해 코드 작성, 문서 요약, 복잡한 질의 응답 등의 작업에서 탁월한 성능을 보여줍니다.

Qwen2-VL: Enhancing Vision-Language Model’s Perception of the World at AnyResolution

Tue, 11 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점과 독창적인 지점

DeepSeek-Prover-V1.5: Harnessing Proof Assistant Feedback for Reinforcement Learning and Monte-Carlo Tree Search

Mon, 10 Feb 2025 00:00:00 +0900

논문 링크

Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

논문의 강점 및 독창성

강화 학습과 증명 보조기 피드백의 통합
DeepSeek-Prover-V1.5는 증명 보조기(Lean 4)의 피드백을 활용한 강화 학습(RLPAF)을 통해 모델의 성능을 개선했습니다. 기존 모델들은 단순한 감독 학습에 의존했으나, 이 모델은 증명 검증 결과를 직접적으로 학습에 반영함으로써 정확성을 높였습니다.