Paper Review
A Defense of the Quadratic Model — LLM 학습의 Gauss–Newton 근사와 안정성 분석
A Defense of the Quadratic Model의 Gauss–Newton 근사, Lanczos spectrum과 학습 안정성을 설명한다. batch 64 예제, 원문 figure·table, 공개 코드로 근사가 맞는 조건과 반례를 분석한다.
Category
총 7개의 글
Paper Review
A Defense of the Quadratic Model의 Gauss–Newton 근사, Lanczos spectrum과 학습 안정성을 설명한다. batch 64 예제, 원문 figure·table, 공개 코드로 근사가 맞는 조건과 반례를 분석한다.
Paper Review
IndexTTS v1의 SEQ3 입력, Conformer·Perceiver와 BigVGAN2 구조를 설명한다. 병음 교정률 94%의 분모, CER·WER·SS·MOS와 inference 속도를 원문 figure·table과 코드로 분석한다.
Paper Review
IndexTTS2의 T2S·S2M, GRL 감정 분리, GPT latent와 duration control을 설명한다. WER·SS·MOS, ablation과 공개 inference 코드의 제한을 원문 figure·table로 분석한다.
Paper Review
IndexTTS2.5의 multilingual TTS, 언어 conditioning, GRPO와 25Hz codec을 설명한다. 언어별 WER·SS, cross-lingual 감정 전이와 Zipformer·공개 DiT 구현의 차이를 분석한다.
Paper Review
LatentMoE의 down-projection·expert·up-projection을 계산 예제로 설명한다. 95B·hybrid benchmark, 실제 throughput과 3.46배 simulation, Megatron-Core 구현의 조건을 구분한다.
Paper Review
DataFlow의 storage·operator·pipeline·agent를 SQL 예제로 설명한다. pre-training·SFT 데이터 선별과 수학·코드·SQL·RAG benchmark를 원문 figure·table, 공개 구현과 함께 분석한다.
Paper Review
Nanbeige4.2-3B의 looped Transformer, executable data, SFT와 RLHF를 설명한다. length reward 계산, agent benchmark·평가 budget·공개 코드의 한계를 원문 figure·table로 분석한다.