Deliberation in Latent Space via Differentiable Cache Augmentation 요약 설명
KO 23 Dec 2024 | Paper Review Latent Reasoning KV Cache Self-Supervised Learning이번 글에서는 Deliberation in Latent Space via Differentiable Cache Augmentation 논문의 핵심 포인트만 간단히 정리한다. 2024년 12월 23일(Arxiv) Liu, Luyang, Pfeiffer, Jonas, Wu, Jiaxing, Xie, Jun, Szlam, Arthur. Google DeepMind 논문 링크 영문판 보기 요약 대규모 언어 모델(LLM)이 답변 전에 중간 추론 텍스트를 생성하면 지연 시간이 늘어나고 추론 과정을 종단...