이번 글에서는 Likelihood-Based Reward Designs for General LLM Reasoning 논문의 핵심 포인트만 간단히 정리한다. 2026년 2월 3일(Arxiv) Kwiatkowski, Ariel, Butt, Natasha, Labiad, Ismail, Kempe, Julia, Ollivier, Yann. Meta FAIR, University of Amsterdam, New York University 논문 링크 영문판 보기 요약 Likelihood-Based Reward Designs for General LLM Reasoning은 chain-of-thought(CoT) 추론을 학습할...

Read this article in Korean Trends The selected research examines how language-model capability depends on the organization of computation. Recursive Language Models separates persistent input and intermediate state from bounded neural context. Ministral 3 reuses pretrained weights through progressive pruning and distillation. mHC changes how parallel residual streams exchange information...

영문판 보기 이달의 트렌드 이 연구들은 언어 모델의 연산 구성 방식이 능력에 미치는 영향을 살펴본다. Recursive Language Models는 영속적으로 저장하는 입력과 중간 상태를 크기가 제한된 신경망 컨텍스트에서 분리한다. Ministral 3는 점진적인 가지치기와 증류로 사전학습된 가중치를 재사용한다. mHC는 병렬 residual stream들이 여러 층에 걸쳐 정보를 교환하는 방식을 바꾼다. 각 방법은 추론,...

This article explains the key points of Shaping capabilities with token-level data filtering. 2026-01-29 (arXiv), Preprint Rathi, Neil, Radford, Alec. Anthropic, Stanford, Independent Paper Github Read this article in Korean Summary Shaping capabilities with token-level data filtering studies whether pretraining interventions can suppress unwanted capabilities while preserving useful ones. Using...

이번 글에서는 Shaping capabilities with token-level data filtering 논문의 핵심 포인트만 간단히 정리한다. 2026년 1월 29일(Arxiv), Preprint Rathi, Neil, Radford, Alec. Anthropic, Stanford, Independent 논문 링크 Github 영문판 보기 요약 Shaping capabilities with token-level data filtering은 사전학습 단계의 개입으로 유용한 능력을 유지하면서 원치 않는 능력을 억제할 수 있는지 연구한다. 의학을...