2025년 3월 AI 논문 동향

이달의 트렌드
2025년 3월의 주요 논문
출처

이달의 트렌드

2025년 3월의 주제는 학습과 실행 설계가 언어 모델 성능에 미치는 영향으로, 논문 3편은 모두 모델 주변의 처리 과정을 바꾸어 구체적인 공학적 제약에 대응한다. Distributed Low-Communication의 약자인 DiLoCo는 독립적으로 학습한 모델 사본을 주기적으로 동기화해 통신을 줄인다. 행동 priming은 생성한 풀이에 보상을 부여하는 강화학습 전에 추론 예시를 제공한다. CApabilities for MachinE Learning의 약자인 CaMeL은 신뢰하는 계획 수립과 외부 데이터 처리를 분리하고, 도구 호출이 보안 규칙을 충족하는지 검사한다. 1, 2, 3

학습 연구들은 연산을 효과적으로 활용하려면 최적화 설정과 초기 학습 데이터가 중요하다는 점을 보여준다. DiLoCo는 매 스텝 모든 모델 사본이 처리하는 토큰 수인 전역 배치 크기를 더 크게 설정할 수 있으며, 작은 모델에서 예측한 설정을 4B와 10B 파라미터 실험에 적용한다. 추론 행동 연구에서는 실패한 접근을 포기하는 backtracking과 중간 결과를 확인하는 verification이 포함된 예시를 제공하면, Llama가 산술 퍼즐인 Countdown에서 이후 보상 기반 학습을 통해 더 크게 개선된다. 길이를 맞춘 자리표시자 대조 조건에서는 비슷한 효과가 거의 나타나지 않아, 토큰 수와 함께 시연의 내용도 살펴볼 근거를 제공한다.

이 연구들은 중간 측정값과 실질적인 성과도 구분한다. DiLoCo의 학습 시간 이점은 이상화한 네트워크와 추가 칩 확보를 가정한 모델로 계산한다. 추론 행동이 더 자주 나타나도 다른 과제의 정확도가 높아지는 것은 아니다. 추가 사전학습을 적용한 Llama 변형 2개는 대학원 수준 질의응답 벤치마크인 GPQA에서 모두 약 12%를 기록한다. CaMeL은 외부 콘텐츠에 악성 지시를 숨기는 프롬프트 인젝션의 성공을 줄이지만, 과제 완료 성능의 하락 폭은 모델에 따라 크게 다르다. 따라서 공학적 평가에서는 대표 결과와 함께 자원 가정, 과제 성과, 보안 적용 범위를 확인해야 한다.

2025년 3월의 주요 논문

1. Communication-Efficient Language Model Training Scales Reliably and Robustly: Scaling Laws for DiLoCo

https://arxiv.org/abs/2503.09799
Communication-Efficient Language Model Training Scales Reliably and Robustly: Scaling Laws for DiLoCo 요약 설명
DiLoCo는 독립적으로 학습하는 모델 사본인 복제본마다 로컬 최적화 스텝을 수행한 뒤, 외부 옵티마이저로 누적된 가중치 차이를 결합한다. 대부분의 실험에서는 로컬 스텝 30회마다 동기화하고 파라미터당 학습 토큰 20개를 배분한다. 매 스텝 기울기를 동기화하는 Data-Parallel 학습과 비교할 때 모델 크기와 총학습 토큰 수를 동일하게 유지한다.
손실과 학습 설정을 예측하는 경험적 함수인 scaling law를 35 million부터 2.4 billion parameters까지의 탐색 결과에 적합한다. 공동으로 예측한 설정을 사용하면 복제본 2개인 DiLoCo의 홀드아웃 손실은 4 billion parameters에서 2.220으로 Data-Parallel의 2.224보다 낮고, 10 billion에서는 2.086으로 2.090보다 낮다. 홀드아웃 손실은 학습에서 제외한 데이터로 측정한다. 독립적으로 적합한 설정에서는 복제본 2개의 손실이 각각 2.218과 2.083으로 더 낮지만, 복제본 4개의 손실은 여전히 Data-Parallel보다 약간 높다.
품질을 유지할 수 있는 배치 크기의 증가는 최저 손실과 구분되는 이점이다. 단일 복제본 DiLoCo는 통신을 줄이지 않으면서도 광범위하게 튜닝한 모든 모델 크기에서 관측된 최저 손실을 개선하고 더 큰 배치를 견딘다. 동기화 주기가 30이고 모델 크기가 335 million 파라미터 이상이면, 동기화 업데이트의 크기를 조절하는 외부 학습률의 시험한 최적값은 복제본 수별로 모델 크기가 달라져도 일정하다.

병렬 내부 최적화와 주기적 외부 최적화를 번갈아 수행하는 복제본 4개의 DiLoCo

모델 크기별 평가 손실과 Data-Parallel 대비 손실 차이의 백분율

2. Cognitive Behaviors that Enable Self-Improving Reasoners, or, Four Habits of Highly Effective STaRs

https://arxiv.org/abs/2503.01307
Cognitive Behaviors that Enable Self-Improving Reasoners, or, Four Habits of Highly Effective STaRs 요약 설명
Countdown에서 동일한 조건으로 강화학습을 250스텝 수행하면 Qwen-2.5-3B는 약 60%의 정확도에 도달하고 Llama-3.2-3B는 30%를 기록한다. 연구는 명시적으로 나타난 verification, backtracking, 중간 목표를 제안하는 subgoal setting, 원하는 결과에서 거꾸로 추론하는 backward chaining을 측정한다. 이 횟수는 생성된 텍스트에서 관찰되는 행동을 나타내며 모델 내부의 계산 과정을 직접 입증하지는 않는다.
제공된 응답 예시를 학습하는 지도 미세조정으로 보상 기반 학습 전에 Llama에 이러한 행동을 priming하면, priming을 적용하지 않은 Qwen과 같거나 더 높은 성능을 얻는다. 추론을 비우거나 길이를 맞춘 자리표시자로 대체한 대조 조건은 약 30–35%에 머문다. 목표 행동이 포함된 오답 풀이로 priming해도 표준 모든 전략 priming과 비슷한 학습 곡선을 보인다. 표준 조건의 시연도 완벽하지 않으며, 후속 강화학습에서는 여전히 정답 여부에 따라 보상을 부여한다.
수학 웹 텍스트 데이터셋인 OpenWebMath에서 목표 행동을 강화한 데이터로 추가 사전학습하면 Llama의 Countdown 학습 경로가 Qwen에 가까워지며, 같은 8.3 million-token 예산으로 행동을 최소화한 대조 조건보다 성능이 높다. 이 개입은 문서 선택과 재작성을 결합한다. 합성 행동 priming 조건에는 모두 backtracking이 포함되므로 각 행동의 독립적인 이점을 입증하지는 않는다. 다른 과제로 전이된 행동의 빈도가 달라도 추가 사전학습 변형 2개는 GPQA에서 모두 약 12%를 기록한다.

Qwen-2.5-3B와 Llama-3.2-3B의 Countdown 학습 경로, 추론 행동, 행동 priming, 선별 데이터를 이용한 추가 사전학습 개요

Countdown에서 Qwen-2.5-3B, Llama-3.2-3B, Llama-3.1-70B의 학습 전 인지 행동 빈도

3. Defeating Prompt Injections by Design

https://arxiv.org/abs/2503.18813
Defeating Prompt Injections by Design 요약 설명
CaMeL은 계획 수립 모델이 외부 콘텐츠를 보지 못하도록 하고, 도구 접근 권한이 없는 별도 모델에 파싱을 맡겨 도구 사용 에이전트를 보호한다. 전용 Python 인터프리터는 각 값의 출처와 허용된 읽기 주체를 기록하는 메타데이터인 capability를 추적하고 도구 호출 전에 정책을 집행한다. 이 방식은 계획된 동작을 바꾸려는 시도와 함께, 공격자가 문서 수신자를 지정하는 것과 같은 인자 조작에도 대응한다.
도구 사용 에이전트의 정당한 과제 완료와 공격을 평가하는 AgentDojo에서 o3 High의 정상 과제 성공률은 CaMeL을 사용할 때 77.3%, 기본 도구 호출 인터페이스를 사용할 때 84.5%다. 정책을 적용하면 주요 보안 평가의 공격 949건에서 성공한 공격은 0건이다. 결과는 구성에 따라 다르다. 정책을 적용한 결과 표에는 Claude 4 Sonnet의 각 구성에서 성공한 공격이 11건씩, Gemini 2.5 Flash와 o4 Mini High에서 1건씩 남아 있다.
배포 비용은 모델 선택, 정책의 정밀도, 의존성 추적에 따라 달라진다. Gemini 2.5 Pro의 정상 과제 성공률은 73.2%에서 41.2%로 낮아진다. STRICT 모드는 데이터가 연산의 실행 여부에 영향을 미치는 암묵적 의존성을 추적하지만, 관찰 가능한 실행 동작을 통해 정보가 유출되는 일부 부채널은 여전히 가능하다. 오해를 유발하는 텍스트 출력은 보호 범위 밖에 있으며, 구현의 정형 검증은 향후 과제로 남아 있다. 보고된 벤치마크 결과는 해당 정책과 위협 모델 안에서 아키텍처의 효과를 뒷받침하며, 프롬프트 인젝션에 대한 완전한 보호를 입증하지는 않는다.