Feature #1442
Updated by 상재 이 14 days ago
### 핵심 질문
FS2 + L1을 기준으로, 하이퍼파라미터를 제한된 범위에서 바꿨을 때 정식 판정을 통과하는 개선이 있는가 (#1127 E5a)
### 방법 (#1127 §5.2)
- 탐색 후보 조합 최대 12개를 실험 전에 PM 사전 등록 (범위·조합 목록)
- seed 11 한 번으로 선별 → 상위 3개만 seed 11/22/33 짝 비교로 정식 판정
- 기준: FS2 + R2 + L1 (seed 3개)
- 긴 실행은 11/04 저녁에 걸고 11/05 오전 판정
### PASS 조건
- §5.2 ADOPT: 평균 개선 ≥ 0.002, 평균 개선 ≥ 2·sd, 개선 fold ≥ 3/4
- 같은 코드·같은 환경(이상재 노트북) 실행, HOLDOUT 미사용
- Codex PASS
- 제출 후보로 올릴 때는 Track A-1과 같은 제출 게이트 적용
### 추가 (11/03)
- 판정 보고에 그룹 합계 지표(#990 배정, compare_to_reference.py 정의)를 함께 기록. 그룹 합계를 PASS 조건에 넣을지는 PM 확정 후 반영
- 실행 환경: 이상재 노트북만 사용. Google Colab은 사용하지 않음 (주최 측 "대회 데이터를 외부 AI 서비스에 넣는 것 금지" 규칙과 Colab Gemini 기능 고려)
Back