#실험 설계
1개의 글
- LLM 벤치마크의 간헐적 지연: 원인 분석과 측정 규약
반복 측정, 로그 대조, CPU 이동 실험으로 decode 지연을 분석했다. 관측 결과와 인과 추론의 한계를 구분하고, 아키텍처 비교에 사용할 측정 규약과 진단 종료 기준을 정했다.
1개의 글
반복 측정, 로그 대조, CPU 이동 실험으로 decode 지연을 분석했다. 관측 결과와 인과 추론의 한계를 구분하고, 아키텍처 비교에 사용할 측정 규약과 진단 종료 기준을 정했다.