측정 불확도는 반복 횟수보다 비교의 조건을 묻는다

두 장비가 같은 선폭을 재서 1.5nm 다른 값을 냈다. 이것만으로 한쪽 장비가 틀렸다고 판단할 수 있을까. 먼저 각 결과에 남아 있는 측정 불확도를 알아야 한다. 측정 불확도는 실제 오차를 알아냈다는 뜻이 아니라, 측정 결과로 대상량을 추정할 때 남는 불확실성을 수치로 표현한 것이다. 반복 측정이 잘 모이는지와 최종 결과를 얼마나 믿을 수 있는지는 연결되지만 같은 질문은 아니다.

평균을 내면 줄어드는 성분이 있다

가상의 선폭 측정에서 한 번의 측정값이 보이는 표준편차를 1.2nm라고 하자. 같은 대상과 조건에서 36번 독립적으로 측정하면 평균의 반복성 성분은 1.2/√36 = 0.2nm다. 값이 시간에 따라 변하거나 측정들이 서로 강하게 연관되어 있다면 이 계산을 그대로 쓰기 어렵다.

여기에 교정값의 표준불확도 0.5nm와 형상 보정 모델의 표준불확도 0.4nm가 남는다고 가정하자. 세 성분이 독립이고 최종 선폭에 대한 기여량으로 표현되어 있다면, 합성표준불확도 u는 다음과 같다.

u = √(0.2² + 0.5² + 0.4²) ≈ 0.671nm

교정과 모델에 대한 수치는 실제 장비 사양이 아닌 예제의 입력이다. 유의한 계통 효과는 보정하고, 여기서는 그 보정값을 완벽히 알지 못해 남는 불확도를 더한 것이다. NIST TN 1297도 보정의 불확도와 계통 오차 자체를 구분한다. NIST TN 1297, 3절·5절

측정을 144번으로 늘리면 반복성 성분은 0.1nm가 되지만 합성값은 약 0.648nm다. 반복 횟수는 네 배인데 최종 불확도 감소는 작다. 반복을 아무리 늘려도 이 가정에서 교정·모델 성분만 합친 약 0.640nm가 남기 때문이다. 같은 시료를 반복하는 것만으로 다른 형상이나 재료에서 생기는 편향까지 찾을 수 없다는 문제도 있다. IRDS 2024 계측, 본문 18쪽 5.4.2절

두 결과를 비교할 때는 차이의 불확도를 구한다

다른 장비도 같은 세 성분을 가진다고 하자. 두 결과의 불확도가 서로 독립이면 차이 Δ의 표준불확도는 uΔ = √(u₁² + u₂²)이므로 약 0.949nm다. 정규분포 근사와 충분히 신뢰할 만한 불확도 평가를 가정해 포함인자 k=2를 쓰면, 차이의 확대불확도는 약 1.90nm가 된다. 측정된 차이 1.5nm 주변의 이 구간에는 0도 들어간다. 이 조건만으로 두 결과가 다르다고 확정하기는 어렵다.

그러나 두 장비에 똑같이 더해지는 공통 교정 성분 0.5nm가 있다면 이야기가 달라진다. 그 성분은 차이를 낼 때 상쇄된다. 다른 성분들만 독립이라고 가정하면 uΔ = √[2(0.2² + 0.4²)] ≈ 0.632nm이고, k=2의 확대값은 약 1.26nm다. 같은 1.5nm 차이가 이제 이 구간보다 크다. 공통 성분을 실제로 확인했을 때만 가능한 계산이다.

일반적으로는 uΔ² = u₁² + u₂² - 2cov(y₁,y₂)처럼 공분산을 포함한다. 오차 막대가 겹치는지만 보는 방식이 충분하지 않은 이유다. k=2가 언제나 정확한 95% 구간인 것도 아니다. 분포와 불확도 평가의 신뢰도에 맞는 해석이 필요하다. NIST TN 1297, 부록 A·6절

측정 불확도를 알면 차이가 작다는 말도 더 구체적으로 할 수 있다. 무엇을 반복했고 어떤 보정을 적용했으며, 두 결과가 무엇을 공유하는지 확인한 뒤 차이의 불확도를 계산해야 한다. 반복 측정 수를 늘리는 것과 다른 장비의 결과를 비교하는 데 필요한 증거가 왜 다른지도 그때 드러난다.