탐침 컨볼루션은 같은 선을 다른 폭으로 보이게 한다

AFM으로 본 좁은 선이 예상보다 넓게 보인다면, 실제 공정이 선을 넓혔을 수도 있고 팁이 만든 영상 효과일 수도 있다. 팁은 수학적인 점이 아니기 때문이다. 팁의 끝이 선 위를 지나가면서, 끝부분이 아니라 팁의 옆면이 시료에 먼저 닿는 위치가 생긴다. 이 기하학적 효과를 흔히 탐침 컨볼루션이라고 부른다.

영상의 높이는 접촉 가능한 위치에서 결정된다

딱딱한 팁과 시료가 변형 없이 닿는 이상적인 모델에서, 스캐너가 기록하는 것은 그 수평 위치에서 팁을 더 내릴 수 없게 되는 높이다. 실제 표면을 작은 점으로 하나씩 읽는 과정과 다르다. NIST 원문은 이 영상 형성을 일반적인 선형 컨볼루션보다 수학적 형태학의 팽창으로 표현하는 것이 적절하다고 설명한다. 솟은 선은 넓어지고, 좁은 홈은 접근이 제한될 수 있다. Dixson 등, 2018, 3.1절

따라서 단순한 저역통과 필터의 역연산을 적용하면 원래 표면이 복원된다고 생각하기 어렵다. 영상은 팁과 시료가 서로 겹치지 않아야 한다는 제약을 따른다. 높이와 폭에 생기는 효과도 같지 않다.

같은 선을 두 원뿔 팁으로 측정해 보자

폭 W=30nm, 높이 H=50nm이고 수직 옆벽을 가진 고립된 직사각형 선을 가정하자. 팁의 끝은 수학적으로 뾰족한 원뿔이고, 반각 θ는 팁의 축과 옆면 사이의 각도다. 팁이 수직으로 접근하며 변형·잡음·피드백 지연은 없다고 하자.

실제 옆벽 바깥으로 d만큼 떨어진 곳에서 팁의 옆면이 꼭대기 모서리에 닿으면, 팁 끝의 영상 높이는 z = H - d/tanθ가 된다. 영상이 바닥 높이에 도달하는 위치는 d = H tanθ이므로, 영상의 바닥 폭은 W영상 = W + 2H tanθ다.

θ=10°인 팁에서는 약 47.6nm, θ=20°에서는 약 66.4nm로 보인다. 실제 선의 폭은 둘 다 30nm다. 반면 높이 25nm에서 영상의 폭을 정의하면 각각 약 38.8nm와 48.2nm다. 영상 폭이라는 이름만으로도 어느 높이에서 읽었는지가 필요하다는 점이 드러난다.

이 가상 모델의 평평한 꼭대기는 팁 끝이 닿을 수 있으므로 높이 50nm가 유지된다. 실제 팁은 끝이 둥글고 형상이 더 복잡하며, 주변 구조가 가까우면 접근 조건도 바뀐다. 여기서 얻은 폭 증가식을 모든 AFM 이미지에 일괄 적용할 수는 없다.

팁을 알아도 되살릴 수 없는 영역이 있다

팁 형상을 알면 접근 가능한 표면의 기하학적 보정을 할 수 있다. 그러나 좁은 홈의 바닥에 팁이 닿지 못했다면, 더 깊은 바닥과 덜 깊은 바닥이 같은 영상을 만들 수 있다. 찍히지 않은 부분을 이미지 하나로 구별할 정보가 없기 때문이다.

Villarrubia의 원문은 재구성한 표면이 실제 표면과 일치하는 대신, 가능한 표면의 상한만 줄 수 있다고 설명한다. 접근할 수 없었던 영역에서는 여러 표면이 같은 영상을 만든다. 보정 결과가 원래 표면과 반드시 같지 않은 이유다. Villarrubia, 1997, 4.1절

팁 마모와 표면에 붙은 오염도 유효 형상을 바꾼다. 측정 전후 팁 상태를 확인하거나 다른 팁으로 같은 구조를 비교하면, 선이 실제로 달라진 것인지 영상 효과가 달라진 것인지 판단하는 데 도움이 된다. 다만 팁 사이의 값이 맞는 것만으로 접근 불가능한 영역이 측정되었다고 말할 수는 없다.

탐침 컨볼루션을 이해하는 목적은 AFM 폭에 고정된 숫자를 빼는 데 있지 않다. 선택한 폭의 정의와 팁이 실제로 닿은 경계를 확인하는 데 있다. 그 조건을 갖춰야 넓어진 이미지가 공정 변화의 증거인지, 탐침 형상의 흔적인지 구분할 수 있다.