양자화 잡음: 연속적인 전압을 유한한 숫자로 표현하는 대가
온도 센서의 출력 전압은 아주 조금씩 달라질 수 있지만 N비트 ADC의 출력 코드는 최대 2^N개뿐이다. 양자화는 입력의 연속적인 크기를 이 유한한 코드 중 하나에 대응시키는 과정이다. 시간축을 이산화하는 샘플링과는 별개의 제약이다. 빠르게 측정해도 한 코드 안의 작은 차이는 즉시 드러나지 않을 수 있고, 비트 수가 많아도 샘플 시각 사이의 정보가 자동으로 보존되는 것은 아니다.
한 눈금의 크기에서 오차를 계산한다
입력 전압 범위의 폭을 Vspan[V]라고 하면 이상적인 균일 양자화기의 눈금 Δ는 Vspan/2^N[V]다. 과부하가 없고 가장 가까운 눈금으로 반올림하는 모델에서 양자화 오차 e는 대략 −Δ/2~+Δ/2에 놓인다. 예를 들어 0~4.096V 범위의 12비트 ADC는 Δ=1mV다. 이 범위 안에서 값 하나를 눈금으로 대표하면 최대 약 0.5mV의 오차가 생긴다. 실제 ADC의 코드 경계 정의에 따라 끝점 설명은 달라질 수 있으므로 전달 특성의 기준도 확인해야 한다.
입력 1.2343V를 간단한 반올림 모델에 넣으면 대표값은 1.234V이고 오차는 −0.3mV가 된다. 이 오차는 같은 값이 들어올 때 반복되므로 원래부터 무작위 현상은 아니다. 입력이 여러 눈금을 충분히 돌아다니고 오차가 신호와 거의 상관없다고 가정할 때, 오차를 폭 Δ의 균등 분포 잡음처럼 근사할 수 있다. 이 모델의 평균은 0이고 분산은 Δ²/12, 실효값은 Δ/√12다. 앞의 1mV 눈금에서는 약 0.289mV rms가 된다.
6.02N+1.76dB가 말하는 정확한 조건
이상적인 N비트 양자화기에 입력 범위를 가득 사용하는 정현파를 넣으면, 신호 실효값과 양자화 오차 실효값의 비에서 SNR≈6.02N+1.76dB를 얻는다. 정현파의 최대·최소가 입력 범위의 양 끝에 대응하고, 클리핑이 없으며, 다른 잡음과 왜곡을 제외하고 전체 나이퀴스트 대역의 양자화 잡음을 계산하는 조건이다. 이 식은 모든 파형이나 모든 입력 크기의 성능을 보장하는 명세가 아니다. 12비트의 이상적인 값은 약 74dB다.
같은 변환기에서 정현파 진폭을 절반으로 줄이면 신호 전력은 1/4이 된다. 양자화 잡음 모델의 전력이 같다고 보면 SNR은 약 6.02dB 낮아진다. 반대로 한 비트를 더 사용하면 눈금이 절반이 되고 잡음 전력이 1/4로 줄어 SNR이 약 6dB 높아진다. 이 관계는 작은 신호가 몇 개 코드만 오가는 경우에도 그대로 보장되지는 않는다. 입력과 샘플링 시계의 관계에 따라 오차가 주기성을 띠어 백색 잡음 대신 특정 주파수의 스퍼로 나타날 수도 있다.
실제 잡음과 유효 비트 수를 구별한다
ADC에는 열잡음, 기준 전압 잡음, 회로 비선형성, 클록 지터도 있다. 따라서 명목상 16비트라는 표기가 16비트의 깨끗한 측정 결과를 뜻하지 않는다. 정현파 시험에서 신호 대 잡음 및 왜곡비 SINAD를 측정하고 ENOB=(SINAD−1.76)/6.02로 환산하기도 한다. 이 유효 비트 수는 시험 주파수와 진폭, 대역폭에 의존한다. 왜곡을 제외한 SNR을 그대로 넣으면 잡음뿐인 별도 지표가 되므로 데이터시트가 어떤 성분을 포함하는지 읽어야 한다.
반복 측정의 평균은 서로 독립적인 잡음의 분산을 줄일 수 있다. 그러나 완전히 일정한 입력이 같은 코드에 고정되는 결정적 양자화 오차는 평균만으로 없어지지 않는다. 적절한 디더를 넣으면 코드 경계를 넘나들게 하여 평균의 선형성을 개선할 수 있지만, 추가 잡음과 필터링이 필요한 대가가 있다. 오버샘플링도 대역 밖으로 분포한 잡음을 디지털 필터로 제거할 수 있는 조건에서 관심 대역의 성능을 높인다. 양자화는 단순한 비트 수 문제가 아니라 입력 분포, 잡음 모델, 측정 대역을 함께 지정해야 설명할 수 있는 오차다.