Dpdo

DSD 노이즈 셰이핑 심층 분석: IIR vs FIR, 3–11차 선택법

노이즈 셰이핑은 PCM→DSD 변환에서 음질을 결정하는 가장 핵심적인 단계입니다. 이 글은 그것이 무엇을 하는지, 구조와 차수의 차이, 그리고 DpdoEngine에서의 구성 방법을 명확히 설명합니다.

1. 왜 노이즈 셰이핑이 필요한가

다중 비트 PCM을 1-bit 표현으로 줄이면 양자화 오차가 막대한 노이즈를 유발합니다. 처리하지 않으면 가청 대역의 신호대잡음비가 약 6 dB/bit에 불과해 전혀 쓸 수 없습니다.

노이즈 셰이핑(Noise Shaping) 의 아이디어: 사람의 귀가 고주파에 둔감한 특성을 활용해, 피드백 루프로 양자화 노이즈를 20 kHz 이상의 초음파 대역으로 "밀어내어" 가청 대역의 노이즈 플로어를 극도로 낮게 유지합니다.

다중 비트 신호 ──→ [양자화기] ──→ 1-bit 출력
	                  ↑           │
	                  └── 오차 피드백 ┘（노이즈 셰이퍼）

셰이핑 후의 노이즈 분포: 인밴드는 낮추고(높은 SNR 확보), 밴드외는 높입니다(DSD 재생 체인이 저역 통과 필터로 제거).

2. IIR과 FIR: 두 종류의 셰이퍼 선택

IIR(무한 임펄스 응답)

  • 원리: 재귀 피드백 구조, 적은 계산량으로 고차 셰이핑 구현
  • 장점: 같은 차수에서 인밴드 셰이핑 성능이 더 좋음; 계산 효율이 높아 높은 업샘플링 레이트에 적합
  • 단점: 위상 응답이 비선형(비최소 위상 구현 시 군지연 변화)
  • DpdoEngine 구조 옵션: 표준 IIR, MASH(다단 노이즈 셰이핑), CIFB(적분기 체인 + 피드백), 다항식

FIR(유한 임펄스 응답)

  • 원리: 피드포워드 유한 길이 필터, 계수 고정
  • 장점: 위상 선형성, 일정한 군지연 — 다단 캐스케이드 처리 시 오차 예측 가능, 마스터링급 워크플로에 적합
  • 단점: 같은 성능에 taps 요구량이 큼(계산량 높음), 인밴드 셰이핑 효율이 같은 차수 IIR보다 약간 낮음
  • DpdoEngine 기본값: taps 자동(최소 4096 window / 512 Remez, 구성 가능)

한 줄 선택: - 일반 재생/오디오파일 → IIR 9차 또는 11차(성능과 효율의 균형) - 마스터링/다단계 처리 → FIR(위상 예측 가능, 캐스케이드에서 위상 오차가 누적되지 않음)

3. 차수 선택: 3/5/7/9/11

차수는 셰이핑 곡선의 기울기를 결정합니다. 차수가 높을수록 인밴드 노이즈 억제가 강해지지만, 그 대가로:

  • 계산량 증가(11차 IIR은 CPU 요구가 확연히 높아지며, 4코어 이상 권장)
  • 변조기 안정성 요구가 더 높음(고차 피드백 루프는 불안정해지기 쉬워 더 정밀한 극점/영점 구성 필요)
  • 밴드외 노이즈 피크가 더 높음(후단 저역 통과 필터의 요구가 더 엄격)

DpdoEngine 구성 대조:

차수포지셔닝권장 시나리오
3입문/저전력휴대용 기기, 실시간성 우선
5균형일반적인 변환
7기본값기본 구성, 성능/품질의 성숙한 균형점
9고급하드웨어에 여유가 있을 때 더 낮은 인밴드 노이즈 추구
11한계양자화 노이즈를 가장 멀리 밀어냄, 하드웨어 요구 높음

고급 파라미터: - --pole V: 극점 위치(기본 8.5), 셰이핑 곡선의 형태와 안정성에 영향 - --zero: 영점 최적화 - --mash / --cifb / --poly: 셰이핑 구조 전환

4. 셰이핑 효과 검증(실측 경로)

# 9차와 11차의 인밴드 성능 비교
	dsp_bench --input test.wav --order 9 --order 11
	
	# 출력 파일의 왜곡과 노이즈 플로어 측정
	thdn output.dsf

무엇을 볼 것인가: - 20 Hz–20 kHz 인밴드 노이즈 플로어: 고차는 양자화 노이즈를 더 멀리 밀어냅니다. 인밴드는 더 낮게, 밴드외 피크는 더 높게, 셰이핑 곡선은 더 가파르게(7차와 11차의 차이는 조용한 구간, 고주파 악기에서 가장 뚜렷) - 밴드외 노이즈 피크의 위치와 높이(재생 체인 저역 통과 필터의 부담 결정) - 실제 청취: 최종 판정은 재생 체인

5. 흔한 오해

  • "차수가 높을수록 반드시 좋다": 아닙니다. 11차는 하드웨어와 재생 체인의 요구가 더 높고 밴드외 노이즈가 더 공격적이라 오히려 일부 DAC가 더 "버거워" 합니다. 9차가 대부분의 시나리오에서 최적해입니다.
  • "FIR이 반드시 IIR보다 낫다": 위상 특성에서는 FIR이 유리하지만, 인밴드 셰이핑 효율은 IIR이 더 높습니다. 둘은 서로 다른 시나리오에 적합하며 절대적 우열은 없습니다.
  • "셰이퍼가 나쁜 소스를 고칠 수 있다": 불가능합니다. 노이즈 셰이핑은 양자화 노이즈만 처리하며, 소스 파일의 왜곡, 클리핑, 압축 손상은 복구되지 않습니다.

본 문서는 Dpdo가 작성했으며, 파라미터 세부 사항은 파라미터 레퍼런스 문서를 참조하세요. 실측 데이터는 dsp_bench / thdn 출력을 기준으로 합니다.