Octane Spectron vs Mesh Emitters: 멀티 GPU 렌더팜에서 Caustic Cache와 포톤 트레이싱 마스터하기

1. Octane Spectron vs Mesh Emitters: 아키텍처의 차이

OctaneRender의 렌더링 파이프라인에서 조명은 단순한 예술적 값이 아니라, 물리적 렌더링 방정식(Rendering Equation) 전체에 걸쳐 계산되는 고차원 적분입니다. 이미터(emitter)를 수학적으로 어떻게 정의하느냐에 따라 최신 GPU의 RT Core가 몇 초 만에 깔끔하게 수렴할지, 아니면 끈질긴 몬테카를로 노이즈에 막혀 버릴지가 결정됩니다.

1.1. 샘플링 메커니즘: Next Event Estimation과 MIS

OctaneRender는 Next Event Estimation(NEE)과 Multiple Importance Sampling(MIS)을 결합하여 직접 조명을 계산합니다. 아이 패스(eye path)가 거칠거나 디퓨즈한 표면에 닿을 때마다 엔진은 씬의 이미터를 향하는 섀도 레이를 명시적으로 생성하여 직접 가시성과 래디언스를 평가합니다.

아티스트가 Mesh Emitter(임의의 폴리곤 지오메트리에 Blackbody 또는 Texture Emission 머티리얼을 할당한 것)를 사용하면 다음과 같은 일이 벌어집니다:

• Octane은 수백, 수천 개의 임의 삼각형 면에 걸쳐 이산 확률 밀도 함수(PDF)를 계산해야 합니다.
• 곡선형 네온 글자, 구부러진 필라멘트, 촘촘한 건축용 샹들리에 같은 불규칙한 지오메트리는 표면 노멀이 무질서합니다.
• 표면적 가중치가 심하게 왜곡됩니다. 섀도 레이가 메시 자체의 오목한 내부, 즉 스스로 그림자를 드리운 부분에 자주 부딪힙니다. MIS 추정기는 확률이 낮은 경로에 지나치게 큰 가중치를 부여하고, 그 결과 극단적인 레이 발산이 일어나 파이어플라이(fireflies)라고 부르는 밝고 고립된 고분산 아티팩트가 생깁니다.

1.2. Octane Spectron의 해석적 정밀성

폴리곤 샘플링의 태생적 결함을 피하기 위해, OTOY는 패스 트레이싱 코어에 직접 내장된 절차적·해석적 조명 아키텍처인 Spectron을 설계했습니다:

1. 폴리곤 없는 수학적 교차 계산: Spectron 프리미티브(Sphere, Cylinder/Tube, Quad, Spot)에는 삼각형 버텍스가 없습니다. GPU 레이 트레이서는 복잡한 바운딩 볼륨 계층 구조를 순회하는 대신 정확한 수학 공식으로 표면 교차를 대수적으로 계산합니다. Spectron은 지오메트리 VRAM을 0 MB 사용하며, 하드웨어 NVIDIA OptiX Ray Tracing Engine 가속 구조(BVH)에서도 오버헤드가 전혀 발생하지 않습니다.
2. 연속 스펙트럼 분산: 이산적인 8-bit 또는 16-bit RGB 값으로 색을 근사하는 대신, Spectron은 연속적인 물리 파장 스펙트럼을 따라 조명을 모델링합니다. 이 레이가 분산성 유전체 매질(커팅된 다이아몬드, 납 크리스털, 광학 프리즘 등)을 만나면 자연스러운 색수차가 광학적으로 충실하게 나타납니다.
3. 절차적 빔 셰이핑: Spectron은 해석적 반 도어(barn door), 콘 각도, 소프트 엣지 전환을 이미션 커널에 직접 통합합니다. 아티스트는 메모리 처리량을 떨어뜨리는 물리적 차단 지오메트리를 추가하지 않고도 무대 조명이나 스튜디오 조명을 원하는 형태로 만들 수 있습니다.

2. Octane 포톤 트레이싱(Photon Tracing)과 스페큘러 커스틱 해부

스페큘러 커스틱(specular caustics)은 빛의 레이가 굴절 매질(건축용 유리, 액체 볼륨, 정교한 보석 단면 등)을 통과하면서 꺾이고, 모이고, 주변의 디퓨즈 표면에 투사되는 현상입니다.

2.1. 표준 패스 트레이싱이 스페큘러 커스틱에서 실패하는 이유

표준 단방향 패스 트레이싱에서 커스틱 경로를 계산하려면 카메라 레이가 다음 순서를 따라 추적되어야 합니다:

임의의 카메라 레이가 디퓨즈 바닥에서 튕겨 나와 복잡한 곡면 유리 향수병을 통과하며 굴절된 뒤 작은 광원에 닿을 수학적 확률은 극히 작습니다. 표준 패스 트레이싱으로 선명한 커스틱을 얻으려는 아티스트는 샘플링 한도를 10,000~30,000 샘플로 설정하는 경우가 많습니다. 이렇게 하면 수백 시간의 GPU 시간을 소모하고 엄청난 발열 부하가 생기는데도 결과물은 여전히 노이즈와 반점투성이입니다.

2.2. Photon Tracing Kernel의 작동 원리

OctaneRender는 전용 Photon Tracing Kernel로 이 한계를 없앱니다. 이 아키텍처는 서로 다른 두 단계에 걸쳐 양방향으로 작동합니다:

1. 라이트 패스(포톤 방출 및 퇴적): 카메라 평가에 앞서 GPU가 씬의 이미터에서 수백만 개의 개별 에너지 입자(포톤)를 직접 발사합니다. 이 포톤은 유전체 머티리얼을 통과하면서 스넬의 법칙에 따라 굴절되고, 디퓨즈 표면 곳곳에 에너지 좌표를 남겨 In-Core 공간 포톤 맵(Photon Map)을 구성합니다.
2. 아이 패스(카메라 수집): 카메라 레이는 평소대로 씬을 추적합니다. 디퓨즈 표면에 닿으면 레이가 공간 포톤 맵을 조회하고, 국소 포톤 밀도를 즉시 합산하여 노이즈가 거의 없는 밝고 날카로운 커스틱을 만들어 냅니다.

이 커널을 제대로 다루려면 네 가지 핵심 파라미터를 보정해야 합니다:

• Photon Count: 라이트 패스 동안 방출되는 포톤의 총량입니다(프로덕션에서는 일반적으로 1,500만~5,000만). 값이 높을수록 복잡한 커스틱 구조가 선명해지지만 전용 VRAM 할당이 필요합니다.
• Exploration Depth: 포톤 하나에 허용되는 최대 굴절 바운스 횟수입니다. 이중벽 유리잔, 액체 용기, 다면 커팅 주얼리를 비출 때는 8~16 사이로 설정해야 합니다.
• Caustic Gather Radius: 카메라 레이가 주변 포톤을 모아 매끄러운 래디언스 값으로 합산할 때 사용하는 물리적 탐색 반경입니다. 너무 넓게 잡으면 커스틱이 흐려지고 구조적 디테일이 사라지며, 너무 좁게 잡으면 이미지에 고립된 얼룩이 나타납니다.
• Caustic Blur: 수치 스무딩 파라미터입니다. 상업 프로덕션에서는 이 값을 반드시 0.01~0.03 사이로 유지해야 날카로운 커스틱 물결을 살리면서 고주파 노이즈를 막을 수 있습니다.

3. 멀티 GPU 렌더팜의 역설: 템포럴 보일링과 커스틱 깜빡임

포톤 트레이싱은 단일 스틸 이미지에서는 완벽한 결과를 내지만, 300프레임 분량의 상업 애니메이션을 분산 클라우드 클러스터에서 렌더링하면 심각한 프로덕션 실패로 이어지는 경우가 많습니다.

3.1. 프레임별 준몬테카를로(Quasi-Monte Carlo) 시드 함정

기본적으로 Octane은 무작위화된 준몬테카를로 분포로 포톤 생성 패스를 초기화합니다. 의도적인 캐싱 제어가 없으면 다음과 같은 일이 생깁니다:

• 프레임 01은 하나의 무작위 공간 분포에 따라 2,500만 개의 포톤을 방출합니다.
• 프레임 02는 난수 생성기의 시드를 다시 설정하여, 미묘하게 어긋난 지오메트리 좌표에 포톤을 퇴적합니다.
• 두 프레임의 전체 휘도는 동일하게 유지되지만, 미세한 커스틱 물결의 물리적 위치는 연속된 프레임 사이에서 몇 픽셀씩 흔들립니다.

24 fps로 재생하면 커스틱 패턴이 격렬하게 끓어오르고, 맥동하고, 깜빡입니다(템포럴 커스틱 보일링(Temporal Caustic Boiling)). 후반 작업용 AI 디노이저(OptiX, OpenImageDenoise 등)로는 이 결함을 해결할 수 없습니다. 디노이저는 프레임 간 커스틱 변동을 지오메트리 변화로 해석하기 때문에, 깜빡임을 수채화처럼 끓어오르는 얼룩으로 번지게 만듭니다.

3.2. 헤드리스 SaaS 렌더팜이 커스틱을 망가뜨리는 이유

자동화된 SaaS 렌더팜 플랫폼은 독자적인 제출 스크립트에 의존하며, 이 스크립트는 독립된 여러 머신에서 헤드리스 커맨드라인 렌더링(c4dr.exe 또는 Octane Standalone)을 실행합니다:

1. SaaS 렌더팜은 300프레임 시퀀스를 서로 분리된 청크로 나눕니다. 노드 A는 프레임 1~10, 노드 B는 프레임 11~20, 노드 C는 프레임 21~30을 받습니다.
2. 이 헤드리스 노드들은 동기화된 메모리 버퍼 없이 완전히 고립된 상태로 작동하기 때문에, 머신마다 서로 다른 포톤 분포를 생성합니다.
3. 그 결과 애니메이션에서는 프레임 간 휘도가 크게 튑니다. SaaS 플랫폼에서는 아티스트가 그래픽 사용자 인터페이스(GUI)나 Live Viewer에 직접 접근할 수 없으므로, 커스틱 반경을 디버깅하려면 블라인드 재제출을 반복해야 하고, 이는 비용을 부풀리고 중요한 프로젝트 납기 시간을 잡아먹습니다.

3.3. 베어메탈 IaaS 파이프라인: 2단계 영구 캐싱

멀티 GPU 클라우드 환경에서 흔들림 없는 시간적 안정성을 확보하기 위해, 테크니컬 디렉터는 전용 IaaS 베어메탈 인스턴스에서 2단계 영구 커스틱 캐싱 SOP를 적용합니다:

• 1단계: 단일 노드에서의 결정적 베이킹: 아티스트는 기본 원격 데스크톱(RDP)으로 원격 베어메탈 인스턴스에 접속합니다. Cinema 4D에서 전역 Seed를 고정하고, 인터랙티브 Live Viewer에서 포톤 밀도를 직접 검증한 다음, 전용 Bake Caustic Cache 시퀀스를 실행합니다. 프레임마다 생성되는 공간 포톤 맵은 로컬 고속 NVMe PCIe 4.0/5.0 SSD 캐시 디렉터리에 바로 기록됩니다.
• 2단계: 멀티 GPU 분산 배치 실행: 결정적 캐시가 디스크에 기록되면 Octane은 Load Caustic Cache 모드로 전환합니다. 작업은 서버의 전체 GPU 어레이(예: 4x 또는 8x RTX 4090 / RTX 5090)에 분배됩니다. 포톤 맵이 변경 불가능한 상태로 디스크에 고정되어 있으므로, GPU는 라이트 패스를 완전히 건너뛰고 100% 시간적 연속성을 유지한 채 멀티 GPU 최대 속도로 뷰티 패스를 렌더링합니다.

4. 하드웨어 처리량과 멀티 GPU 스케일링: RTX 4090 vs. RTX 5090 (32GB)

포톤 트레이싱은 GPU 아키텍처에 두 가지를 동시에 요구합니다: 수백만 개의 고밀도 포톤 좌표를 저장할 물리적 VRAM 용량, 그리고 카메라 수집 패스 동안 공간 포톤 맵을 교차 참조할 메모리 대역폭입니다.

4.1. RTX 5090의 GDDR7 메모리 이점

NVIDIA GeForce RTX 4090 같은 이전 세대 카드에서는 24GB GDDR6X 메모리가 384-bit 버스로 동작하며 약 ~1,008 GB/s의 메모리 대역폭을 제공합니다. 일반적인 상업용 샷에는 충분하지만, 무거운 프로덕션 씬은 이 메모리 구조를 한계까지 몰아붙입니다:

• 복잡한 유리 및 주얼리 어셈블리는 OptiX BVH에만 8GB~12GB의 VRAM을 사용합니다.
• 3,500만 개의 입자를 담은 프로덕션 포톤 버퍼에는 6GB~8GB의 전용 VRAM이 필요합니다.
• 4K 멀티채널 EXR AOV 프레임버퍼가 3GB~4GB의 디바이스 메모리를 추가로 사용합니다.

이런 조건에서 24GB 카드는 고갈 직전에 놓입니다(22GB 이상에 머무는 경우가 많습니다). 드라이버에서 순간적인 스파이크만 발생해도 씬이 PCIe 버스(PCIe 4.0 기준 ~31.5 GB/s)를 통한 Out-of-Core 메모리 페이징으로 넘어가 렌더링 속도가 30%~50% 떨어집니다.

NVIDIA GeForce RTX 5090은 거대한 512-bit 메모리 인터페이스로 동작하는 32GB 고속 GDDR7 VRAM을 탑재하여 전례 없는 ~1,792 GB/s의 대역폭을 제공합니다(RTX 4090 대비 약 ~78% 증가):

1. 100% In-Core 결정성: 늘어난 8GB의 VRAM 여유 덕분에 5,000만 개 규모의 대형 포톤 버퍼, 밀도 높은 굴절 메시, 압축되지 않은 스펙트럼 분산 셰이더를 칩 위에 넉넉히 올릴 수 있어 VRAM 스래싱을 완전히 방지합니다.
2. 포톤 수집 가속: ~1,792 GB/s의 메모리 대역폭으로 RT Core가 주변 포톤 좌표를 거의 즉시 조회할 수 있어, 이전 아키텍처 대비 커스틱 수렴 시간을 절반 이상 줄입니다.

5. 기술 FAQ: Spectron과 커스틱 관리

Q1: 씬을 Photon Tracing Kernel로 전환하면 Mesh Emitters를 모두 제거해야 합니까?

아닙니다. 모든 메시 라이트를 없앨 필요는 없지만, 역할은 분리해야 합니다. 카메라를 향하는 저강도 장식용 이미터(빛나는 네온 사인, 화면에 삽입된 그래픽, 전구 필라멘트 등)는 Mesh Emitters로 남겨 두어도 됩니다. 다만 해당 표면의 Octane Object Tag를 열어 “Cast Photons”를 비활성화하거나, 2차 바운스 조명에 대한 기여도를 낮춰야 합니다. 환경 조명과 포톤 전파는 이미터 위치에 해석적 Octane Spectron 라이트를 직접 배치하여 처리하십시오.

Q2: “Caustic Blur” 파라미터는 AI 디노이저와 어떻게 다르며, 선명한 커스틱이 뭉개지는 것을 어떻게 막을 수 있습니까?

Caustic Blur는 라이트 패스의 포톤 누적 단계에서 직접 적용되는 해석적·광학적 스무딩 작업으로, 카메라 평가 전에 인접한 포톤 에너지 좌표를 매끄러운 분포로 섞습니다. 반면 AI 디노이저(OptiX 또는 OIDN)는 렌더링이 끝난 뒤 픽셀 주변을 평가하는 후처리 신경망입니다. Caustic Blur를 0.1보다 높게 설정하면 섬세한 광학 디테일이 형체 없는 안개처럼 번집니다. 그물처럼 날카로운 수중 물결이나 다이아몬드 분산 패턴을 유지하려면 Caustic Blur를 반드시 0.01~0.03 사이로 유지하십시오.

Q3: Photon Tracing Kernel로 전환했을 때 유리 표면에 어두운 얼룩이나 검은 아티팩트가 생기는 원인은 무엇입니까?

어두운 얼룩은 Exploration Depth나 Caustic Gather Radius가 씬의 물리적 스케일에 비해 너무 낮게 설정되었을 때 나타납니다. 카메라 레이가 여러 굴절 표면(예: 액체가 담긴 두꺼운 유리 용기)을 통과하다가 Exploration Depth 한도에 도달하면 경로가 조기에 종료되어 래디언스 0(검정)을 반환합니다. 또한 Gather Radius가 너무 작게 보정되면 국소 포톤 밀도가 연속된 표면을 재구성하기에 부족해져 포톤 클러스터 사이에 어두운 빈 공간이 생깁니다. Exploration Depth를 12~16으로 높이고 Live Viewer에서 Gather Radius를 점진적으로 넓히십시오.

Q4: 자동화된 SaaS 렌더팜에서 커스틱을 렌더링하면 왜 프레임 간 깜빡임이 심하게 발생합니까?

SaaS 렌더팜 플랫폼은 애니메이션 시퀀스를 독립된 여러 노드에 나누어 맡기는 자동화된 헤드리스 커맨드라인 작업 디스패처에 의존합니다. 각 워커 노드는 중앙 공간 캐시에 접근하지 못한 채 조율되지 않은 무작위 몬테카를로 시드로 포톤 경로를 계산하기 때문에, 포톤이 실제로 떨어지는 좌표가 매 프레임 임의로 바뀝니다. 그 결과 연속된 프레임 사이에 심각한 템포럴 커스틱 보일링이 생깁니다. SaaS 플랫폼은 문제를 진단할 인터랙티브 그래픽 인터페이스를 제공하지 않으므로, 렌더링이 끝난 뒤에는 시퀀스를 안정화할 수 없습니다.

Q5: Octane Spectron은 일반 폴리곤 라이트와 비교해 볼류메트릭 커스틱(수중 갓 레이)을 어떻게 처리합니까?

참여 매질(안개, 수중 탁도, 연기 등)을 비출 때 Spectron은 수학적으로 정확하게 정의된 해석적 콘과 실린더를 따라 포톤을 투사합니다. 덕분에 볼륨 적분기가 레이 마칭 단계(Volume Step Length)를 깔끔하게 계산할 수 있어, 광학적 감쇠가 부드럽고 경계가 뚜렷하며 날카로운 갓 레이가 만들어집니다. 반대로 Mesh Emitters는 폴리곤 표면 전체에서 포톤을 불규칙한 방향으로 흩뿌려 볼륨 안에 촘촘한 파이어플라이와 핫스팟을 만들며, 이를 해결하려면 비현실적인 샘플 수가 필요합니다.

Q6: 무거운 포톤 트레이싱 중 메모리 부족으로 렌더가 중단되는 것을 막으려면 클라우드 노드에 어떤 하드웨어 메모리 구성이 필요합니까?

3,000만~5,000만 개 입자 규모의 프로덕션 포톤 버퍼는 지오메트리, 텍스처, AOV 버퍼와 별도로 4GB~8GB의 전용 In-Core VRAM을 사용합니다. 따라서 클라우드 렌더 노드는 포톤 맵과 지오메트리 OptiX BVH가 모두 물리 메모리 안에 상주하도록 최소 24GB의 물리 VRAM(RTX 4090 등), 이상적으로는 32GB GDDR7 VRAM(RTX 5090)을 갖춰야 합니다. 또한 분산 멀티 GPU 배치 실행 중 I/O 처리량 병목을 없애려면, 영구 커스틱 캐시 파일을 5,000 MB/s 이상의 순차 읽기/쓰기 속도를 꾸준히 유지할 수 있는 로컬 NVMe SSD에 저장해야 합니다.