게임 그래픽의 오랜 딜레마가 있습니다. 수억 개의 폴리곤으로 숲과 산, 도시를 빼곡하게 채울 수는 있지만, 여기에 레이 트레이싱(ray tracing)을 켜는 순간 성능이 감당할 수 없을 만큼 떨어진다는 것입니다. 그래서 지금까지 대부분의 게임은 레이 트레이싱 계산에 쓰이는 형상을 대폭 단순화하는 타협을 해 왔습니다. NVIDIA가 이 타협을 끝내겠다며 새로운 도구를 내놓았습니다.
NVIDIA는 게임 개발자를 위한 렌더링 기술 모음인 RTX Kit 2026.3과 고밀도 지오메트리 처리 기술의 최신 버전인 RTX Mega Geometry 2.0 SDK를 공개했습니다. 뉴럴 렌더링(neural rendering)과 패스 트레이싱(path tracing) 기술을 한 단계 끌어올리는 동시에, 다음 달 출시되는 ARM 기반 PC 플랫폼까지 겨냥한 업데이트입니다.
RTX Mega Geometry 2.0: 핵심은 ‘연속 LOD 클러스터 스트리밍’
이번 발표의 주인공은 RTX Mega Geometry 2.0입니다. 새 버전의 핵심 기능은 고밀도 메시(mesh)를 위한 연속 LOD(Level of Detail) 클러스터 스트리밍입니다.
LOD란 카메라와의 거리에 따라 물체의 정밀도를 조절하는 기술입니다. 가까운 물체는 정교하게, 먼 물체는 단순하게 그려 연산 자원을 아끼는 방식입니다. RTX Mega Geometry 2.0은 삼각형 폴리곤을 작은 묶음(클러스터) 단위로 관리하고, 이 클러스터들의 세밀도를 끊김 없이 연속적으로 조절하며 필요한 데이터만 스트리밍합니다. 이를 통해 매우 조밀한 메시를 레이 트레이싱 장면에 그대로 반영할 수 있게 됩니다.
NVIDIA는 이 기술을 GitHub를 통해 공개했으며, 텍스처가 적용된 glTF 버전의 기술 데모 **’Zorah’**도 새롭게 선보였습니다. 크로노스 그룹(Khronos Group)을 통해서는 클러스터 단위로 가속 구조를 더 빠르게 구축하고, 대량의 애니메이션 지오메트리를 렌더링하며, 스트리밍 LOD 모델을 패스 트레이싱하는 방법을 보여주는 오픈소스 Vulkan 샘플도 공개됐습니다.
Nanite의 한계를 넘다: Gears of War: E-Day가 첫 무대
이 기술이 왜 중요한지는 에픽게임즈(Epic Games)의 Unreal Engine 5를 보면 알 수 있습니다. Unreal Engine 5의 가상화 지오메트리 시스템 Nanite는 개발자가 수억 개의 삼각형으로 이뤄진 오픈월드를 만들 수 있게 해 줬습니다. 울창한 숲과 수천 그루의 나무, 독특한 지형과 산맥을 극도로 정밀하게 표현할 수 있습니다.
문제는 레이 트레이싱입니다. 레이 트레이싱을 켜면 Nanite는 고정된 저해상도 대체 메시로 전환됩니다. 현재의 DXR 1.2와 Vulkan API로 Nanite 지오메트리를 그대로 레이 트레이싱하는 것은 하드웨어적으로 부담이 너무 크기 때문입니다. 그 결과 화면에 보이는 물체는 정교한데, 반사나 그림자에 비친 모습은 뭉툭해지는 불일치가 발생합니다.
NVIDIA는 6년간의 연구개발 끝에 이 문제를 해결했다고 밝혔습니다. 그 첫 적용 사례가 10월 6일 출시되는 Gears of War: E-Day입니다. 이 게임은 RTX Mega Geometry가 Unreal Engine의 Nanite 스트리밍 기술과 결합되는 첫 구현 사례가 됩니다. RTX Mega Geometry 자체는 이미 Alan Wake II 등에 적용된 바 있지만, 2.0 버전의 연속 LOD 스트리밍이 실제 게임에 들어가는 것은 이번이 처음입니다.
NVIDIA는 이를 통해 레이 트레이싱 장면에서도 풀 디테일의 지오메트리를 표현할 수 있으며, 더 높은 프레임레이트와 더 반응성 좋은 조작감을 제공할 수 있다고 설명합니다. 레이 트레이싱 반사면이 실제 형상을 정확하게 반영하고, 레이 트레이싱 그림자와 반사의 깜빡임(flickering) 현상도 줄어든다는 것입니다.
DXR 2.0 표준 채택: NVIDIA 기술에서 업계 표준으로
주목할 대목은 이 기술이 NVIDIA 독자 기술에 머무르지 않는다는 점입니다. RTX Mega Geometry의 혁신은 향후 마이크로소프트의 DirectX Raytracing 2.0(DXR 2.0) 표준에 채택될 예정입니다. 이는 게임 업계 전체의 표준으로 자리 잡는다는 의미이며, 궁극적으로 모든 Unreal Engine 5 게임에서 레이 트레이싱된 Nanite를 구현할 수 있는 길이 열린다는 뜻입니다.
과거 NVIDIA가 RTX 20 시리즈와 함께 실시간 레이 트레이싱을 선도한 뒤 DXR이 업계 표준 API로 자리 잡았던 것처럼, 이번에도 NVIDIA가 먼저 기술을 제시하고 표준화가 뒤따르는 흐름이 반복되고 있습니다.
RTX Kit 2026.3: 뉴럴 렌더링과 패스 트레이싱의 정교화
RTX Kit은 AI로 게임을 레이 트레이싱하고, 방대한 지오메트리를 렌더링하며, 사실적인 게임 캐릭터를 만들기 위한 렌더링 기술 모음입니다. 단일 제품이 아니라 여러 개별 라이브러리의 묶음이기 때문에, 구성 요소마다 하드웨어와 툴체인 요구사항이 다르다는 점은 개발자가 유의해야 할 부분입니다. 2026.3 버전의 주요 업데이트는 다음과 같습니다.
- RTX Character Rendering 1.4: 원거리(far-field) 헤어의 BCSDF 샘플링과 에너지 보존(energy conservation)을 개선했습니다. 멀리서 보이는 캐릭터 머리카락의 광택과 질감이 더 자연스러워집니다.
- RTX Dynamic Illumination 3.1: AI 기반 디노이저인 DLSS Ray Reconstruction이 통합됐고, 패스 트레이싱용 샘플링 알고리즘 ReSTIR PT가 개선됐습니다.
- RTX Neural Texture Compression 0.10 베타: Microsoft DirectX 12 Agility SDK 프리뷰의 선형대수(Linear Algebra) 기능을 지원해, DirectX 셰이더에서 뉴럴 텍스처 압축 해제를 RTX 텐서 코어(Tensor Core)로 가속할 수 있게 됐습니다. Windows ARM64도 지원합니다.
- RTX Neural Shading 1.4: 최신 DirectX Linear Algebra 프리뷰 툴체인을 지원합니다.
- RTX Texture Filtering 1.3: 협업 텍스처 필터링(Collaborative Texture Filtering) 기법을 도입해 확률적 텍스처 필터링의 확대(magnification) 품질을 높였습니다. Windows ARM64도 지원합니다.
이 가운데 뉴럴 텍스처 압축은 특히 눈여겨볼 기술입니다. 고해상도 텍스처는 VRAM(그래픽 메모리)을 가장 많이 잡아먹는 요소인데, AI 모델로 텍스처를 압축하고 텐서 코어로 실시간 복원하면 메모리 사용량을 크게 줄일 수 있습니다. 그래픽카드 메모리 용량이 늘 논란이 되는 상황에서 실질적인 해법이 될 수 있습니다.
ARM64 지원 확대: RTX Spark PC를 향한 포석
이번 업데이트에서 전략적으로 가장 의미 있는 부분은 ARM64 아키텍처 지원 확대일 수 있습니다. NVIDIA는 다음 달 출시되는 ARM 기반 RTX Spark PC 기기를 앞두고 여러 기능의 ARM64 지원을 넓혔습니다.
그동안 PC 게이밍은 x86 아키텍처가 사실상 독점해 왔습니다. NVIDIA가 자체 ARM 기반 PC 플랫폼을 내놓으면서, 개발자들이 RTX 기술을 ARM 환경에서도 그대로 활용할 수 있도록 생태계를 미리 다지는 것입니다. 하드웨어 출시 전에 소프트웨어 개발 도구부터 준비하는 NVIDIA 특유의 플랫폼 전략이 엿보이는 대목입니다.
결론: ‘보이는 것’과 ‘반사되는 것’의 간극을 메우다
RTX Kit 2026.3과 RTX Mega Geometry 2.0은 당장 게이머의 PC에 변화를 가져오는 업데이트는 아닙니다. 개발자용 도구이기 때문에 실제 체감은 게임이 이 기술을 탑재해 출시돼야 가능합니다. 그러나 그 첫 사례인 Gears of War: E-Day가 불과 2주 뒤 출시를 앞두고 있고, 기술이 DXR 2.0 표준으로 편입될 예정이라는 점에서 파급력은 작지 않습니다.
실시간 그래픽의 발전은 늘 ‘얼마나 많이 그릴 수 있는가’와 ‘얼마나 사실적으로 빛을 계산할 수 있는가’라는 두 축 사이의 줄다리기였습니다. Nanite가 전자를, 레이 트레이싱이 후자를 끌어올렸다면, RTX Mega Geometry 2.0은 두 기술이 서로의 발목을 잡지 않고 함께 작동할 수 있게 만드는 연결 고리입니다. 여기에 뉴럴 렌더링과 AI 기반 텍스처 압축까지 더해지면서, 게임 그래픽은 ‘계산하는 렌더링’에서 ‘AI가 함께 그리는 렌더링’으로 빠르게 이동하고 있습니다.
