구버전 게임을 즐기는 분들이라면 한 번쯤 겪어봤을 문제입니다. Windows 10까지는 게임 폴더에 구버전 d3d9.dll 파일을 복사해 넣는 방식으로 프레임 저하나 실행 오류를 해결하곤 했는데, Windows 11로 넘어오면서 같은 방법이 통하지 않아 당황하는 경우가 많습니다. 특히 보안 정책이 강화되면서 임의로 교체된 DLL 파일을 시스템이 차단해버리거나, 출처가 불분명한 파일을 받으려다 백신 프로그램에 막혀버리는 상황까지 겹칩니다.
이 문제의 핵심은 단순합니다. Windows 11은 WDDM(Windows Display Driver Model)의 새 버전이 적용되고 GPU 스케줄링 방식이 바뀌어서, DirectX 9 기반의 레거시 라이브러리가 예전처럼 동작하지 않습니다. 여기에 커널 드라이버 서명 정책 같은 보안 기능이 더해져 외부 DLL 교체가 더욱 까다로워졌죠. 그래서 DLL 파일을 직접 복사하는 방식 대신, 호환성 설정부터 래퍼 프로그램까지 단계적으로 접근해야 합니다.
Windows 11에서 구버전 DirectX 9 게임이 실행 안 될 때, 먼저 할 것
게임 실행 파일에서 마우스 오른쪽 버튼을 클릭한 뒤 속성 > 호환성 탭으로 들어가면 됩니다. 여기서 '호환 모드에서 이 프로그램을 실행'을 체크하고 Windows 7 또는 Windows 8을 선택해보세요. Windows 11에서도 동일한 탭과 옵션이 제공되므로, 예전 방식 그대로 접근할 수 있습니다. 이 설정만으로도 상당수의 구버전 게임이 정상 작동하는 경우가 많습니다.
어떤 옵션을 선택해야 할지 모르겠다면 '호환성 문제 해결사 실행' 버튼을 누르는 게 가장 빠릅니다. Windows가 게임 파일을 자동으로 분석해서 적절한 구성을 제안해주니까요. 여기에 더해 아래 옵션들을 함께 적용하면 효과적입니다.
- '감소된 색상 모드' 체크 후 16비트 또는 8비트 선택
- '640 × 480 해상도에서 실행' 체크
- '전체 화면 최적화 비활성화' 체크
- '관리자 권한으로 이 프로그램 실행' 체크
- '높은 DPI 설정 변경' 버튼을 눌러 프로그램별 DPI 설정 조정
이렇게 해도 실행이 되지 않는다면, 게임이 32비트로 동작하는지 64비트로 동작하는지 확인해볼 필요가 있습니다. 작업 관리자 > 세부 정보 탭에서 게임 프로세스를 찾으면 알 수 있습니다. 32비트 프로그램이라면 32비트용 d3d9.dll만 필요하고, 64비트라면 64비트용이 필요합니다. 간혹 두 버전을 함께 게임 폴더에 넣으면 문제가 해결되는 경우도 있지만, 이는 게임이 어떤 라이브러리를 호출하는지에 따라 달라지는 편법에 가깝습니다.
d3d9.dll 교체 대신 DirectX 재배포 패키지부터 다시 설치하기
많은 사용자가 d3d9.dll 한 개만 찾아서 게임 폴더에 넣으려고 하지만, 실제로는 더 다양한 DLL 파일이 필요할 수 있습니다. d3dx9_숫자.dll, XInput1_숫자.dll 같은 파일들이 누락되어도 동일한 오류가 발생하니까요. 그래서 Microsoft 공식 홈페이지에서 제공하는 DirectX 재배포 가능 패키지(DirectX Redist, 2010년 6월 버전)를 다시 설치하는 것이 첫 번째 순서입니다.
이 패키지에는 DX9, DX10, DX11 관련 DLL 파일들이 32비트와 64비트 모두 포함되어 있어서, 시스템에 누락되었거나 손상된 파일들을 복원해줍니다. 재설치 후에도 해결되지 않는다면 그때 구버전 d3d9.dll 파일을 게임 실행 파일(.exe)이 있는 폴더에 직접 복사하는 방법을 시도해볼 수 있습니다. 다만 Windows 11에서는 이 방식이 효과가 없거나 오히려 게임이 바로 종료되는 사례가 종종 보고되므로, 반드시 두 가지를 확인해야 합니다.
- 백신 프로그램이나 Windows Defender가 DLL 파일을 '잠재적 위협'으로 인식하지 않는지
- 파일을 다운로드한 경로가 신뢰할 수 있는 곳인지
출처가 불분명한 d3d9.dll 파일을 다운로드했다면 백신 프로그램에서 바이러스 경고가 뜰 수 있습니다. 이때 무작정 예외 처리를 하면 보안 문제가 생길 수 있으니, 신뢰할 수 있는 경로인지 먼저 확인하는 것이 안전합니다. 특히 Windows 11은 임의로 교체된 DLL이 시스템에서 승인된 파일이 아닐 경우 내부적으로 차단하거나 디지털 서명 불일치를 발생시킬 수 있기 때문에, DLL 교체 방식은 마지막 수단으로 생각하는 게 좋습니다.
dgVoodoo2 래퍼로 DirectX 9 게임을 DirectX 11 환경에서 실행하기
DLL 교체가 어렵다면 래퍼(wrapper) 프로그램을 사용하는 방법이 훨씬 효과적입니다. dgVoodoo2는 오래된 DirectX와 Glide API를 최신 DirectX 11/12 환경으로 변환해주는 도구인데, 특히 90년대 후반과 2000년대 초반 3D 타이틀에서 효과가 좋습니다. 이 도구를 사용하면 DirectX 9 게임이 DirectX 11 환경에서 실행되면서 프레임이 크게 개선되는 경우가 많습니다.
사용 방법은 복잡하지 않습니다. dgVoodoo2 압축 파일을 풀고 나오는 DLL 파일들을 게임 실행 파일이 있는 폴더에 복사한 뒤, dgVoodooCpl.exe를 실행해 원하는 DirectX 버전을 선택하면 됩니다. 이 방식으로 Christmas Stories – Nutcracker Collector’s Edition 같은 게임이 정상 실행된 사례가 있습니다. 다만 모든 게임이 이 방식을 수용하는 것은 아니므로, 실패할 경우 다른 대안을 고려해야 합니다.
래퍼 프로그램을 사용할 때 주의할 점은 게임 실행 시 Steam 오버레이나 그래픽 카드 제어판(GeForce Experience, AMD Adrenalin 등)에서 제공하는 오버레이 기능이 동시에 활성화되면 충돌이 발생할 수 있다는 것입니다. 문제 해결을 테스트할 때는 이러한 오버레이 기능을 임시로 끄고 시도해보는 것이 좋습니다.
호환성 설정으로도 안 되면, DOSBox와 86Box 같은 에뮬레이터 활용
Windows 95/98/ME 시대의 게임이라면 86Box를 사용하는 것이 가장 확실합니다. 86Box는 80년대부터 PCI/AGP 버스가 있는 플랫폼까지의 PC를 저수준으로 에뮬레이션하며, 3dfx Voodoo 그래픽 카드, Sound Blaster 16 사운드카드 등 당시 하드웨어를 그대로 재현해줍니다. 프런트엔드로 WinBox나 Avalonia86을 함께 사용하면 설정이 훨씬 수월해집니다.
DOS 게임이라면 DOSBox가 정답입니다. 게임 파일이 있는 폴더를 가상 드라이브로 마운트만 하면 되는데, 예를 들어 C:\DOOM 폴더에 게임이 있다면 mount c c:\DOOM 명령어를 입력하고, C:로 전환한 뒤 DIR로 파일을 확인하고 실행 파일 이름을 입력하면 끝입니다. DBGL이나 D-Fend Reloaded 같은 프런트엔드를 사용하면 더 편리하게 관리할 수 있습니다.
64비트 Windows 10/11에서는 16비트 바이너리가 실행되지 않기 때문에, 16비트 설치 프로그램이 필요한 경우에는 OTVDM(Wine 기반)을 사용할 수 있습니다. GitHub 저장소에서 무료로 다운로드 가능하며, Windows 인터페이스에서 16비트 설치 프로그램과 일부 DOS 프로그램을 실행할 수 있습니다. 이 도구는 가상 머신 없이도 동작한다는 장점이 있습니다.
와이드스크린 모니터에서 43 게임 화면이 찌그러질 때
구버전 게임을 실행하면 화면 비율 때문에 게임이 좌우로 늘어나거나 양쪽에 검은 공간이 생기는 경우가 많습니다. 이 문제는 PCGamingWiki나 Widescreen Fixes Pack에서 해당 게임의 와이드스크린 패치를 찾아 적용하면 해결됩니다. DxWnd를 사용해 강제로 창 모드로 실행하고 해상도를 조절하는 방법도 있습니다.
사운드 문제도 자주 발생합니다. 구버전 게임은 DirectSound3D 하드웨어 가속을 사용하는 경우가 많은데, Windows 11에서는 이 기능이 제거되었습니다. Creative ALchemy 같은 도구로 OpenAL에 매핑하거나, 게임 설정에서 사운드 가속을 소프트웨어 모드로 변경하면 소리가 나지 않는 문제를 해결할 수 있습니다.
Q. Windows 11에서 DirectX 9 게임이 계속 튕기는데 어떻게 해야 하나요?
가장 먼저 Microsoft 공식 DirectX 재배포 패키지를 다시 설치해보세요. 그래도 안 된다면 dgVoodoo2 래퍼를 사용하거나, 가상 머신을 활용하는 방법을 고려해야 합니다. DLL 파일 출처가 불분명하면 바이러스 위험이 있으므로 주의가 필요합니다.
Q. 구버전 게임의 프레임이 너무 빨라서 게임 속도가 이상해요
최신 CPU의 높은 성능 때문에 게임 내 물리 엔진이나 애니메이션이 비정상적으로 작동하는 경우입니다. RivaTuner Statistics Server(RTSS)로 FPS를 제한하거나, 게임 자체 설정에서 프레임 제한 옵션을 찾아보세요. DOSBox를 사용 중이라면 cycles 값을 조정해 속도를 맞출 수 있습니다.
Q. 디지털 스토어에서 판매하는 구버전 게임을 사면 문제가 해결되나요?
네, 디지털 스토어에서 판매하는 버전은 보통 호환성 패치가 적용되어 있고 필요한 에뮬레이터가 함께 제공됩니다. 직접 설정을 만지는 번거로움을 피하고 싶다면 가장 확실한 방법입니다. 다만 리마스터 버전이 아닌 오리지널 버전의 경우 여전히 문제가 발생할 수 있으니 구매 전 리뷰를 확인하는 것이 좋습니다.