Ubuntu에서 OBS 화면 캡처 안 될 때 해결 방법

Ubuntu OSB 화면 캡쳐 트러블 슈팅

 

Ubuntu에서 OBS Studio를 설치하고 실행했는데,
'화면 캡처'나 '창 캡처'를 추가해도 화면이 까맣게 나오는 문제, 겪어보신 적 있으신가요?

 

이 글에서는 설치된 OBS가 정상적으로 실행되지만, 화면을 캡처하지 못할 때의 원인과 해결 방법을 집중적으로 안내합니다.

 

❗️ 대표적인 문제 증상

 

• '화면 캡처 (Xcomposite)'를 추가해도 화면이 검게 보임
• '창 캡처'에서도 선택한 창이 보이지 않음
• 소스는 추가되는데 미리 보기와 녹화된 결과에 아무것도 없음
• 로그에 Failed to connect to Wayland display 혹은 xdg-desktop-portal 관련 오류 메시지

 

📌 1단계: 현재 세션 환경 확인

Ubuntu는 21.04부터 기본 디스플레이 서버로 Wayland를 사용합니다.
OBS는 Wayland 환경에서 일부 캡처 기능이 제한되므로, 먼저 현재 세션을 확인해 봅니다.

echo $XDG_SESSION_TYPE

• 출력이 wayland이면 → 제한된 환경입니다
• 출력이 x11이면 → 대부분 캡처 기능 정상 작동

 

✅ 2단계: 해결 방법 – X11 세션으로 로그인

가장 간단하고 확실한 방법은 X11 (Xorg) 환경으로 전환하는 것입니다.

방법:

1. 로그아웃
2. 로그인 화면에서 사용자 계정 클릭
3. 화면 오른쪽 아래 ⚙️ 톱니바퀴 클릭
4. Ubuntu on Xorg 선택 후 로그인

 

✅ 3단계: Wayland 환경에서 유지하고 싶다면?

Wayland 환경을 유지한 채 OBS를 사용하려면 PipeWire 기반 캡처 기능을 사용해야 합니다.

 

필요한 패키지 설치

sudo apt install xdg-desktop-portal xdg-desktop-portal-gtk pipewire obs-studio

 

 

OBS에서 사용할 소스

 

• '화면 캡처 (PipeWire)' 선택
• 캡처 요청 시 화면 선택 창이 팝업 되어야 정상입니다

주의

• xdg-desktop-portal이 제대로 동작하지 않으면 창 선택이 안 뜨거나 OBS가 응답하지 않음
• PipeWire 기반 캡처는 시스템 설정 및 데스크톱 환경에 따라 불안정할 수 있음

 

🧩 추가로 고려할 수 있는 점

 

• OBS Flatpak 버전은 기본적으로 PipeWire를 사용하는 구조이며, GNOME에서 더 나은 호환성을 보일 수 있습니다.
• NVIDIA 드라이버 사용 시 일부 Wayland 기능은 정상 동작하지 않으므로, Xorg 환경이 더 안정적입니다.
• GNOME 45 이상 환경에서는 xdg-desktop-portal과 PipeWire 연동이 개선되었지만, 완전하지는 않습니다.

 

📌 정리

Ubuntu에서 OBS가 설치는 되었는데 화면이 검거나 보이지 않는 경우, 대부분은 Wayland 세션 때문입니다.
아래 두 가지 중 하나를 선택하세요:

• 빠르고 안정적인 해결: X11 (Xorg) 환경으로 전환
• Wayland 유지하고 싶다면: PipeWire + xdg-desktop-portal 세팅

OBS는 매우 강력한 도구지만, 리눅스에서는 디스플레이 서버 환경에 따라 완전히 다른 동작을 보일 수 있습니다.
녹화가 되지 않는다고 당황하지 말고, 위 단계별로 확인해 보면 대부분 해결 가능합니다.