VMess와 VLESS 차이: 암호화·성능·설정 한눈에 보기

1분 비교: 프로토콜·암호화·전송은 서로 다른 계층

노드 설정은 세 부분으로 나눠 보면 이해하기 쉽습니다. VMess 또는 VLESS는 프록시 요청과 사용자 인증을 담당하고, TCP나 WebSocket 같은 전송 방식은 데이터를 실어 나르며, TLS 또는 REALITY는 해당 연결의 보안을 담당합니다. 이들은 서로 배타적인 선택지가 아닙니다. 따라서 VMess + WebSocket + TLS 조합도, VLESS + TCP + REALITY 조합도 사용할 수 있습니다.

v2rayN은 데스크톱 클라이언트이고, v2rayNG는 Xray 코어를 사용하는 Android 클라이언트이며, v2flyNG는 v2fly 코어를 사용하는 Android 클라이언트입니다. 클라이언트에서 링크를 가져올 수 있다고 해서 현재 코어가 링크의 모든 조합을 지원하는 것은 아닙니다. 특히 REALITY나 flow 같은 옵션은 코어 구현과 버전을 확인해야 합니다.

암호화 차이: VLESS의 none이 연결 전체의 평문을 뜻하지는 않습니다

VMess의 프로토콜 계층 암호화와 외부 TLS는 서로 다른 기능입니다. 예를 들어 VMess + WebSocket + TLS 구성에서는 VMess가 프록시 데이터를 암호화하고, TLS는 클라이언트에서 TLS 종료 지점까지의 연결을 보호합니다. 보안 관련 옵션이 두 개 보이더라도 같은 설정을 중복 입력하는 것으로 이해하면 안 됩니다.

흔히 사용하는 VLESS 설정에서 encryption=none은 이 계층에서 별도의 데이터 암호화를 사용하지 않는다는 뜻이지 TLS를 끈다는 뜻은 아닙니다. VLESS + TLS를 사용할 때는 서버 주소, 포트, serverName을 정확히 입력해야 합니다. REALITY를 사용할 때는 서버에서 제공한 공개 키와 shortId 등의 값을 맞춰야 합니다. 최신 버전 구현에서는 암호화 기능이 추가될 수 있으므로, 실제 설정 항목은 구독 정보와 양쪽 코어의 문서를 확인하세요. 오래된 가이드 하나를 모든 버전에 적용되는 규칙으로 받아들이면 안 됩니다.

성능 차이: 프로토콜 오버헤드보다 회선부터 비교하세요

VLESS는 기본 프로토콜 설계가 비교적 가볍고, 흔히 사용하는 설정에서는 VMess보다 일부 프로토콜 처리와 암호화 작업이 줄어듭니다. 하지만 실제 다운로드 속도는 서버 부하, 왕복 지연 시간, 패킷 손실, 대역폭 한도, 전송 조합, 기기의 암호화 연산 성능에 따라 달라집니다. 따라서 VLESS가 항상 일정 수준 더 빠르다고 단정할 수 없습니다. 서로 다른 지역의 서버 두 대를 비교한 뒤 차이를 전부 프로토콜 탓으로 돌려서도 안 됩니다.

1. 같은 대상 파일로 테스트하고 연결 시간, 다운로드 속도 유지 상태, 연결 끊김 여부를 각각 기록하세요.
2. 각 설정을 3회씩 번갈아 테스트하고, 테스트 중에는 다른 대용량 작업을 일시 중지하세요.
3. 한쪽 설정에서만 서버, 전송 방식 또는 라우팅을 바꿨다면 결과를 ‘전체 설정 차이’로 기록하세요. ‘프로토콜 성능 차이’로 기록하면 안 됩니다.

설정 항목: alterId, 포트, flow 입력 방법

신뢰할 수 있는 출처의 구독을 가져오는 편이 항목을 하나씩 직접 입력하는 것보다 실수할 가능성이 낮습니다. 직접 설정할 때는 먼저 VMess와 VLESS 중 어떤 프로토콜인지 확인한 뒤 해당 노드 편집 화면으로 이동하세요. 클라이언트 버전에 따라 한국어 메뉴 이름은 달라질 수 있지만 프로토콜, 주소, 포트, 사용자 ID, 전송, 보안 항목의 대응 관계는 같습니다.

위 숫자는 각각 용도가 다릅니다. alterId=0은 최신 VMess AEAD 설정과 관련된 값이지 포트가 아닙니다. 443은 흔히 쓰이는 원격 접속 포트지만 다른 값일 수도 있습니다. 127.0.0.1:10808은 로컬 앱이 프록시에 연결할 때 사용하는 주소 예시일 뿐이며, 실제 값은 클라이언트의 수신 설정을 확인해야 합니다. 로컬 포트를 원격 노드 설정에 입력하는 것은 ‘항목은 다 채운 것 같은데 연결되지 않는’ 흔한 원인입니다.

• VMess: UUID는 제공된 내용을 빠짐없이 복사하세요. security의 auto와 VLESS의 none은 서로 다른 값입니다. 오래된 화면을 보고 alterId를 임의로 추가하지 마세요.
• VLESS: 일반적인 설정의 encryption 값은 none입니다. flow는 서버에서 요구하는 경우에만 입력하세요. 예를 들어 xtls-rprx-vision을 모든 VLESS 노드에 임의로 추가하면 안 됩니다.
• WebSocket: Host는 HTTP 요청 헤더이고 path는 요청 경로입니다. TLS의 serverName과 용도가 다릅니다. 일부 설정에서 같은 도메인을 사용하더라도 각각 따로 확인하세요.
• REALITY: 공개 키, shortId, serverName, 클라이언트 핑거프린트 등은 서버 요구 사항에 맞춰 입력하세요. 일반 TLS 노드의 인증서 설정을 그대로 가져와서는 안 됩니다.

구독 주소, 전체 공유 링크, UUID는 민감 정보로 취급해야 합니다. 도움을 요청할 때는 프로토콜 유형, 전송 방식, 오류 키워드를 공유하고 전체 링크나 구독 QR 코드는 공개하지 마세요.

시간 검증: VMess 인증이 갑자기 실패하는 이유

VMess 인증 과정에서는 시간 관련 정보를 사용합니다. 클라이언트와 서버의 시각이 크게 다르면 UUID가 바뀌지 않았더라도 인증에 실패할 수 있습니다. 확인할 것은 시간대 표시가 아니라 시스템의 실제 시각입니다. 시간대 이름이 다르더라도 같은 시각을 나타내면 보통 문제가 되지 않지만, 시계를 몇 분 앞당기거나 늦추면 인증에 영향을 줄 수 있습니다.

VLESS의 기본 인증은 VMess의 시간 윈도우 방식에 의존하지 않습니다. 그렇다고 VLESS에서 시스템 시간을 무시해도 된다는 뜻은 아닙니다. TLS 인증서에는 유효 시작일과 만료일이 있고, 다른 핸드셰이크 방식에서도 시간 관련 정보가 사용될 수 있습니다. 기기의 시간을 정확하게 맞추는 것은 두 프로토콜 모두 기본적인 문제 해결 단계입니다.

1. Windows: ‘설정’ → ‘시간 및 언어’ → ‘날짜 및 시간’에서 자동으로 시간 설정을 켜고 ‘지금 동기화’를 선택하세요.
2. Android: 시스템 설정에서 ‘날짜 및 시간’을 검색하고 자동 시간 설정을 켜세요. 메뉴 위치는 기기마다 다를 수 있습니다.
3. 서버: 관리 권한이 있다면 시간 동기화 서비스가 정상적으로 작동하는지 확인하세요. 권한이 없다면 인증 오류가 발생한 시각과 증상을 서비스 제공업체에 알려 주세요.
4. 동기화 후 재테스트: 같은 노드에 다시 연결한 다음 클라이언트 로그를 확인하세요. 계속 실패한다면 UUID, 서버 포트, 전송 설정을 차례로 확인하고 암호화 옵션을 무작정 바꾸지 마세요.

자주 묻는 질문: 구독 전환과 연결 오류 해결

일상적인 사용에서는 구독 출처의 신뢰성, 설정 항목의 완전성, 코어 호환성을 먼저 확인한 다음 오버헤드와 속도를 비교하세요. 프록시 모드와 라우팅 설정을 구분하는 방법은 클라이언트 사용 가이드에서 확인할 수 있습니다. 주소 해석 실패나 접속 이상이 발생하면 DNS 문제 해결 안내를 참고해 로컬 네트워크 문제를 VMess 또는 VLESS 자체의 문제로 오해하지 않도록 하세요.