SS / VMess / Trojan 프로토콜 비교

구독에는 SS, VMess, Trojan 등 여러 프로토콜의 노드가 섞여 있는 경우가 많습니다. 이들은 어떤 차이가 있고, 어떤 걸 우선해서 써야 할까요? 이 글에서는 다섯 가지 주요 프로토콜을 한자리에 놓고 비교해 봅니다. 다 읽고 나면 감이 잡힐 겁니다.

표 하나로 다섯 가지 프로토콜 이해하기

프로토콜	암호화	위장 성능	성능 오버헤드	한 줄 평
`Shadowsocks`	AEAD 대칭 암호화	약함(순수 암호화 트래픽 특징이 드러남)	매우 낮음	가볍고 단순한 베테랑, 플러그인과 함께면 여전히 주력
`VMess`	내장 동적 암호화	중간(WebSocket + TLS로 감쌀 수 있음)	중간	V2Ray 생태계의 핵심, 기능은 많지만 다소 무거움
`VLESS`	자체 암호화 없음, TLS에 의존	강함(Reality/XTLS와 결합 시)	낮음	VMess의 경량화 후계자, 성능이 더 좋음
`Trojan`	TLS로 전체 암호화	강함(그냥 하나의 HTTPS 연결처럼 보임)	낮음	평범함 속에 숨는 방식, 탐지 회피 능력이 뛰어남
`WireGuard`	현대적 암호 스위트	약함(UDP 특징이 뚜렷함)	매우 낮음	속도의 정점이지만 특징이 뚜렷해 제한받기 쉬움

하나씩 살펴보기

Shadowsocks: 단순함이 곧 미덕

가장 먼저 나온 프로토콜로 설계가 극도로 단순합니다. 대칭 암호화 한 층을 거쳐 바로 전달하는 방식입니다. 장점은 가볍고 빠르고 배터리를 아낀다는 것으로 모바일에서 특히 체감이 좋습니다. 단점은 암호화된 트래픽 자체에 별다른 "위장"이 없어 시간이 지나면 특징 기반으로 표적이 되기 쉽다는 점입니다. 요즘은 보통 shadow-tls나 v2ray-plugin을 함께 써서 위장 능력을 보완합니다.

VMess와 VLESS: 한 뿌리에서 나온 두 갈래

VMess는 V2Ray의 대표 프로토콜로, 자체 사용자 인증과 동적 암호화를 갖추고 있고 WebSocket + TLS + CDN 조합과 함께 쓰면 매우 유연합니다. VLESS는 여기서 덜어내는 방향을 택했습니다. 암호화는 바깥쪽 TLS에 맡기고 자신은 인증과 전달만 담당해서, 지연 시간과 처리량 모두 더 좋습니다. 새 노드에 두 가지가 다 있다면 VLESS를 우선 선택하세요.

Trojan: HTTPS 속에 자신을 숨기기

Trojan의 아이디어는 꽤 스마트합니다. 새로운 프로토콜을 만드는 대신, 가장 흔한 HTTPS 트래픽을 그대로 흉내 냅니다. 겉에서 보면 Trojan 노드와 일반 웹 서버는 거의 구분이 안 될 정도이고, 탐지 회피 능력은 다섯 프로토콜 중에서도 최상위권입니다. 대가로 도메인과 인증서가 반드시 필요해서 구축 난이도는 다소 높지만, 이는 서비스 제공업체가 신경 쓸 부분이고 사용자는 딱히 신경 쓸 필요가 없습니다.

WireGuard: 속도가 최우선

커널 레벨에서 동작하고 핸드셰이크가 매우 빠르며, 연결 복구도 순식간입니다. 순수 속도 테스트에서는 거의 항상 1위를 차지합니다. 다만 UDP 위에서 동작하고 특징이 뚜렷해서, 일부 네트워크 환경에서는 QoS에 의해 속도 제한이나 차단을 당할 수 있습니다. 주력보다는 보조 옵션으로 두는 게 적합합니다.

선택 가이드

일상적인 웹서핑: Trojan이나 VLESS를 우선하세요. 안정적이고 탐지 회피 능력이 좋습니다.
모바일 기기: Shadowsocks가 배터리 절약 면에서 확실히 유리하고, 신호가 바뀔 때 복구도 빠릅니다.
대용량 다운로드: WireGuard나 VLESS를 쓰면 처리량이 가장 높습니다.
네트워크 환경이 까다로울 때: Trojan(443 포트의 "HTTPS"는 단독으로 표적화하기 어렵습니다).

Clash 설정에서는 서로 다른 프로토콜의 노드를 하나의 정책 그룹에 섞어 넣고 url-test가 그 순간 가장 좋은 성능을 내는 노드를 자동으로 고르게 할 수 있습니다. 프로토콜 논쟁은 데이터에 맡기면 됩니다.

혼합 정책 그룹 예시

proxy-groups:
  - name: "스마트 선택"
    type: url-test
    proxies: [홍콩-Trojan, 도쿄-VLESS, 싱가포르-SS, LA-WG]
    url: "http://www.gstatic.com/generate_204"
    interval: 300
    tolerance: 50   # switch only when 50ms+ faster

참고 프로토콜은 전체 경로 중 한 단계일 뿐입니다. 노드가 물려 있는 회선의 품질(전용선, 일반 BGP 중계, 직결 등)이 체감 속도에 미치는 영향이 프로토콜 차이보다 큰 경우가 많습니다.

구독에 들어 있는 노드가 어떤 프로토콜인지 확인하는 법

구독을 가져오면 Clash가 각 노드의 프로토콜 유형을 자동으로 인식해서, 노드 이름 옆이나 상세 정보에 표시해 줍니다(ss / vmess / vless / trojan / wg). 설정을 직접 작성한다면 노드의 type 필드가 곧 프로토콜 이름이니 이 글의 표와 대조해서 분류하면 됩니다. 여러 프로토콜이 섞인 구독도 고민할 필요 없이, 전부 같은 url-test 정책 그룹에 넣고 자동 속도 테스트가 누구를 쓸지 정하게 하면 됩니다.

직접 작성한 노드 예시(Trojan)

proxies:
  - name: "홍콩-Trojan-01"
    type: trojan
    server: example.hk-node.com
    port: 443
    password: "your-password"
    sni: example.hk-node.com    # must match the cert's domain
    udp: true

흔히 하는 두 가지 오해

"프로토콜은 최신일수록 좋다" — VLESS가 VMess보다 나중에 나왔지만, 서비스 제공업체가 설정을 대충 했다면(예: Reality/XTLS를 제대로 씌우지 않은 경우) 잘 튜닝된 Trojan 노드보다 못한 결과가 나올 수 있습니다. 프로토콜은 상한선을 정할 뿐, 실제 체감은 구현 품질이 결정합니다.
"암호화 강도가 안전성을 결정한다" — 다섯 프로토콜 모두 일반적인 사용 환경에서는 암호화 강도가 충분합니다. "표적이 되기 쉬운지"를 진짜로 좌우하는 건 위장 능력과 트래픽 특징이며, 암호화 알고리즘 자체의 세기가 아닙니다.

그러니 프로토콜을 고를 때 "숫자가 셀수록 좋다"는 생각에 갇히지 말고, 자신의 네트워크 환경과 사용 목적에 맞춰 판단하는 게 정답입니다. 크게 고민하고 싶지 않다면 Trojan이나 VLESS를 고르면 대체로 무난합니다.

프로토콜 말고도 신경 쓸 만한 것들

프로토콜 표만 보고 노드를 고르는 건 절반만 챙긴 셈입니다. 실제 체감은 다른 몇 가지 요소에도 영향을 받는데, 이 부분을 놓치는 사람이 꽤 많습니다.

회선 종류: 같은 Trojan 프로토콜이라도 전용 회선을 쓰는지 일반 중계망을 쓰는지에 따라 체감이 크게 달라질 수 있습니다. 전용 회선은 보통 지연 시간이 더 안정적이고 피크 시간대에도 속도가 잘 떨어지지 않지만, 비용도 더 높습니다.
서비스 제공업체의 구현 품질: 암호화 파라미터, TLS 핑거프린트 위장, 인증서 설정 같은 디테일을 얼마나 잘 처리했는지가 그 노드가 표적이 되기 쉬운지를 직접적으로 결정합니다. 이 부분은 온전히 제공업체의 기술력에 달려 있어서, 사용자가 노드 이름만 보고는 판단하기 어렵습니다.
출구 IP의 "깨끗함": 같은 프로토콜, 같은 회선이라도 출구 IP를 너무 많은 사용자가 공유하거나 남용된 적이 있다면 특정 서비스 이용 시 인증이 자주 뜨거나 속도 제한을 겪을 수 있습니다. 이건 프로토콜 자체와는 무관한 문제입니다.

마무리: 외울 필요는 없습니다

프로토콜 지식은 대략적으로만 알아둬도 충분하고, 매번 어떤 걸 쓸지 고민할 필요는 없습니다. 갖고 있는 노드를 프로토콜별로 섞어서 정책 그룹에 넣고 자동 속도 테스트가 결정하게 하세요. 특정 노드의 체감이 나쁘면 파라미터를 파고들기보다 그냥 다른 노드로 바꾸는 게 훨씬 현실적입니다. 이 글은 낯선 프로토콜 이름을 봤을 때 최소한의 판단 기준을 잡아주는 데 목적이 있을 뿐, 그 이상의 의미는 없습니다.

정리

다섯 프로토콜은 각각 강점이 다릅니다. Shadowsocks는 가볍고 배터리를 아끼고, VMess/VLESS는 기능이 풍부하며 신구 조합이 유연하고, Trojan은 탐지 회피 능력이 뛰어나며, WireGuard는 속도의 정점이지만 특징이 뚜렷합니다. 일상적인 웹서핑은 Trojan이나 VLESS를 우선하고, 모바일 기기는 Shadowsocks를 고려하고, 대용량 다운로드는 WireGuard나 VLESS를 시도해 보세요. 파라미터 표를 외우는 것보다 더 중요한 건 여러 프로토콜의 노드를 같은 자동 속도 테스트 그룹에 섞어 넣고 실제 성능이 말하게 하는 것입니다. 같은 프로토콜이라도 어떤 제공업체가 구현했는지에 따라 결과가 천차만별일 수 있으니, 표에 적힌 숫자는 참고용일 뿐 유일한 기준으로 삼지 마세요.