itfixIT 오류 해결 가이드
네트워크

VPN 연결 안 됨 5단계 해결 방법

윈도우에서 VPN이 연결되지 않거나 연결 후 인터넷이 끊길 때 프로토콜 설정, 방화벽 포트, 어댑터 재설정으로 해결하는 방법을 정리했습니다.

VPN 연결 안 됨 원인과 핵심 요약

VPN 연결 실패의 주요 원인은 방화벽이나 공유기의 포트 차단, 잘못된 프로토콜 설정, 손상된 네트워크 어댑터, 인증 정보 오류입니다. 연결 자체가 안 되는 경우와 연결은 되는데 인터넷이 안 되는 경우는 원인이 다르므로 먼저 구분해야 합니다.

오류 코드가 표시된다면 원인을 크게 좁힐 수 있습니다. 789는 프로토콜 불일치, 809는 방화벽·공유기 차단, 691은 인증 실패입니다. 코드를 메모해두고 아래 해당 항목을 우선 확인하세요.


해결 방법 1: 기본 점검과 재연결

  1. VPN 프로그램을 완전히 종료합니다. 작업 표시줄 우측 트레이 영역의 아이콘도 우클릭해 종료합니다.
  2. Ctrl + Shift + Esc로 작업 관리자를 열어 관련 프로세스가 남아 있으면 작업 끝내기를 실행합니다.
  3. PC를 재부팅합니다.
  4. VPN을 다시 실행하고 다른 서버 위치를 선택해 연결해봅니다. 특정 서버만 장애인 경우가 흔합니다.
  5. 아이디와 비밀번호를 다시 입력합니다. 오류 코드 691이 나온다면 인증 정보 문제입니다.
  6. 모바일 데이터 핫스팟으로 바꿔 연결해봅니다. 여기서 되면 사용 중인 네트워크가 VPN을 차단하고 있는 것입니다.

해결 방법 2: 방화벽과 백신 확인

VPN은 특수한 포트와 프로토콜을 쓰기 때문에 보안 프로그램에 자주 막힙니다.

  1. 백신 프로그램의 방화벽 기능을 일시 중지하고 연결해봅니다.
  2. 연결된다면 해당 프로그램의 예외 목록에 VPN 프로그램을 추가합니다.
  3. 윈도우 방화벽도 확인합니다. 검색창에 Windows Defender 방화벽을 입력해 실행합니다.
  4. 좌측의 Windows Defender 방화벽을 통해 앱 또는 기능 허용을 클릭합니다.
  5. 설정 변경 버튼을 누르고 목록에서 VPN 프로그램을 찾아 개인과 공용 모두 체크합니다.
  6. 목록에 없다면 다른 앱 허용 버튼으로 VPN 실행 파일을 직접 추가합니다.

백신을 중지한 상태로 오래 사용하지 마세요. 원인 확인 후에는 반드시 다시 켜야 합니다.


해결 방법 3: 네트워크 어댑터 재설정

VPN은 가상 네트워크 어댑터를 만들어 동작합니다. 이것이 손상되면 연결이 안 됩니다.

  1. 시작 메뉴를 마우스 오른쪽 버튼으로 클릭하고 장치 관리자를 실행합니다.

  2. 네트워크 어댑터 항목을 펼칩니다.

  3. VPN 관련 어댑터(이름에 TAP, WAN Miniper, VPN 등 포함)를 찾습니다.

  4. 노란색 느낌표가 있다면 우클릭 후 디바이스 제거를 선택합니다.

  5. 상단 메뉴에서 [동작 > 하드웨어 변경 사항 검색]을 실행합니다.

  6. 이어서 **터미널(관리자)**에서 네트워크 설정을 초기화합니다.

    netsh winsock reset
    netsh int ip reset
    ipconfig /flushdns
  7. 반드시 재부팅한 뒤 다시 연결합니다.

가상 어댑터가 복구되지 않으면 VPN 프로그램을 완전히 제거하고 재설치하는 것이 가장 확실합니다.


해결 방법 4: 프로토콜 변경과 공유기 설정

오류 코드 789나 809가 나올 때 해당하는 조치입니다.

  1. VPN 프로그램 설정에서 프로토콜 항목을 찾습니다.
  2. 기본값이 자동이라면 OpenVPN(UDP) → OpenVPN(TCP) → WireGuard 순으로 바꿔가며 시도합니다.
  3. TCP 방식은 느리지만 차단을 우회하는 경우가 많습니다.
  4. 회사 VPN처럼 윈도우 기본 VPN 기능을 쓴다면 [설정 > 네트워크 및 인터넷 > VPN]에서 해당 연결의 고급 옵션을 열어 VPN 유형을 담당자가 안내한 값으로 정확히 맞춥니다.
  5. 공유기 관리 페이지에 접속해 VPN 패스스루 또는 VPN Passthrough 항목이 있으면 켭니다. 주소는 보통 192.168.0.1 또는 192.168.1.1입니다.
  6. 공유기의 방화벽 수준이 높게 설정되어 있다면 한 단계 낮춰 테스트해봅니다.

해결 방법 5: 연결은 되는데 인터넷이 안 될 때

VPN 연결 표시는 뜨는데 웹 페이지가 안 열리는 경우입니다.

  1. **터미널(관리자)**에서 DNS 캐시를 비웁니다.

    ipconfig /flushdns
  2. VPN 프로그램 설정에서 DNS 누수 방지 또는 자체 DNS 사용 항목을 켜거나 꺼가며 테스트합니다.

  3. [설정 > 네트워크 및 인터넷]에서 VPN 어댑터의 DNS를 **자동(DHCP)**으로 설정합니다.

  4. VPN 프로그램의 킬 스위치 기능이 켜져 있다면 잠시 꺼봅니다. 이 기능이 오작동하면 모든 트래픽이 차단됩니다.

  5. 분할 터널링(특정 앱만 VPN 통과) 설정이 있다면 확인합니다. 브라우저가 제외되어 있을 수 있습니다.


문제 해결이 안 될 경우 추가 점검 사항

  • 시간 동기화: 검색창에 날짜 및 시간을 입력해 자동으로 시간 설정을 켜고 지금 동기화를 실행합니다. 시각이 어긋나면 인증서 검증에 실패해 연결이 거부됩니다.
  • VPN 프로그램 재설치: 제거 시 남은 가상 어댑터와 설정 파일까지 지우려면 제조사가 제공하는 전용 제거 도구를 사용하세요.
  • 다른 기기에서 확인: 스마트폰에서 같은 계정으로 연결해보세요. 거기서도 안 되면 VPN 서비스 쪽 장애입니다.
  • 동시 접속 제한: 대부분의 VPN 서비스는 계정당 동시 접속 기기 수를 제한합니다. 다른 기기의 연결을 끊고 시도해보세요.
  • 회사·학교 네트워크: 기관 네트워크는 VPN을 정책적으로 차단하는 경우가 많습니다. 이 경우 우회는 정책 위반이 될 수 있으므로 담당 부서에 문의하세요.

이 문서는 2026년 9월 4일 기준으로 작성되었습니다. 운영체제 업데이트에 따라 메뉴 명칭과 위치가 달라질 수 있으며, 시스템 설정을 변경하기 전에는 중요한 데이터를 먼저 백업하시기 바랍니다.