Ochrona sieci VPN to skomplikowane zagadnienie. Są trzy rodzaje zabezpieczeń, których można użyć w sieciach VPN: szyfrowanie danych uniemożliwiające ich przechwycenie i fałszowanie, sprawdzanie tożsamości użytkownika i prawa dostępu. Metoda tunelowania pomiędzy punktami końcowymi jest niezależna od wymienionych powyżej, ale również ma związek z bezpieczeństwem.
Zadania protokołu tunelowania obejmują nieco większy zakres, niż tylko kapsułkowanie danych w celu umożliwienia routingu i zwiększenia szans na pomyślną dostawę. PPTP i L2TP mogą kapsułkować pakiety IP, IPX i AppleTalk. Żaden protokół nie wskazuje konkretnego schematu szyfrowania, ale implementacja Microsoft obejmuje algorytm RC4 zgodny z ograniczeniami prawa eksportowego w USA. Na terenie Ameryki Północnej dostępny jest bardziej wydajny algorytm szyfrowania.
Z kolei IPSec to główny projekt IETF, który sięga obszarów Architektury Bezpieczeństwa Internetu (Internet Security Architecture – RFC 1825-1827 i wiele innych), bezpiecznych systemów przekazywania komunikatów i infrastruktury klucza publicznego (Public Key Architecture – PKI). Protokół ten jest integralną częścią protokołu IP w wersji 6 (IPv6). IPSec jest protokołem tunelowania i zabezpieczenia „od wszystkiego”, ale tylko dla protokołu IP. Wiele elementów IPSec ewoluuje, ale stowarzyszenie International Computer Security Association promuje współdziałanie produktów poprzez certyfikację pewnych funkcji IPSec. Prace w tym zakresie realizowane są również w ramach projektu Automotive Network Exchange, zainicjowanego w przemyśle motoryzacyjnym. Projekt ANX ma połączyć tysiące firm w jedną sieć VPN o zasięgu ogólnoświatowym. IPSec nie jest protokołem dojrzałym, rozwija się pomyślnie.
Jeśli planuje się sieć VPN z tysiącami użytkowników zatrudnianych przez różne firmy i oddziały, potrzeba skalowalności i możliwości zarządzania prowadzi w końcu do certyfikowanego systemu uwierzytelnień związanego z protokołem IPSec.
Jeśli jednak w sieci VPN pracuje tylko kilkuset pracowników z tej samej firmy, można śmiało zignorować szum wokół IPSec, PKI i certyfikatów.
Wszyscy dostawcy produktów dla sieci VPN kierują się w stronę certyfikatów, ponieważ potrzeby w zakresie uwierzytelniania użytkowników nie mają końca. Trendy w systemach bezpiecznego przesyłania komunikatów, ochrony zdrowia, usług zawodowych, bankowości i handlu elektronicznego wymagają sprawdzenia tożsamości. Najlepsze dzisiaj techniki uwierzytelniania i kontroli dostępu wykorzystują systemy TACAC+ i RADIUS. TACAC+ jest wbudowany w routery Cisco i serwery dostępowe różnych producentów, a serwery dostępowe z systemem RADIUS są popularne wśród usługodawców internetowych. Chociaż technologie wykorzystujące hasła sprawdzają się w znanej i stałej populacji użytkowników, zarządzanie hasłami w przypadku użytkowników z wielu firm, organizacji i osób prywatnych staje się nieporęczne, a uwierzytelnianie – niepewne. Alternatywą jest posiadanie pojedynczej formy identyfikatora do wszystkich zastosowań wydanego przez agencję zaufania publicznego.
Najlepszym takim rozwiązaniem jest technologia zwana infrastrukturą klucza publicznego (PKI), system publicznych i prywatnych kluczy szyfrujących, którego końcowym produktem jest certyfikat lub identyfikator cyfrowy. Kiedy użytkownik ma poprawny certyfikat cyfrowy wydany przez uznany ośrodek certyfikacji (certificate authority), organizacje mogą zaufać temu ośrodkowi i przyznać użytkownikowi specjalne uprawnienia. Zaszyfrowany certyfikat może przekazywać informacje o tożsamości czy uprawnieniach i nie może być powielany. Wykorzystując infrastrukturę PKI każdy komputer może tak zaszyfrować informacje, że będzie je mógł odszyfrować tylko adresat. Informacje mogą szyfrować i deszyfrować zarówno posiadacze kluczy publicznych, jak i prywatnych. Jeśli na przykład posiadacz klucza publicznego wysyła wiadomość, odczytać ją mogą tylko odbiorcy, którzy mają ten klucz publiczny. Klucza publicznego można również użyć do wysłania wiadomości dla posiadacza klucza prywatnego. Oznacza to, że należy uważać, komu przekazuje się swój klucz publiczny. Metodę wiązania konkretnego użytkownika z publicznym kluczem szyfrującym w certyfikacie cyfrowym opisuje standard X.509.
Na ośrodkach certyfikacji spoczywa ogromna odpowiedzialność. Oprócz dokładnej identyfikacji użytkownika i bezpiecznego przekazania mu certyfikatu – często przez kuriera lub kontakt osobisty – równie ważna jest możliwość szybkiego unieważnienia certyfikatu. Certyfikaty mogą mieć wbudowaną datę ważności, którą śledzi ośrodek certyfikacji. Główne ośrodki certyfikacji, w tym VeriSign, Entrust, Netscape i ostatecznie Microsoft, muszą dysponować możliwościami sprawdzania unieważnień.
Obejmują one publikowaną bazę danych zwaną listą unieważnień certyfikatów (Certification Revocation List) oraz protokół statusu certyfikacji (Certificate Status Protocol). Ważne jest wspólne zarządzanie systemem certyfikacji. Różne działy przedsiębiorstw muszą mieć określone prawa. Na przykład dział kadr musie być w stanie natychmiast unieważnić certyfikat.
O ile firma może być sama dla siebie ośrodkiem certyfikacji, rozsądnie jest skorzystać z zewnętrznego ośrodka. Co ciekawe – Lotus Notes był jedną z pierwszych aplikacji, która wydawała własne certyfikaty cyfrowe. Własne rozwiązanie systemu certyfikacji o wielu funkcjach zarządzania certyfikatami ma Shiva. Certyfikaty Shivy są mniej uniwersalne i mniej zobowiązujące niż system w pełni zgodny ze standardem X.509, ale to dobry system do wdrożenia na małą skalę lub dla programu pilotażowego.
Wszyscy zachwycają się szyfrowaniem. Jednak szyfrowanie wymaga sporo mocy obliczeniowej. Całą sztuka polega na tym, aby dobierać techniki szyfrowania odpowiednio do zagrożeń. Drobny detalista może przesyłać informacje bez szyfrowania lub użyć algorytmu RC4. Zastosowanie opracowanego na potrzeby Rządu Federalnego USA algorytmu Digital Encryption Standard (DES) podnosi nakłady na odszyfrowanie wiadomości do poziomu miliona dolarów. Instytucje finansowe mogą natomiast używać algorytmu triple-DES, aby eksponencjalnie podnieść koszty złamania szyfru. Jednak stosowanie tej techniki wymaga odpowiedniego sprzętu, na przykład takiego, jaki stosuje się w gotowych produktach dla sieci VPN. Jeszcze raz należy podkreślić konieczność dostosowania zabezpieczeń do zagrożeń. Użycie nieproporcjonalnie rozbudowanego systemu szyfrowania to marnowanie zasobów.
Kiedy sieć VPN się rozrośnie, niezbędne staną się globalne usługi katalogowe, takie jak protokół Lightweight Directory Access Protocol (LDAP), NetWare Directory Services Novella lub Active Directory z Windows NT 5.0. Użytkownik postrzega sieć jako pulę zasobów i nie powinien być na każdym kroku zmuszany do zalogowania się na odrębnym serwerze lub do posługiwania się zawiłymi nazwami ścieżek. Globalna baza danych o użytkownikach i zasobach umożliwia jedno uwierzytelnione logowanie, które uruchamia wszystkie przydzielone uprawnienia.