Se você estiver fazendo vpn com túneis (ipsec com gre ou ipsec com vti), então há um limite imposto pelo número de Interface Descriptor Blocks. Cada túnel vpn exigiria uma IDB. Se você está apenas executando o ipsec (mapa de criptografia aplicado à interface física, mas não com um túnel identificado), então não conheço nenhum limite específico.
Em termos práticos, haverá certamente alguns limites que refletiriam o número de pares que estão a ser tratados, o volume de tráfego, etc.. Mas, em termos absolutos, não creio que haja um limite.
