Red Hat Enterprise Linux는 인터넷과 같은 공중 네트워크 상에서 보안 터널을 사용하여 원격 호스트와 네트워크를 연결해주는 IPsec을 지원합니다. IPsec은 호스트 간 (한 컴퓨터 워크스테이션에서 다른 워크스테이션으로) 또는 네트워크 간 (한 LAN/WAN에서 다른 LAN/WAN으로) 연결을 사용하여 구현됩니다. Red Hat Enterprise Linux에서는 시스템을 안전하게 연결하고 상호 인증하기 위해 IETF (Internet Engineering Task Force)가 구현한 프로토콜인 IKE (Internet Key Exchange:인터넷 키 교환)을 사용하여 IPsec을 구현합니다.
IPsec 연결은 두가지 논리적 단계로 나누어 집니다. 1 단계에서 IPsec 컴퓨터는 원격 컴퓨터나 네트워크에 연결을 초기화합니다. 원격 컴퓨터나 네트워크는 연결을 요청한 컴퓨터의 보안 정보를 확인한 후 연결에 사용될 인증 방식을 협상합니다. Red Hat Enterprise Linux 시스템에서는 IPsec 연결을 위해 pre-shared key(사전 공유 키) 방식의 IPsec 컴퓨터 인증을 사용합니다. 사전 공유 키 방식을 사용하는 IPsec에서는 양 컴퓨터가 동일한 키를 가지고 공유하고 있어야 2 단계로 넘어갈 수 있습니다.
IPsec 연결 2 단계에서는 IPsec 컴퓨터 간에 SA (security association)가 설정됩니다. 암호화 방식, 비밀 세션키 교환 변수 등과 같은 설정 정보를 담은 SA 데이터베이스가 만들어지며, 원격 컴퓨터와 네트워크 사이에서 실제 IPsec 연결을 관리하는 단계입니다.
Red Hat Enterprise Linux에서 IPsec을 구현하는데 IKE를 사용하여 인터넷 상에서 호스트 간에 키를 공유합니다. racoon 키 관리 데몬이 IKE 키를 배포하고 교환합니다.