클러스터는 기본적으로 각 노드마다 별도의 메모리를 갖고 있다. 따라서 우리가 설정한 node1에서 node2나 다른 노드와 데이터를 주고 받으려면 메모리 상에서의 직접 공유나 복사가 불가능 하므로 network을 통해서 이루어 진다. 따라서 클러스터는 이러한 메세지 전달구조가 선행되어야 하며 클러스터를 완벽하게 사용하기 위해서는 이러한 전달구조에 기반하여 프로그램을 작성해야 한다.
다행이도 이러한 메세지 전달을 위한 라이브러리가 이미 작성되어서 배포되고 있다. 대표적으로 PVM이나 MPI가 그것이다. 여기서 각자의 특징에 대해 자세하게 논의하는 것은 불필요한 노력이므로 생략하도록 하겠다. 다만 간략하게 설명하면 PVM이 역사적으로 먼저 나와서 많은 병렬컴퓨터들에서 사용되어 왔으며 MPI는 PVM보다 늦게 나오긴 했지만 더 많은 기능을 지니고 있으며 하드웨어 벤더들의 지원을 받고 있다. MPI는 MPICH와 LAM/MPI라는 두가지 버전이 있는데 우리는 그중 LAM/MPI를 사용할 것이다. 여기서 언급한 각 라이브러리들은 다음의 URL에서 정보를 얻을 수 있다.
PVM : http://www.epm.ornl.gov/pvm/ MPICH : http://www-unix.mcs.anl.gov/mpi/mpich/ LAM/MPI : http://www.lam-mpi.org/
데비안 시스템에서 LAM/MPI는 dselect 리스트의, lam3와 lam3-dev 두 패키지를 선택해서 설치하는 것으로 모든 설치가 끝난다.