인터넷을 사용하는 기업에서, 프럭시 서버는 PC 사용자와 인터넷 사이에서 중개자 역할을 수행하는 서버로서, 보안이나 관리적 차원의 규제 그리고 캐시 서비스 등을 제공한다. 프럭시 서버는 기업의 네트웍을 외부 네트웍으로부터 분리시켜주는 게이트웨이 서버, 그리고 기업의 네트웍을 외부의 침입으로부터 보호하는 방화벽 서버 등과 관련이 있거나, 또는 그 일부가 된다.

프럭시 서버는 사용자로부터 웹 페이지 전송요청 등과 같은 인터넷 서비스 요청을 받는다. 만약 그 요구가 필터 요건을 통과한 정당한 요구라면, 프럭시 서버는 자신의 로컬 캐시에 이전에 다운로드 해놓았던 웹 페이지가 존재하는지를 확인한다. 이때, 만약 그 페이지가 발견되면, 사용자의 요구를 인터넷에서 새로 찾지 않고 로컬 캐시에 있는 내용을 사용자에게 보낸다. 그러나, 사용자가 캐시에 없는 내용을 요구한 경우에는, 프럭시 서버가 사용자를 대신해 자기 자신의 IP 주소 중 하나를 사용하여 외부의 인터넷에 있는 서버에 페이지 요구를 전달하고, 요청한 페이지가 도착되면, 프럭시 서버는 원래의 요청자에게 그것을 전달한다.

그러나, 사용자에게 이러한 프럭시 서버의 존재는 보이지 않으며, 모든 인터넷 요구와 응답은 마치 해당 인터넷 서버와 직접 수행되는 것처럼 보인다 (사실 프럭시 서버가 사용자에게 완전히 안 보이는 것은 아닌데, 그 이유는 브라우저를설정할 때 프럭시 서버의 IP 주소가 명기 되어야 하기 때문이다.)

프럭시 서버의 이점은 모든 사용자들에게 캐시 서비스를 한다는 점이다. 만약 사용자들의 페이지 요구가 빈번한 인터넷 사이트들이 있다면, 그 내용들은 사용자의 응답시간을 개선시킬 수 있도록 프럭시 서버의 캐시에 있는 것이 좋을 것이다. 그러나, 실제로 캐시 서버라고 불리는 특별한 서버들도 있다. 그외에도 프럭시 서버는 또한 입출력에 관한 기록을 남기는 일도 함께 수행한다.