O mais comum é usar servidores linux pra hospedar sites. Dependendo do seu planod e hospdagem, você tem acesso a uma conta de usuário em um servidor hospedeiro. nesse caso, você não pode instalar bibliotecas nem nada assim, mas o hospedeiro tem instaladas as bibliotecas e aplicativos mais comuns: apache com suporte a php pra servir as páginas, mySQL e postgreSQL pra servir bancos de dados etc.
Você pode ter também um servidor virtual privado (VPS): não é uma máquina física, mas um computador emulado (tipo virtualbox ou vmware da vida) e você tem acesso administrativo total a essa máquina virtual (mas não á máquina física que hospeda seu VPS, mas isso é completamente desnecessário). Esse é o caso do servidor do CC.
Para sites de maior tráfego, a empresa de hospedagem pode te dar acesso a um servidor dedicado. Isso é realmente um hardware (processador, HD, memória, placa de rede) exclusivos da sua conta, você pode ir até o datacenter deles e colar uma etiqueta no seu servidor. Nesse caso você também tem acesso administrativo total à máquina.