Quem usa Windows Server 2003, IIS 6.0, deve ter se deparado com algumas dificuldades para rodar aplicações ASP.NET 4.
Depois de instalar o .NET 4 Framework, criar um application pool para o site, mudar a versão do ASP.NET para 4 e todos os demais passos habituas.
Mas ainda aparece a página de erro 404, pode ser problema com Web Server Extensions (por 2 vezes foi o meu caso).
Abra o Prompt de Comando (iniciar/executar/cmd) e tente isso:
cscript iisext.vbs /EnFile C:\WINDOWS\Microsoft.NET\Framework\v4.0.30319\aspnet_isapi.dll
Bom, geralmete a tentativa acima funciona perfeitamente, e o resultado sera este:
Mas se não resolver o problema, e se o Web service extension não estiver como o que esta em destaque na imagem, tente isto:
Add a new Web service extension
Extension name: ASP.NET v4.0.30319
Click em Add
Path to file: C:\WINDOWS\Microsoft.NET\Framework\v4.0.30319\aspnet_isapi.dll
Marque a caixa Set extension status to Allowed, e pronto.
Espero que a dica seja útil, pois já tive por 2 vezes este problema e foi destas duas formas que resolvi ambos os problemas.