Após criar um servidor NuGet utilizando o pacote NuGet.Server o IIS retorna o erro 404 ao tentar acessar os pacotes. Este erro acontece porque as rotas não estão sendo registradas (algum problema com o WebActivatorEx). Então, enquanto esse problema não é corrigido, a solução é adicionar o seguinte código no Global.asax para registrar as rotas.
Global.asax
void Application_Start(object sender, EventArgs e)
{
NuGetRoutes.Start();
}