Essa é clássica, quando o monitor não suporta a resolução configurada.
Logo ao dar o boot, fique apertando a tecla F8, então escolha a opção "Habilitar vídeo de baixa resolução (640×480)"
Quando iniciar o Windows nessa resolução mínima, então apenas ajuste uma resolução suportada pelo monitor e depois reinicie o Windows.