Basicamente é uma forma em que o sistema operacional organiza os arquivos, juntando as várias partes dos mesmos arquivos que estão espalhadas pelo Hd, para que seja acessado mais rapidamente pelo SO.
Para entender mais um pouco, leia aqui:
http://goo.gl/uKAM7 e aqui:
http://goo.gl/zdiKJ A desfragmentação ajuda os Hds, melhorando o desempenho, mas hoje em dia não há muito com o que se preocupar, já que o próprio windows vista, 7 e 8 faz essa desfragmentação automaticamente toda semana, em 2º plano, pois o sistema de arquivos Ntfs que o windows usa desfragmenta-se muito facilmente, então a Microsoft foi meio que obrigada a desenvolver essa solução. Alguns fazem a desfragmentação com outros programas a cada semana, neste caso, pode haver redução da vida útil do hd, por ser desnecessário e exagerado. Outros fazem uma vez por mês. E eu mesmo acho que devo fazer uma vez a cada dois anos ou mais, pois sempre que vou verificar o windows informa que não é necessário, então não me preocupo muito com isso não.