Eu ainda não conheço uma forma 100% eficaz para isso, mas tem alguns softwares que utilizam de força bruta para tentar quebrar essas senhas. seria muito bom se vc especificasse a extensão do arquivo que esta querendo quebrar a senha. Pra arquivos .rar por exemplo existe um software que pode fazer isso pra vc. Advanced Archive Password Recovery. Mas dependendo do tamanho e da complexidade dessa senha cara isso pode demorar e muito, mas... não custa nada tentar né