Tente uma limpeza com programas como Ccleaner ou JetCleaner. E se não estiver conseguindo simplesmente baixe outros navegadores como Firefox ou Chrome, onde provavelmente não ocorrerá esses problemas.
Mas, se o problema é só ao responder e-mails no webmail, vc também poderá testar um cliente de e-mail como o windows live mail ou thunderbird (gratuitos) ou o Outlook da Microsoft (pago), basta configurar sua conta e baixar todos seus e-mails localmente, onde poderá enviar e receber todos seus e-mails de todas as contas em uma só janela, sem mais depender de internet explorer nenhum.