Isso envolve uma série de fatores, e muitas placas de vídeo exigem que se troque também a fonte do pc, pois as fontes genéricas não aguentam a potência exigida. E o seu pc não aguenta jogos pesados no full, pois ele só suporta memória ddr2 de até 800 mhz (isso é fraco), além de outros fatores e de que já está com problemas de aquecimento no processador, tela azul... como vc mesmo falou.
Mas se quiser arriscar, isso vai depender de quanto vc quer gastar, com preços muito variados, há vários modelos de placas de vídeo, mas tem pelo menos uma com ótimo custo x benefício que é a a Geforce Gt 240 de 1Gb na faixa em torno de R$ 250 - 300,00 (e que só exige no mínimo 300 W da fonte) ou seja, pode ser que sua fonte aguente. Veja aqui:
http://goo.gl/cIiPK