Apenas por dedução, devo imaginar que vc tenha uma placa mãe baseada na pinagem 775. Realmente é uma placa que pode haver restrições no chipset, e se você colocar mais 2gb de memória ram, ela vai acusar apenas 3,15 mb. Esteja certo que qualquer pente de memória irá melhorar, mas não haverá solução definitiva. Já com relação à placa de video, não conseguirá extrar muito mais do que uma NVidia 550 ti exige. Seria mais fácil você trocar de placa mãe.
Se o seu computador é de "mercado de entrada"... é melhor trocar a fonte genérica do seu computador e colocar uma fonte de maior capacidade, pois placas de video exigem bastante das fontes.