Ich denke mit deiner 260er fährst du im moment eigentlich auch ganz gut.
Ich würde dir empfehlen auf die nächste Grafikkartengeneration von Nvidia oder ATI zu warten.
Hoffentlich dann mit ner neuen Lösung für den VRAM.
Alles andere ist zwar nicht unbedingt "weggeschmissenes geld" , lohnt sich aber in deinem falle nicht meiner meinung nach