Hm, ich will nix falsches sagen, dass einzige was mir da so alles in den Sinn kommt:

System.config manuell verändern, was das Laden von objekten etc angeht;
Das die FPS limitiert sind spricht entweder dafür, dass CF nicht wirklich unterstützt wird, oder aber, die CPU ist der Flaschenhals, wie ist denn die Ausnutzung der vier Kerne?.

Ansonsten aktuelle SP von Vista ziehen, aktuelle Grakatreiber und wenn schon nicht mehr FPS gehen mit Dx10, dann wenigstens über manuelle Konfiguration alles bis Anschlag hauen, was mit Grafikberechnungen zu tun hat, sollte dann auch keinen großen Abbruch darstellen.

Wie stark ist denn Dein Netzteil (wobei ich nicht denke, dass der Hund da begraben liegt )?