Si, la opción más viable es XP de 64 bits.
La relación costo/beneficio es bastante baja. El vista es un sistema nuevo con toda una arquitectura nueva que consume muchos recursos de hardware para ser un sistema operativo. Un sistema operativo tiene que consumir lo mínimo de hardware del equipo y no tomar la mayoría, para que las aplicaciones que instales puedan correr bien. El rendimiento que podes aprovechar en dual core2 con un xp es mucho más que con vista, por el solo hecho de ser más ligero.
Lo de la memoria virtual la verdad que no tengo idea porque te funciona así. Si yo en alguna compilación o ejecutando aplicaciones que consumen mucha memoria no tengo memoria virtual se me cuelga el equipo. Por eso te decía que puede ser por el tipo de aplicación. Capaz que los soft que usas no llegan a consumir toda la ram del equipo y no necesitan la memoria virtual.

Saludos