Hast du schon mal FreeRAM probiert? Das räumt deinen Speicher ab und an mal frei.
http://www.pctipp.ch/downloads/dl/32773.asp , kannst einstellen ab welcher Speicherauslastung er was aus dem Speicher schmeißen soll. Dann sollte immer genügend Speicher vorhanden sein.