Immer wenn ich mit Photoshop arbeite und bspw. den "Ausschneiden"-Befehl nutze erscheint die Meldung: "Ausschneiden nicht möglich weil Arbeitsvolumen voll".
Photoshop nimmt sich per Default so viel Speicher, wie er kriegen kann. Ab und an gibt es dann Probleme, wenn andere Anwendungen aktiv sind.
Daher meine Empfehlung: man kann das per Preferences einstellen, daß er nur N% des vorhandenen Speichers abgreift, das würde ich in Deinem Fall (256 MB) auf 50% oder so stellen.
Klingt zwar paradox, bei "Speichermangel" den Speicherbedarf runterzuschrauben, hat bei mir aber funktioniert.