Hallo,
Bei return false führt jQuery preventDefault (Standardaktion unerdrücken) und stopPropagation (Bubbling abbrechen) aus. Letzteres kann verhindern, dass dein Handler ausgeführt wird. Aber nur, wenn er an einem darüberliegenden Element im DOM registriert wurde.
Wenn er am selben Element (wahrscheinlich am untersten im DOM-Baum) mit jQuery registriert wurde, dann sollte er auf jeden Fall ausgeführt werden. Ob vorher oder nachher, ist durch die Reihenfolge des Registrierens determiniert.
(Wenn jQuery hingegen stopImmediatePropagation aufrufen würde, so würden auch weitere registrierte Event-Handler am selben Element nicht ausgeführt.)
Meist erlauben Lightbox-Scripte auch zusätzlich, einen Handler für das Schließen zu registrieren. Schau dazu mal in der Doku des verwendeten Scriptes nach.
Allgemein solltest du die Ursache finden, warum dein Handler manchmal, aber nicht immer ausgeführt wird. Das hört sich nach einer Race Condition an, was mir hier aber unwahrscheinlich erscheint. Die Reihenfolge, in der registrierte Handler durch jQuery aufgerufen werden und das Element bubblet, ist eigentlich determiniert.
Mathias