Wenn ich dich richtig verstanden habe, liegt das Problem darin, dass du "position:relative" auf das ul gesetzt hast und nicht auf das li. Deshalb wurde das Submenü relativ zum UL positioniert und nicht relativ zum li, und das UL hat offenbar die komplette Breite des Fensters.
Gruß Rolf