yo,
zum einen ist der hinweis von hamster ganz wichtig, nämlich eine dritte beziehungstabelle zu bilden. dann hättest du jetzt erst gar nicht diese probleme. aber jedem seinen willen, hier eine eventuelle lösung, wobei es immer interessant ist, die version deines dbms zu kennen:
SELECT u.*
FROM users AS u
LEFT JOIN groups AS g ON (g.id NOT IN (u.groups_id))
WHERE u.groups_id = ''
OR g.id IS NULL
mit der JOIN Syntax "ON (g.id NOT IN (u.groups_id))" bin ich mir nicht ganz sicher, ob sie so funktioniert, einfach ausprobieren oder deine JOIN bedingung aus der sucheabfrage nehmen. "kriegsentscheidend" ist der LEFT JOIN und die entsprechende WHERE Klausel mit der OR verknüpgunf beider bedingungen.
Ilja