yo,
wie bereits erwänht hilft dir ein outer join weiter. ich mache mal einfach halber nur den SELECT, damit du überprüfen kannst, ob die entsprechenden datensätze selektiert werden und nur die.
SELECT u.id, u.name, c.id, c.userid
FROM user AS u LEFT JOIN connection AS c ON (u.id=c.userid)
WHERE c.userid IS NULL
Ilja