Das Problem düfte sein, ein Fenster zeichnet sich deckend über den Desktop bzw. über andere Fenster. Es hilft daher nichts den Hintergrund transparent zu schalten, der Bildpuffer des Fensters hat immer eine Farbe (anfangs wahrscheinlich schwarz) und wenn du auf sowas "nichts" (= transparent) drüberzeichnest, bleibt das trotzdem schwarz.
Es gibt Einstellungen um das Zeichnen des Hintergrunds komplett zu verhindern, aber wie das in Java funktioniert weiß ich nicht.