Eine ganz dreckige Lösung: binde den Flash-Player als iframe ein (und dort ein HTML-Dokument, welches nur den Flashplayer im Vollbild läd (so wie das z.B. auch Youtube macht) - dort kannst du dann einen modalen Dialog drüberschießen ohne Scherereien.
Aber zurück zur eigentlichen Geschichte:
Führe einfach folgendes nach dem erzeugen des Dialogs aus:
d.dialog({
position: [x,y]
});
x entspricht dabei die breite des containments abzüglich der breite des dialogs geteilt durch 2 (klammern nicht vergessen) + das offset des containments von links.
Das containment für das draggable hast du ohnehin schon richtig gesetzt - fehlt dir also nur noch das abdunkeln.
Hier musst du nach erzeugen des dialogs dann .ui-widget-overlay die größe des containments geben und die position (top/left) auch entsprechend anpassen.
Die Werte bekommst du mit .width(), .height() sowie .offset().left und .offset().top