Общие вопросы

> Кто-нибудь может подсказать, как отследить в родительском окне закрытие немодального диалога?

Можно узнать закрыто ли оно, используя [winObj].closed

Или в самом окошке определять window.onbeforeunload и запускать какую нибудь функцию в родительском окне.
Обьект род окна передаем вторым параметром [showMod...(...,window,...)]
В окошке его получем [window.dialogArguments] и записываем в переменную.
var topWin = window.dialogArguments;
topWin это родительское окно;
alert(topWin.title)>>"Title род окна"

А если это надо чтобы предотвратить
открытие лишней копии окна, см. пример:

var addbannersWin = false;
function addbanners(){
if(addbannersWin.closed){ addbannersWin = false; }
if(!addbannersWin){
addbannersWin=showModelessDialog("addbanner.htm",window,"");
}
}