Общие вопросы

Нужно в родительском окне создать
<IFRAME name=MyName ...>
И в модальном окне у формы поставить соответственно TARGET=MyName

Внимание:
Если это ShowModellesDialog - то форма отправится сразу после submit'а, если же это ShowModalDialog то форма отправится только после закрытия этого окна.