Общие вопросы

> Мне тоже когда-то понадобилось - я использовал showModelessDialog, но потом сделал на обычных, т.к. у этих нет никакого взаимодействия кроме передачи данных.

Почему нет?
В качестве параметра в showModelessDialog передавай просто, скажем, объект document parent окна. Или window. Что нужно, то и передавай.
И организовывай взаимодействие, как хочешь.