как в Qt Creator сделать чтоб при нажатии на кнопку новое окно открывалось?

ну как.
Соединяем события
connect(bt,SIGNAL(clicked()),this,SLOT(open_new_window()));

....
описывам слот
void класс:: open_new_window(){
QMainWindow *window=new QMainWindow(this);
window->show();
}