В чем можно монтировать видео в формате dvd? (не кодируя, именно dvd)

http://www.ashep.org/2008/o-formate-dvd-video/

здесь подробно о составе файлов и внутреннем устройстве DVD
А монтировать можно pinnacle studio - да вот только предполагаю что перед этим необходимо будет произвести "захват видео" (не конвертацию! ) поскольку файлы на DVD являются контейнерами содержащими также звук и разбивку на сцены, а также титры.

обычные dvd диски записаны в формате vob,из этого и надо ставить вопрос

Ни в чем.
В составе ДВД диска присутствуют файлы vob, к которые упакованы видео в формате MPEG2 и звук ( может быть в форматах DTS, MP2, AC3 )
Кроме этого имеются маленькие файлики, которые собственно описывают что где лежит и в каком порядке показывать.
Поэтому любое изменение структуры приводит к нечитаемости диска

Dvd - это "digital video disc". Не формат, а носитель информации.

MPEG Video Wizard DVD. В ней можно редактировать DVD и делать новый из одного или нескольких дисков.

Для начала определимся с терминами
1. Если Вам нужно переделать готовый DVD видео фильм (убрать, добавить видео или аудио, субтитры и пр. ) - см. программы ремастеринга / реавторинга
http://kanst.mediatory.ru/index.files/dvdrem.htm
Но скажу сразу - без должного опыта разобраться сразу не получиться.
Иногда гораздо проще импортировать видео с DVD диска в видеодеоредактор, переделать так как надо и по новой сделать DVD видеодиск (с меню и прочее)

2. Создание DVD видеодиска производится после монтажа фильма в видеоредакторе в специальных программах. Пример: монтаж видео в Sony Vegas, а сборка DVD в Sony DVD Archtect.

InterVideo WinDVD Creator 2 по проще Pinnacle Studio 14 по сложней