как сохранить качество видео?

Получается огромный файл - значит, ты не задал компрессию. Несжатые AVI сохраняют инормацию полностью, но комп с воспроизведением их не справляется.
Я обычно перекодирую в DivX 3 LowMotion - настройки по умолчании (битрейт 910) дают вполне сносное качество. Двухпрогонное кодирование - в тот же DivX 3 LowMotion при помощи NanDUB или при помощи DivX5, в который уже заложены возможности двухпрогонного кодирования - даст лучший результат, особенно если фильм динамичный, но намного сложнее для начинающего.
Я же для перекодирования DVD-video в AVI обычно использую не NeroVision, a dvd2avi ver.1.76 - кроме тех сравнительно редких случаев, когда диск "проблемный" (например записан на аппаратном рекордере) : NeroVision с такими дисками обычно, с бОльшими или меньшими приключениями, справляется, прочим же программам записанные на таких дисках файлы оказываются недоступны.

перегони в мпег-2

Не заморачивайся так! Ави формат, через конвертор! Поставь самые высокие параметры разрешений звука и видео. В финале получаешь потерь 5% в ёмкости! И никаких проблем! Испытано на себе!!!

Любой формат XMedia Recode

Рекомeндую пользовать Sony Vegas. Он умеет прямо с DVD-диска импортировать видео на таймлайн в mpeg-2. Качество не теряется при этом. Далее - монтаж и вывод видео в любом удобном формате.

Sony Vegas

Уроки Vegas

Переименуйте расширение vob на mpg, ваша пинакля сразу откроет файл. Будут проблемы при редактировании, тогда перекодируйте VOB файл в формат DV, а затем и редактируйте. Исключительно в DV!!!

И воб и мпег неважно редактировать, желательно преобразовывать видео в Microsoft DV AVI-PAL. Я обычно кодирую прогой Canopus Rpo Koder.

divx-но сжимать в разумных пределах