как vob-формат перевести в avi ?

Скачайте какой-нибудь Auto Gordian Knot бесплатно - и конвертируйте на здоровье.

Один из лучших кодировщиков (если не самый лучший) - СКАЧАТЬ CanopusProCoder 3
Но если требуется что то типа DVDRip, то рекомендую специальную программку Super DVD ripper. Кодирует довольно не плохо в XviD MPEG-4. В кодеке простые и понятные настройки, есть даже калькулятор расчёта битрейта. Битрейт рекомендую не ниже 1500кбит\сек. Ну и разрешение сильно не занижать. Попробуйте взять любой файл с фильмом DVDRip и посмотреть его характеристики. Вот так и делайте.
Скачать Super DVD ripper v.2.39
Ну а VOB никогда форматом видео не являлся!! !Это имя расширения для файлов (видео-объект) в структуре DVD-Video.

Я обычно использую программу dvd2avi ver.1.76 - она, в отличие от подавляющего большинства прог такого назначения, не только не портит материал, но даже позволяет исправить огрехи оригиналапри наличии таковых.
Другой, тоже хороший, способ - функция ImportDVD программы NeroVision.

Есть много таких программ. Один из вариантов - PocketDivXEncoder Бесплатно и просто. Просто в качестве источника указываешь на каталог где vob-ки лежат. Выбираешь требуемую звуковую дорожку. С форматом вывода, я думаю разберёшься сам.
Если хочешь сам всё делать ручками то VirtualDub. Тоже бесплатная. (на самом деле в PocketDivXEncoder тоже VirtualDub работает, просто оболочка сделана и некоторые дополнительные программы добавлены)
По поиску без проблем найдёшь где скачать.

Почитайте о структуре DVD и там же о конвертации, надеюсь, разберетесь

WinAVI Video Converter

Format Factory