Проблема при оцифровке видео

В порядке следования полуполей.
Я бы попробовал VirtualDub. В нем фильтр деинтерлейс поприличней и есть выбор настроек метода.

наилучшее качество даёт Канопус про кодер, он же grass valley pro coder или ССE
с порядком полей - поэкспериментируйте на маленьких 10 сек файлах
нарежьте - и вперёд...

ави - это всего лишь контейнер. в какой кодек жмете? чем смотрите потом? зачем сразу деинтерлейсить, если потом я так понимаю предстоит какой-никакой монтаж?
ЗЫ: канопус прокодер - да, стоящая вещь.
виртуал даб тоже стоящая вещь. Она вроде должна подгребать VFW-кодеки, что установлены в системе.

Если у вас картинка над картинкой, то может вы выбрали деинтерлесинг "воспроизводить оба полуполя одно над другим" :)
Выберите нужный фильтр деинтерлейсинга.

Если вы готовите фильм для просмотра по телевизеру - деинтерлейс делать не следует! Только не меняйте количество строк. Так как при деинтерлейсинге у вас упадет разрешение картинки по вертикали ( вы либо выкинете одно полуполе, либо усредните полуполя) да и картинка потом на телевизоре при движении будет более дескретно (менее плавно) воспроизводится.

Бывает еще такая проблема с полуполями, когда изображение в телевизоре "вибрирует" т. е. полуполя по времени воспроизводятся в неправильном порядке. Я обычно это устраняю в "каонпусе про кодер".
Дело в том, что у разной аппаратуры нет единого стандарта какое полуполе будет идти первым, а какое вторым, поэтому отсюда и путаница.
Обычно если я оцифровывал с аналогового видео, то у меня правильное расположение полуполей получается, если при обработке в Канопусе я ставлю на входе первым воспроизводить up-полуполе и на выходе верхнее полуполе.
А если это видео с miniDV у меня правильное расположение полуполей получается если на входе указываю первым воспроизводить нижнее полуполе, а на выхоже верхнее полуполе.

И еще, если все таки нужен деинтерлейс и вы будете пользоваться Виртуал Дабом, советую и интернете найти для него деинтерлейс фильтры сторонних производителей. Так как вшитый в него стандартный деинтерлейс-фильтр, мягко говоря не самый лучший.