как в VirtualDub вставить другой файл внутрь открытого?

"ФАЙЛ"------>"Добавить AVI сегмент... "

"Вставить другой файл внутрь открытого" - то есть в каком-то месте прервать демонстрацию первого файла, пустить второй видеоклип, потом вновь вернуться к воспроизведению первого?
Сначала порежь первый клип. Это можно сделать только по "ключевым кадрам" (keyframes) - порезка с точностью до кадра тоже возможна, но это порядочная морока (если надо - расскажу как это сделать) .
Бегая курсором по шкале времени (под экранами в интерфейсе программы) , выстави начало и конец клипа, который желаешь сохранить. Для этого служат кнопки "с чёрными закорючками" - две самые правые кнопки под теми же экранами. В параметрах как видео, так и аудио выстави режим прямого копирования (direct stream copy) и сохрани фрагмент под новым названием (File ---Save AVI). То же самое проделай со второй половиной клипа.
Затем открой первый из клипов, которые ты хочешь сшить (то есть начало разрезанного клипа) , командой File ---Append AVI segment добавь второй кусок (вставляемый фрагмент) , потом точно так же третий (то есть конец разрезанного клипа) и, при желании, далее то же самое сколько угодно раз. И сохрани видео (File ---Save AVI) опять под новым названием, при этом по-прежнеиму должен бфыть. выставлен режим прямого копирования (direct stream copy) как для видео, так и для аудио
Если форматы клипов, которые ты пытаешься сшить, различны - прога сообщит об этом и откажется их сшивать. Их тогда можно, конечно, попытаться "привести к общему знаменателю" через полную рекомпрессию (Full processing mode) - но не факт, что у тебя это получится.

Например, так. Порезать открытый где надо, сохранить каждую часть, потом открыть первую часть + новый файл + вторая часть. Сохранить всё это :)
Дуб все-таки простенький видеоредактор, скорее даже, это утилита с некоторыми функциями редактора :)