Sony Vegas, как наложить эффект.

Поверх основного видео, второе видео с прозрачным слоем (альфа канал) + прозрачность.

Это зависит от динамики цифр.
Если они статичные, то можно и самому сделать их в формате PNG, либо же найти в Инете в том же формате.
Сложнее с динамическими. Я лично таких футажей ни на альфа-канале, ни на хромакее не встречал. Если просто набор формул движется, то это еще несложно сделать, особенно сделав из них GIF-ку в ФотоШопе. А вот если эти формулы "пишутся", то подолбаться придется очень и очень скурпулезно с масками. Это вроде написания текста вручную якобы ручкой или пером, но боле заковыристее, ибо формулы сложнее и "многоэтажнее" )))

Попробовать найти футаж или хотя бы статическую картинку с прозрачностью (png) c формулами и наложить поверх основного видео. Можно самому в фотошопе изготовить. Если статика - можно оживить анимацией положения и размера либо имитировать написание анимированной маской. Ну а если охота выпендриться - можно заготовить футаж написания формул в After Effects, там есть имитация пишущей машинки (typewriter).

Футаж найти такой. А если на фотографию, то достаточно этих формул где-нибудь в Photoshop сверху наложить.

Можно найти похожий проект в AE, заменить тексты на формулы и все!
Можно взять типа этого:
https://www.youtube.com/watch?v=V3iwpmte7JU&version=2&rel=0
и отредактировать его под себя, убрав лишнее, заменив надписи на свои