как с помощью Sony Vegas Pro 11 сделать спецэффекты?

Зависит от версии, (и цены) - есть или нет уже встроенных. Или путем добавления плагинов к монтажке, напр. р

3D Explosions
3D Transformations
Art Blends
Art Effects
Film Effects
Motion Blends
Motion Effects

VASST Ultimate S2 - включает в себя сывше 58 утиллит, возможностей, и рабочих инструменов, построенных на основе скриптовых плагинов для Sony Vegas. Ultimate S 2.0 несет в себе 30 новых дополнительных возможностей, 110 новых предустановок и 90 инструментов (которых в общей сложности свыше 250) для Sony Vegas 5, Sony Vegas 6 и Sony Vegas 7. Новые функции включающие в себя RT переключение при мультикамерном монтаже с реал-тайм предпросмотром всех камер одновременно, аудио плагины на основе iZotope®, импорт вложенных проектов, создание подложек для титров с уже встроенными 50-ю поставляемыми по умолчанию, спецэффекты на основе композитинга, и другие различные спецэффекты, а так же предустановки для фотомонтажа, и многое-многое другое!

NewBlueFX - Audio & Video плагины для монтажа:
Art Effects - Cостоит из 7 специализированных видео фильтров, для ошеломляющего изменения вышего видео. Все эффекты облпдпют простыми и очень удобными настройками. Используя NewBlueFX, Вы можете изменит свое видео так, как будто оно было выковано из металла или же снято в виртуальной реальности.. . NewBlueFX - идеальный способ для придания вышему видео своей, особой "изюминки".
Включает в себя: Air Brush, Colorize, Dream Glow, Duochrome, Line Drawing, Metallic, and Pastel Sketch.
Motion Effects - Сборник состоящий из 7 специализированных видео фильтров, для добавления в видео различного рода движений.. . Используя NewBlue Motion Effects, Вы можете моделировать землетрясение, добавлять стертые эффекты движения (типа матрицы) и прочее. Как и все остальные продукты от NewBlue VideoFX, данные плагины имеют простое и удобное управление, и невероятное качество результата.
Включает в себя: Active Camera, Earthquake, Motion Blur, Shear Energy, Spin Blur, Wiggle and Zoom Blur.
ArtBlends - набор из 81 перехода и 8 спецэффектов. NEW*
MotionBlends - состоит из 92 переходов и 7 спецэффектов NEW*

Magic Bullet Editors for Vegas - Мощнейший плагин для работы как с цветом, светом, и прочими цвето-световыми параметрами видео. Developed at The Orphanage, by former Industrial Light + Magic visual effects artist Stu Maschwitz, Magic Bullet Editors provides digital video professionals with simple tools to transform the crisp, soap-opera look of video to the softer, more organic look of film. Вы можете выбрать один из 65 готовых "Looks" (встроенных предустановок) или же создать свои новые.

SpiceMASTER™ - Очень мощный плагин для создания спецэффектов
has long been digital video's leading visual effects plug-in for custom SOFT/ORGANIC transitions and effects, greatly enhancing your creative flexibility while editing. SpiceMASTER 2.5 выпускается в двух вариантах - TFX и PRO (их сравнение можно посмотреть на офсайте программы)
============
Все гайды, инструкции по установке есть в сети