Можно ли в Camtasia studio увеличить частоту кадров в видео? Если можно то как?

Да. Когда выбираете настройки для рендера, выбирайте пользовательские настройки. Делайте там всё по своему усмотрению, потом найдёте настройку частоты кадров. Там и выбирайте.