Какие параметры нужно поменять чтобы склеить в в программе Boilsoft Video Joiner

Джойнеры в прямопотоке нормально работают только когда файлы из ЕДИНОГО ИСТОЧНИКА, например, с камеры. Малейшее несовпадение, при разных источниках, - и капризы обеспечены.
Вам проще выставить параметры видео, как и у основной части и перекодировать заново. В качестве почти не потеряете.