как в mkv контейнере поменять звук с DTS на любой другой формат ?

Вырезать через MKVExtractGUI аудиопоток DTS, затем перекодировать дорожку через аудиоредактор типа Audition, предварительно разжав в WAV. В итоге пересобрать .mkv через MKVToolNIX с получившейся дорогой.

Это не говоря про настройку каналов, квантование при пересжатии, подбор битрейта, чистоты дискретизации.