Решил проблему следующим образом: в свойствах источника необходимо выбрать метод захвата "Windows 10 (версия 1903 или новее)".


Я бы в данном случае попробовал следующие варианты:
1) Программу для записи экрана "Bandicam" но скорее всего это не поможет поскольку 11 винда видимо встроила защиту от записи командной строки.
2) Записать нужный кусочек видео просто на телефон.
3) Самый на мой взгляд лучший способ решить проблему это перейти на Windows 10 или развернуть виртуальную машину (VirtualBox) с десяткой и уже в ней попробовать сделать запись.
Если OBS Studio не может захватить содержимое консоли cmd.exe на Windows 11, то это может быть связано с ограничениями безопасности в новой операционной системе. Ниже приведены несколько решений, которые могут помочь решить эту проблему:
Попробуйте запустить OBS Studio от имени администратора. Это может помочь обойти некоторые ограничения безопасности в Windows 11.
В настройках OBS Studio перейдите на вкладку "Video" и измените значение "Mode" на "Capture any fullscreen application". Это может помочь захватить содержимое консоли cmd.exe.
Проверьте настройки безопасности Windows 11. Убедитесь, что OBS Studio имеет необходимые разрешения для захвата содержимого экрана и записи аудио.
Попробуйте использовать другую программу для захвата содержимого экрана, такую как XSplit или Bandicam.
Проверьте, работает ли консоль cmd.exe в режиме администратора. Если нет, попробуйте запустить ее от имени администратора
если прошлые ответы не помогли можно установить другой видео редактор(запись экрана)