Откуда все-таки взять милосердие?

Вы задаете непростые, но интересные вопросы!))) Жаль, что нет контекста, поэтому ответить будет не так-то просто.
В целом, на практике видно, что милосердие является не устоявшимся качеством человека, а чаще всего, душевным порывом, который, соответственно, требует определенного проявления вовне. Такие порывы могут повторяться — у одних людей с завидной периодичностью, у других — чуть реже, но в той или иной мере оно проявляется у всех. В нормальном состоянии человеку свойственно демонстрировать сопереживание, милосердие, понимание. Отсутствие вышеперечисленного вызывает мысль о черствости человека, только на поверку это далеко не всегда так (хотя и встречаются индивиды).
Отсутствие милосердия, в частности, можно трактовать как следствие личных обид, нестабильного эмоционального состояния, озлобленности, заниженной самооценки, разочарований и прочих давящих факторов, заставляющих людей защищаться завесой цинизма и черствости.
Есть мнение, что, чтобы открыть в себе милосердие (особенно если есть тяга к тому, чтобы его проявлять), нужно смотреть на причину — что мешает проявлять его здесь и сейчас. Ну и не забывать задуматься о том, достоин ли объект, по отношению к которому хочется проявить милосердие, этого самого милосердия. Коррелирует ли это с личной системой ценностей? Потому что если нет, а милосердие из себя приходится выдавливать, «потому что так кем-то когда-то на что-то положено», ничего хорошего из этого, как правило, не выходит.

милосердие и сострадание приходят с любовью...
делай выводы)

Если его у вас с детства не было, то нигде, кроме как в буддитском храме, учась их мировозрению.