разрешающей способностью монитора является

То, какое разрешение способен поддерживать монитор.

Тоесть, ваш монитор может быть к примеру 800пикселей (по ширине) и 600п (по высоте)
то это разрешение для него счетается оптимальным (тоесть в системе (от куда идёт сигнал изображение) разрешение должно быть 800х600)

Но на таком мониторе возможно использовать большее разрешение к примеру 1024х768, качество картинки изменится (станет темнее)

Разрешающая способность, как я понял, подразумевает собой то, разрешение, которое способен отображать монитор

Иногда встречается, что видеокарта может выдать разрешение, большее чем поддерживает монитор (Тоесть если вы подключите к компьютеру монитор с разрешенной способностью 800х600, а в видеокарте установите разрешение1680х1050 (как указанно на скриншоте в сообщение ниже) то в место изображения вы увидите черный экран) По этому в ОС win7,XP при изменение разрешения появляется окошко, с отсчетом времени, по прохождение которого автоматически восстанавливается предыдущее разрешение.