В каких случаях выписывают протокол, а в каких постановление?

постановление выносится на основании протокола
протоколом нарушение фиксируется, а постановлением принимается решение о привлечении к ответственности

Если согласен с нарушением, и суммой штрафа, которую называет ИДПС, то постановление, в противном случае протокол. Если по КоАП нарушение "тянет" на лишение, то протокол (независимо от Вашего согласия) .
Здесь я рассматриваю только случай непосредственно на дороге, когда Вас останавливает ИДПС.
Кроме того протокол составляется, если ИДПС решил провести ДОСМОТР, если проверяет алкотестером, если оформляет задержание ТС или водителя еще в ряде конфликтных ситуаций

Постановление - это когда сумма штрафа определяется на месте нарушения, а протокол - это уже либо в суде либо в ГАИ.

В случае выявления АПН составляется протокол (типа есть нарушение, значит должен быть протокол) . А постановление о привлечении к ответственности может быть вынесено только ограниченным списком должностных лиц (например постановление о лишении может быть вынесено только судьей) . Список лиц и их возможности по вынесению постановлений есть в КОАП.
Общая тенденция - чем мельче нарушение, тем ниже должность с которой можно выписывать постановление. Другое дело, что на практике эти два документа могут быть объединены в один.

постановление - когда согласен с нарушением. протокол когда хочешь разбираться в суде.

Вообще если с нарушеним согласен то постановление.. если не согласен то протокол, также протокол выписывает по причинам досмотра и т. п.