В какую сторону округлять 3-ю цифру после запятой?

Конечно, существуют разные способы округления. ОДнако, чаще всего и если не оговорено дополнительно, то округляют всегда так:
Берем цифру, следующую за разрядом до которого нам надо округлить. В вашем случае округляем до второго знака после запятой, значит, смотрим на 3-ю цифру.
Если она меньше 5, то просто обнуляем ее и все остальные справа от нее.
Если она больше или равна 5, как в вашем случае, то обнуляем ее и все справа от нее, а предыдущую увеличиваем на 1. Т. е. ответ 12546,36 - верный.

Ничего не менялось в математике, но либо вы в школе что-то не так поняли, либо ваш учитель ошибался.
1С в данном случае округлила по обычным правилам...

Конечная цифра меньше 5 округляется в меньшую сторону, конечная цифра больше 5 округляется в большую сторону. Если последняя цифра 5 - на выаше усмотрение. Нпр; 45,7 - округл. как 46....76,382 - округл как 76,38....11,3 округл. как 11. ..95,5 5 округл. или 95,5 или 95,6 как вам угодно, не имеет значения. Так было всегда.

если посл цифра 0,1,2,3,4 просто ее не писать, то есть было 12546,351 а округленное будет 12546,35
если 5,6,7,8,9 то предыдущему числу +1 то есть н-р было 12546,358, а округленное будет 12546,36

Сама машина округляет в большую сторону тоесть в вашем случае будет 12546,36

А там логика в програме такая.. . Специально розсчитана на деньги, тоесть чтобы лучше переплатил, а не наоборот.