Округлите до третьей значащей цифры число: а) 0,03796 б) 3 364 700

Надо различать округление до третьей значащей цифры от округления до третьего знака после запятой.
При округлении до определенного числа значащих цифр нули в начале и в конце числа не считаются значащими цифрами. Отсчитывается требуемое число значащих цифр, остальные обнуляют в соответствии с правилами округления.
В данносм случае а) 0,03796 - это число содержит 4 значащие цифры. При округлении до трех это будет 0,0380 (последний ноль можно не записывать, т. е. в данном случае округление до трех и до двух значащих цифр дает один и тот же результат) . б) 3364700 число содержит 5 значащих цифр. При округлении до трех будет 3360000.
Удобнее всего при округлении до определенного числа значащих цифр результат представлять в нормальной форме числа. Например 0,0026231 при округлении до трех значащих цифр можно записать как 2,62*10^(-3). А число 26231 при округлении также до трех значащих цифр будет 2,62*10^4.

Округление осуществляется по простому правилу. Если после предпоследней цифры идут цифры от 0 до 4, то предпоследняя цифра не меняется, а если последние цифры от 5 до 9, то предпоследняя цифра увеличивается на +1.

а) 0,03 б) 3,36

Если первая из отброшенных цифр равна 5 и все от­брошенные цифры являются нулями, то последняя остав­шаяся цифра оставляется неизменной, если она четная, и увеличивается на единицу, если нет (правило четной цифры).
Так было написано в учебнике за первый курс и этот момент уточнял преподаватель.
Но судя по всему это правило посчитали слишком сложным для школьников и решили всё упростить.