Что такое значащая цифра и как ее определять?

значащие- те которые что-то означают.
в вашем примере в первом 260,1 (один знак после запятой)
или 56 мм (точность до миллиметра)
определяется округлением стандартным способом, до 5 в меньшую сторону, от 5 и больше в большую. берется только один знак перед значащей цифрой

Значащая цифра - это та, которая несет смысл при измерениях или расчетах, то есть "значит". Это все цифры, принадлежащие мантиссе числа в стандартном виде. Значащей цифрой может быть также и ноль. Например, в ряду результатов измерений получены значения:
4.365, 4.870, 5.709, 1.375, 2.000
Значащих цифр всюду ровно четыре, так как каждое значение в разряде - результата некоторого измерения или расчета.
0.325, 0.001 - соответственно три и одна значащая цифра.
В машинных измерениях стандартный вид числа с плавающей точкой имеет вид .####E+N, где под символом # - значащая цифра мантиссы, а N - "экспонента", или правильней сказать - степень десятки. Мантисса при этом принимает значения от 0 до 0.999, экспонента - целое число.
Тогда у числа 237000 может быть как три значащих цифры, если это число .237E+6, так и шесть, если это число .237000Е+6 - с условием, если все три правых нуля мантиссы - результат измерения или расчета.

>> ну, допустим, точность измерения на приборе 0.1 мм. измерили им что-то, длина 260,06 мм

Как это?! Точность 0,1, а ты измерил с точностью до 0,01?

Как правило, говорят о ЧИСЛЕ значащих цифр. Приведу несколько примеров:
0,186; 1,86; 0,000186; 186*10^2 - число значащих цифр три.
0,1860; 1,860; 0,0001860; 1860*10^2 - число значащих цифр четыре.

Плюс-минус - это значение.

все цифры в числе значащие кроме нуля впереди стоящего. К точности никакого отношения.