Изучая экспериментально зависимость величины у от х, на координатной системе хОу получили следующие точки:...

Если взять обычный МНК, то:
y = a x + b
Введем функцию ошибки:
S = Σ_k (a X_k + b - Y_k)²
Если подставить ваши значения и все посчитать, получается:
S(a, b) = 55 a² + 30 a b + 6 b² - 164 a - 48 b + 126
Можно найти минимум этой функции:
110 a + 30 b - 164 = 0
30 a + 12 b - 48 = 0
Получим:
a = 1.257
b = 0.857
И еще некоторые тут утверждают, что прямая обязана пройти через (0, 0). Я так и не понял почему. Но если так, то надо занулить b, функция ошибки примет вид:
S(a, 0) = 55 a² - 164 a + 126
Для ее минимизации берем:
110 a - 164 = 0
И получаем a:
a = 1.491
В первом случае:
S = 2.343
Во втором:
S = 3.745

Это по методу наименьших квадратов у вас.
А если минимизировать максимальное уклонение, то у= 1,333х+0,833
Важен критерий, а их много.

Общая
y=x
Частная y=x+1

Критерий:
У меня все точки равноудалены от прямой.
И самый простой метод не требующий знания формул апроксимации.
По этим критериям оптимально.
Например измерения проводились мономером с шагом деления 2
атмосферы.
И тогда результаты не превышают допустимую погрешность прибора

Считай коррелляцию по иксу и по игреку. Получишь наиболее точную зависимость. Подсчет элементарен...

Вы как-то по особому считали, по своей, авторской методике и вышло точнее?! :) В чем смысл вопроса? Кстати, если первая эксперементальная точка (0,0) то, видимо, прямая должна через неё проходить? У вас не проходит...

МНК вам в помощь.