Почему mathcad выдает такую ошибку? Ведь переменные были заданы до функции.

Не бывает элемента массива с порядковым номером 0,9 или меньше нуля.
Надо задать счётчик, допустим i, от нуля до сколько там требуется, вычислить икс итое и подставить его для нахождения игрек итого.
Вы же пытаетесь найти игрек минус ноль девятое.