Попробуй умножить данные на 10, чтобы не доли от целого числа были, а целые единицы. Расчетная значение, судя по шкале, измеряется десятыми - tslab этого не любит)))