Формула

Автор: zavkrutka

Формула - Tue Dec 04 2018 07:35 PM

Есть две константы 12 и 17139.
При вычислении формулы типа
12 + 17139/100000
логичен результат = 12.17139
но получается в лабе = 12.1714
почему происходит округление?
Автор: Rezident

Re: Формула - Tue Dec 04 2018 08:31 PM

по размеру правой шкалы очевидимо. если там разрядность четыре после запятой, то пятого знака не увидите.
Автор: zavkrutka

Re: Формула - Wed Dec 05 2018 07:08 AM

Рэспект за ответ.
Но можно детально уточнить где и как.

https://prnt.sc/lqup6b

В контрольной панели все норм, там есть разрядность.

В скрипте и в графике, для панелей графика не знаю как правильно настроить.

Подскажите пожалуйста,что тогда нужно вписать в параметре "Точность правой шкалы" для отображения корректно данных.

При изменении константы равной 12, делаем ее равной 2
происходит чудо после запятой отображается пять знаков

https://prnt.sc/lquru4

То есть логично всего 6 знаков, где данный параметр нужно корректировать?

Установил просто Константу равную числу
К = 11 110 101. 110 101
В контрольной панели 6 знаков после запятой отображает все корректно.
На панели графика отображает все цифры до запятой. К = 11 110 101.
Почему?
Автор: ViL

Re: Формула - Wed Dec 05 2018 01:58 PM

1. Точность правой шкалы нужно поставить 5
2. Вижу баг в формуле, создал тикет.
Правка появится в ночных(в базе знаний)
Автор: zavkrutka

Re: Формула - Fri Dec 21 2018 06:15 AM

Добрый день.
Есть подозрение что есть ошибка в блоке "Панель графика", то есть при отображении результатов блока или формулы при установке точности той или графы до 6 знаков после запятой, нет нужной информации. В выводимых логах наоборот виден результат после запятой правильный. В панели при наведении обрубается.

Так же иногда наблюдается наслоение информации в всплывающем окошке при наведении, то есть когда отображаться более от 5-7 панелей графика начиная с 5 и ниже, на 6 панели отображаться инфа от 5 и 6 панели, при наведении на 7 панель отображаться инфа от 5 панели плюс сама 7. После перезагрузки все норм показывается. Вылетает периодически. https://prnt.sc/lxr7bn