У вас не стоит Flash Player
Настройки
#84202 - Tue Dec 04 2018 07:35 PM Формула
zavkrutka Offline
stranger

Registered: Wed Apr 27 2016
Записи: 21
Есть две константы 12 и 17139.
При вычислении формулы типа
12 + 17139/100000
логичен результат = 12.17139
но получается в лабе = 12.1714
почему происходит округление?


Отредактировано zavkrutka (Tue Dec 04 2018 07:36 PM)

Наверх
#84203 - Tue Dec 04 2018 08:31 PM Re: Формула [Re: zavkrutka]
Rezident Offline
old hand

Registered: Wed Oct 12 2011
Записи: 742
Loc: Россия
по размеру правой шкалы очевидимо. если там разрядность четыре после запятой, то пятого знака не увидите.

Наверх
#84204 - Wed Dec 05 2018 07:08 AM Re: Формула [Re: Rezident]
zavkrutka Offline
stranger

Registered: Wed Apr 27 2016
Записи: 21
Рэспект за ответ.
Но можно детально уточнить где и как.

https://prnt.sc/lqup6b

В контрольной панели все норм, там есть разрядность.

В скрипте и в графике, для панелей графика не знаю как правильно настроить.

Подскажите пожалуйста,что тогда нужно вписать в параметре "Точность правой шкалы" для отображения корректно данных.

При изменении константы равной 12, делаем ее равной 2
происходит чудо после запятой отображается пять знаков

https://prnt.sc/lquru4

То есть логично всего 6 знаков, где данный параметр нужно корректировать?

Установил просто Константу равную числу
К = 11 110 101. 110 101
В контрольной панели 6 знаков после запятой отображает все корректно.
На панели графика отображает все цифры до запятой. К = 11 110 101.
Почему?


Отредактировано zavkrutka (Wed Dec 05 2018 07:44 AM)

Наверх
#84206 - Wed Dec 05 2018 01:58 PM Re: Формула [Re: zavkrutka]
ViL Offline
TSLab
Carpal Tunnel

Registered: Sun Oct 17 2010
Записи: 8139
1. Точность правой шкалы нужно поставить 5
2. Вижу баг в формуле, создал тикет.
Правка появится в ночных(в базе знаний)

Наверх
#84274 - Fri Dec 21 2018 06:15 AM Re: Формула [Re: ViL]
zavkrutka Offline
stranger

Registered: Wed Apr 27 2016
Записи: 21
Добрый день.
Есть подозрение что есть ошибка в блоке "Панель графика", то есть при отображении результатов блока или формулы при установке точности той или графы до 6 знаков после запятой, нет нужной информации. В выводимых логах наоборот виден результат после запятой правильный. В панели при наведении обрубается.

Так же иногда наблюдается наслоение информации в всплывающем окошке при наведении, то есть когда отображаться более от 5-7 панелей графика начиная с 5 и ниже, на 6 панели отображаться инфа от 5 и 6 панели, при наведении на 7 панель отображаться инфа от 5 панели плюс сама 7. После перезагрузки все норм показывается. Вылетает периодически. https://prnt.sc/lxr7bn


Отредактировано zavkrutka (Fri Dec 21 2018 07:58 AM)

Наверх


Moderator:  ViL, captian, sar