У вас не стоит Flash Player
Настройки
#65731 - Wed Oct 15 2014 04:17 PM Служебный элемент "Формула"
PsyCommandor Offline
stranger

Registered: Sat Apr 03 2010
Записи: 8
У служебного элемента "Формула" типом исходных данных является "Число".

Вопрос: сколько знаков после запятой у этого Числа? Максимальная разрядность какая?.

Задача:
Есть выходное значение, например "23,4659". Его нужно превратить в "23". Для этого делим на максимальное количество разрядов, в нашем случае 10000 и затем умножаем на 10000. Должно обнулиться и на выходе стать 23.

Наверх
#65732 - Wed Oct 15 2014 04:27 PM Re: Служебный элемент "Формула" [Re: PsyCommandor]
captian Offline
Carpal Tunnel

Registered: Sat Aug 21 2010
Записи: 2821
Loc: Занзибар
Originally Posted By: PsyCommandor
У служебного элемента "Формула" типом исходных данных является "Число".

Вопрос: сколько знаков после запятой у этого Числа? Максимальная разрядность какая?.

Задача:
Есть выходное значение, например "23,4659". Его нужно превратить в "23". Для этого делим на максимальное количество разрядов, в нашем случае 10000 и затем умножаем на 10000. Должно обнулиться и на выходе стать 23.
Для таких действий есть математические методы http://msdn.microsoft.com/ru-ru/library/xaz41263.aspx
В вашем случае в формуле надо прописать Math.Ceiling(число), или подберите для себя другой, более подходящий метод.
_________________________
трансляция работы скриптов http://tslab.comon.ru/51FC0A21B9A4E85974B2CAD6450623E6
почта captian@mail.ru скайп captian1963

Наверх
#65742 - Wed Oct 15 2014 08:56 PM Re: Служебный элемент "Формула" [Re: captian]
Kermit Offline
enthusiast

Registered: Wed Jan 18 2012
Записи: 256
Максимальное число десятичных знаков у double - 16. Но округление так не делается конечно.

Наверх


Moderator:  ViL, sar