AXForum  
Вернуться   AXForum > Microsoft Dynamics AX > DAX: Программирование
All
Забыли пароль?
Зарегистрироваться Правила Справка Пользователи Сообщения за день Поиск

 
 
Опции темы Поиск в этой теме Опции просмотра
Старый 02.07.2021, 12:26   #3  
Logger is offline
Logger
Участник
Лучший по профессии 2015
Лучший по профессии 2014
 
3,987 / 3273 (117) ++++++++++
Регистрация: 12.10.2004
Адрес: Москва
Записей в блоге: 2
пример
https://www.excel-vba.ru/chto-umeet-...itaet-pochemu/

Цитата:
Спасибо автору за разъяснения. Обнаружил ошибку при сравнении разности с числом, довел ситуацию до абсурда и выяснил, что в Excel 2013 ошибка возникает при действии с числами начиная с четвертого знака после запятой в 17-м знаке, хотя номер знака при сравнении разности с нулем не имеет значения
A B C A-B-C
1,3000000000 1,1000000000 0,2000000000 0,00000000000000000000
1,0300000000 1,0100000000 0,0200000000 0,00000000000000000000
1,0030000000 1,0010000000 0,0020000000 0,00000000000000000000
1,0003000000 1,0001000000 0,0002000000 -0,00000000000000002204
1,0000300000 1,0000100000 0,0000200000 -0,00000000000000009102
1,0000030000 1,0000010000 0,0000020000 0,00000000000000005751
от себя добавлю такой пример
Цитата:
1000003 1000001 2 0,000000000116415321826935000000
ошибка в 10-м знаке получилась.

Последний раз редактировалось Logger; 02.07.2021 в 12:42.
Теги
dax2012

 

Похожие темы
Тема Автор Раздел Ответов Посл. сообщение
Поле "Ценовые соглашения" в коммерческих соглашениях (PriceDiscTable.Agreement) как используется? glibs DAX: Функционал 1 05.08.2009 21:44
Поле "величина расхода". kkk DAX: Функционал 3 21.04.2008 11:54
Поле "Стандартная себестоимость" AlexeyBP DAX: Функционал 24 03.08.2006 11:09
Поле " Старший смены отгружающего склада" должно быть заполнено. IT-specialist DAX: Программирование 14 25.10.2005 19:37
Право доступа к таблице "Только чтение" gudzon DAX: Программирование 1 24.08.2004 16:14

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.
Быстрый переход

Рейтинг@Mail.ru
Часовой пояс GMT +3, время: 23:22.