|
13.10.2004, 10:41 | #1 |
Участник
|
Цитата:
Изначально опубликовано monk
меняю 9 на 8 Вот так все отрабатывает а можно еще и одну девяточку убрать. Дело в переполнении. где-то неверно обрабатыватся точность округления.... на самом деле эта бага идет и при других сочетаниях.... 999.9999999999999 99.99999999999999 9.999999999999999 0.9999999999999999 другие не проверял... было бы еще более смешно, если бы еще и другие сочетания сваливались в баг.... |
|
Теги |
баг, математика, округление |
|
Похожие темы | ||||
Тема | Ответов | |||
Абстрактный классификатор | 52 | |||
Здравствуйте дети! :) - еще одна ошибка | 11 | |||
Просмотр SQL запросов к БД с помощью файла Log | 3 | |||
Виртуальные поля | 6 |
|