On-line: SergKis, гостей 1. Всего: 2 [подробнее..]
АвторСообщение
администратор




Пост N: 6281
Зарегистрирован: 17.05.05
ссылка на сообщение  Отправлено: 10.02.17 15:22. Заголовок: Весёлый Int()


 
Func Main()
local n := (3.14 ^ 3.14 ^ 3.14 ^ 3.14 ) / 0.33

? n
? int(n)

RETURN NIL

хрень какая то ))
7345182531368862.00 // это N
7345182531368864 // это INT(N) а должно быть 7345182531368862 , куда пропала двойка ?

Спасибо: 0 
ПрофильЦитата Ответить
Ответов - 3 [только новые]


Администратор




Пост N: 3525
Зарегистрирован: 23.05.05
ссылка на сообщение  Отправлено: 11.02.17 14:51. Заголовок: Это ж квадриллионы п..


Это ж квадриллионы получаются.
Если на пальцах: для мантиссы у 64-битного double выделяется 52 бита.
2^52 = 4503599627370496, что меньше, чем результат выражения (3.14 ^ 3.14 ^ 3.14 ^ 3.14 ) / 0.33
Отсюда и получается погрешность.

Спасибо: 0 
ПрофильЦитата Ответить
администратор




Пост N: 6284
Зарегистрирован: 17.05.05
ссылка на сообщение  Отправлено: 11.02.17 15:03. Заголовок: Pasha Понял. Сенкс...


Pasha
Понял. Сенкс.

Спасибо: 0 
ПрофильЦитата Ответить
Администратор




Пост N: 3526
Зарегистрирован: 23.05.05
ссылка на сообщение  Отправлено: 11.02.17 15:09. Заголовок: Берем harbour 64-бит..


Берем harbour 64-бит

local n := (3.14 ^ 3.14 ^ 3.14 ^ 3.14 ) / 0.33

? n
? int(n)

результат:

7345182531368845.00
7345182531368845

точно не скажу, возможно там используется 128-битные long double с мантиссой 111 бит, которой не только на квадриллионы хватит, а страшно сказать на что.
Кстати, результат отличается от твоего, и так неслабо, на 18 целковых

Спасибо: 0 
ПрофильЦитата Ответить
Ответ:
1 2 3 4 5 6 7 8 9
большой шрифт малый шрифт надстрочный подстрочный заголовок большой заголовок видео с youtube.com картинка из интернета картинка с компьютера ссылка файл с компьютера русская клавиатура транслитератор  цитата  кавычки моноширинный шрифт моноширинный шрифт горизонтальная линия отступ точка LI бегущая строка оффтопик свернутый текст

показывать это сообщение только модераторам
не делать ссылки активными
Имя, пароль:      зарегистрироваться    
Тему читают:
- участник сейчас на форуме
- участник вне форума
Все даты в формате GMT  3 час. Хитов сегодня: 251
Права: смайлы да, картинки да, шрифты да, голосования нет
аватары да, автозамена ссылок вкл, премодерация откл, правка нет