| От | Bruce Momjian |
|---|---|
| Тема | Re: [HACKERS] 123.45 - 123 = 0.45 |
| Дата | |
| Msg-id | 199812151653.LAA16720@candle.pha.pa.us обсуждение |
| Ответ на | RE: [HACKERS] 123.45 - 123 = 0.45 ("Jackson, DeJuan" <djackson@cpsgroup.com>) |
| Список | pgsql-hackers |
> > Yes, someone pointed this out to me in private e-mail, and I wrote a C > > program to confirm it. I just had never seen such rounding on such > > small non-irrational numbers. > But, the problem is that it is irrational in base 2 (or at least so many > digits that it won't fit). Ah, I figured that out after I sent the message. -- Bruce Momjian | http://www.op.net/~candle maillist@candle.pha.pa.us | (610) 853-3000+ If your life is a hard drive, | 830 Blythe Avenue + Christ can be your backup. | Drexel Hill, Pennsylvania19026
В списке pgsql-hackers по дате отправления:
Сайт использует файлы cookie для корректной работы и повышения удобства. Нажимая кнопку «Принять» или продолжая пользоваться сайтом, вы соглашаетесь на их использование в соответствии с Политикой в отношении обработки cookie ООО «ППГ», в том числе на передачу данных из файлов cookie сторонним статистическим и рекламным службам. Вы можете управлять настройками cookie через параметры вашего браузера