| От | John D. Burger |
|---|---|
| Тема | Re: strange sum behaviour |
| Дата | |
| Msg-id | ba6070e5dc737f2c2b64c10483297461@mitre.org обсуждение исходный текст |
| Ответ на | strange sum behaviour ("Andrew Baerg" <andrew.baerg@gmail.com>) |
| Список | pgsql-general |
Andrew Baerg wrote:
> corp=# select amount from acc_trans where trans_id=19721 and
> chart_id=10019;
> amount
> ---------
> 4.88
> 117.1
> -121.98
> (3 rows)
>
> corp=# select sum(amount) from acc_trans where trans_id=19721 and
> chart_id=10019;
> sum
> ----------------------
> -1.4210854715202e-14
> (1 row)
>
This has nothing to do with SUM():
> select 4.88::float + 117.1::float + -121.98::float;
?column?
----------------------
-1.4210854715202e-14
(1 row)
It's just the inherent inexactness of floating point, and probably not
even particular to Postgres.
- John D. Burger
MITRE
В списке pgsql-general по дате отправления:
Сайт использует файлы cookie для корректной работы и повышения удобства. Нажимая кнопку «Принять» или продолжая пользоваться сайтом, вы соглашаетесь на их использование в соответствии с Политикой в отношении обработки cookie ООО «ППГ», в том числе на передачу данных из файлов cookie сторонним статистическим и рекламным службам. Вы можете управлять настройками cookie через параметры вашего браузера