Re: Float8 precision problem

Поиск
Список
Период
Сортировка
От Michael Glaesemann
Тема Re: Float8 precision problem
Дата
Msg-id E17FC53D-6BC7-4EC7-B7B1-15E467B7DDA9@seespotcode.net
обсуждение исходный текст
Ответ на Float8 precision problem  (Hengki Suhartoyo <hengman03@yahoo.com>)
Список pgsql-general
On Nov 30, 2006, at 19:56 , Hengki Suhartoyo wrote:

> I got problem in postgrsql 8.0 when subtraction in float8, this is
> my query :
> select 6.1::float8-6::float8
>
> Result>>> 0.099999999999996
>
> I need the result like natural subtraction is 0.1

Then use numeric instead of float. Float by its very nature is not
precise.

Michael Glaesemann
grzm seespotcode net



В списке pgsql-general по дате отправления:

Предыдущее
От: Teodor Sigaev
Дата:
Сообщение: Re: postgresql 8.2 rc1 - crash
Следующее
От: Ashish Karalkar
Дата:
Сообщение: Erorr in running create set command