Re: Precision when substracting two values with SQL

Поиск
Список
Период
Сортировка
От Jean-Luc Lachance
Тема Re: Precision when substracting two values with SQL
Дата
Msg-id 3D581FDE.B04D7B83@nsd.ca
обсуждение исходный текст
Ответ на Precision when substracting two values with SQL  (Juancho <squid@maxiconsumo.com>)
Список pgsql-admin
I think you meant:

select 0.2:: numeric(12,2) - 0.21::numeric(12,2);

If you are not conviced try:

select (0.2-0.21)::numeric(40,20);


Andrew Sullivan wrote:
>
> On Mon, Aug 12, 2002 at 04:57:32PM -0300, Juancho wrote:
> >
> > ciudadela=# select 0.2-0.21;
> >        ?column?
> > ----------------------
> >  -0.00999999999999998
> > (1 row)
> >
> >       I was hoping -0.01,
>
> Try
>
> select (0.2-0.21)::numeric(12,2);
>
> A
>
> --
> ----
> Andrew Sullivan                               87 Mowat Avenue
> Liberty RMS                           Toronto, Ontario Canada
> <andrew@libertyrms.info>                              M6K 3E3
>                                          +1 416 646 3304 x110
>
> ---------------------------(end of broadcast)---------------------------
> TIP 6: Have you searched our list archives?
>
> http://archives.postgresql.org

В списке pgsql-admin по дате отправления:

Предыдущее
От: Juancho
Дата:
Сообщение: Re: Precision when substracting two values with SQL
Следующее
От: Jie Liang
Дата:
Сообщение: Re: problem with select into and timestamp.