Re: BUG #14008: corr, covar_pop function returns different values on the same dataset

Поиск
Список
Период
Сортировка
От Tom Lane
Тема Re: BUG #14008: corr, covar_pop function returns different values on the same dataset
Дата
Msg-id 32087.1457547791@sss.pgh.pa.us
обсуждение исходный текст
Ответ на BUG #14008: corr, covar_pop function returns different values on the same dataset  (Stepya@ukr.net)
Список pgsql-bugs
Дерево обсуждения 
Stepya@ukr.net writes:
> Aggregation functions line corr, covar_pop returns different values
> depending on sorting order of the dataset.

AFAICS, that's just rounding error, which is inevitable when working
with floating-point data.

            regards, tom lane

В списке pgsql-bugs по дате отправления:

Предыдущее
От: gtakahashi@palantir.com
Дата:
Сообщение: BUG #14010: Multi-valued Index-only scans do not properly handle nulls in search
Следующее
От: Tom Lane
Дата:
Сообщение: Re: BUG #14010: Multi-valued Index-only scans do not properly handle nulls in search