| От | Neil Conway |
|---|---|
| Тема | Re: numeric stddev_pop and var_pop are wrong |
| Дата | |
| Msg-id | 1184047855.8180.17.camel@goldbach обсуждение исходный текст |
| Ответ на | numeric stddev_pop and var_pop are wrong (Tom Lane <tgl@sss.pgh.pa.us>) |
| Список | pgsql-bugs |
On Mon, 2007-09-07 at 10:39 -0400, Tom Lane wrote: > When applied to "numeric" input, stddev_pop produces the same result as > stddev_samp, and var_pop produces the same result as var_samp. This > is because whoever wrote numeric_stddev_internal() forgot that the > divisor is different for the sample case. This mistake is in fact > visible in the regression test outputs for the function, so those > outputs weren't checked very carefully :-( My fault, I'm afraid -- how embarrassing! I certainly tested the function for numeric inputs while developing it. I can only guess that I wrote it and tested it, then refactored and broke it, and blindly copied the resulting regression outputs => expected... Sorry, Neil
В списке pgsql-bugs по дате отправления:
Сайт использует файлы cookie для корректной работы и повышения удобства. Нажимая кнопку «Принять» или продолжая пользоваться сайтом, вы соглашаетесь на их использование в соответствии с Политикой в отношении обработки cookie ООО «ППГ», в том числе на передачу данных из файлов cookie сторонним статистическим и рекламным службам. Вы можете управлять настройками cookie через параметры вашего браузера