Re: Optimizing numeric SUM() aggregate

Поиск
Список
Период
Сортировка
От Dean Rasheed
Тема Re: Optimizing numeric SUM() aggregate
Дата
Msg-id CAEZATCUu8EN0uSeQCQprsX4qVLWniaZ1GK=3OQTLoZSJUAsz+Q@mail.gmail.com
обсуждение исходный текст
Ответ на Re: Optimizing numeric SUM() aggregate  (Dean Rasheed <dean.a.rasheed@gmail.com>)
Список pgsql-hackers
On 27 July 2016 at 09:57, Dean Rasheed <dean.a.rasheed@gmail.com> wrote:
> it could be
> coded using something like
>
>     accum->maxdig += NBASE - 1;
>     if (accum->maxdig > (INT_MAX - INT_MAX / NBASE) / (NBASE - 1))
>         Propagate carries...
>

Oops, that's not quite right because maxdig is actually epresents the
max possible value divided by NBASE-1 in mul_var(), so actually it
ought to have been accum->maxdig++ in the first line.

Regards,
Dean



В списке pgsql-hackers по дате отправления:

Предыдущее
От: Andrew Borodin
Дата:
Сообщение: Re: Optimizing numeric SUM() aggregate
Следующее
От: Dean Rasheed
Дата:
Сообщение: Re: Optimizing numeric SUM() aggregate