Re: Bug in numeric multiplication

Поиск
Список
Период
Сортировка
От Tom Lane
Тема Re: Bug in numeric multiplication
Дата
Msg-id 15672.1442846520@sss.pgh.pa.us
обсуждение исходный текст
Ответ на Bug in numeric multiplication  (Dean Rasheed <dean.a.rasheed@gmail.com>)
Ответы Re: Bug in numeric multiplication  (Tom Lane <tgl@sss.pgh.pa.us>)
Список pgsql-hackers
Dean Rasheed <dean.a.rasheed@gmail.com> writes:
> The problem then arises in the final carry propagation pass. During
> this phase of the computation, the carry from one digit (which can be
> a shade under INT_MAX / NBASE) is added to the next digit, and that's
> where the overflow happens.

Nice catch!  I think the comment could use a little more work, but I'll
adjust it and push.
        regards, tom lane



В списке pgsql-hackers по дате отправления:

Предыдущее
От: Andres Freund
Дата:
Сообщение: Re: Rework the way multixact truncations work
Следующее
От: Adam Brightwell
Дата:
Сообщение: Re: proposal: multiple psql option -c