| От | Gregory Stark |
|---|---|
| Тема | Re: WIP: rewrite numeric division |
| Дата | |
| Msg-id | 87sl8o8bya.fsf@oxford.xeocode.com обсуждение исходный текст |
| Ответ на | Re: WIP: rewrite numeric division (Gregory Stark <stark@enterprisedb.com>) |
| Список | pgsql-patches |
"Gregory Stark" <stark@enterprisedb.com> writes: > So your complaint about the existing code boils down to not having any > rigorous way to know when to stop. I don't think Newton's method has that > problem, at least not for simple polynomials. Any digits which don't change > from one iteration to the next are definitely correct. Er, I don't think that last sentence is correct. But I believe it is possible to tell how many digits are accurate based on the difference between successive estimates because you know how fast it converges (quadratically). -- Gregory Stark EnterpriseDB http://www.enterprisedb.com
В списке pgsql-patches по дате отправления:
Сайт использует файлы cookie для корректной работы и повышения удобства. Нажимая кнопку «Принять» или продолжая пользоваться сайтом, вы соглашаетесь на их использование в соответствии с Политикой в отношении обработки cookie ООО «ППГ», в том числе на передачу данных из файлов cookie сторонним статистическим и рекламным службам. Вы можете управлять настройками cookie через параметры вашего браузера