Re: numeric precision when raising one numeric to another.
Вложения
В списке pgsql-general по дате отправления:
| От | Martijn van Oosterhout |
|---|---|
| Тема | Re: numeric precision when raising one numeric to another. |
| Дата | |
| Msg-id | 20050519214759.GE7748@svana.org обсуждение исходный текст |
| Ответ на | Re: numeric precision when raising one numeric to another. ("Dann Corbit" <DCorbit@connx.com>) |
| Ответы |
Re: numeric precision when raising one numeric to another.
|
| Список | pgsql-general |
On Thu, May 19, 2005 at 02:25:58PM -0700, Dann Corbit wrote: > Hmmm.... > I underestimated. > > pow(99999.99999,99999.99999) = Yeah, a number with x digits raised to the power with something y digits long could have a length approximating: x * (10^y) digits So two numbers both 4 digits long can have a result of upto 40,000 digits. You're only going to be able to them represent exactly for cases where y is small and integer. What's a meaningful limit? Do we simply say, you get upto 100 digits and that's it? Or an extra parameter so you can specify directly? -- Martijn van Oosterhout <kleptog@svana.org> http://svana.org/kleptog/ > Patent. n. Genius is 5% inspiration and 95% perspiration. A patent is a > tool for doing 5% of the work and then sitting around waiting for someone > else to do the other 95% so you can sue them.
В списке pgsql-general по дате отправления:
Сайт использует файлы cookie для корректной работы и повышения удобства. Нажимая кнопку «Принять» или продолжая пользоваться сайтом, вы соглашаетесь на их использование в соответствии с Политикой в отношении обработки cookie ООО «ППГ», в том числе на передачу данных из файлов cookie сторонним статистическим и рекламным службам. Вы можете управлять настройками cookie через параметры вашего браузера