Página 1 de 1

Precisión en operaciones matemáticas

Publicado: 20 May 2019, 16:28
por kevinrobinson
Buenas tardes, esta es una consulta muy muy básica, aunque tengo muchos años programando con velneo y hasta el momento no he tenido ningún problema significativo o en el cual desconfíe del lenguaje, pero en este momento se me esta presentando un problema crítico con operaciones muy básicas pero con resultados poco confiables, por eso visite este site para encontrar algún tipo de ayuda.

Puntualmente tengo un campo que simplemente tomo el valor de un campo y lo divido entre otro para obtener un factor, puntualmente los valores son similares a estos ( 159.217,61 / 54.995.583,99 ) con la calculadora o excel me retorna este resultado (0,002895098) pero resulta que el campo de la tabla me indica esto (0,002895300) y aunque parezca una diferencia de pocos decimales casi insignificante para el resultado final de mi aplicación termina representando perdida significativa para el cliente, y por supuesto mi campo posee decimales suficientes y también estoy efectuando redondeo a esa cifra, sustituí el campo por una función que hace la operación y me retorna el resultado pero obtengo el mismo valor y me es indispensable obtener ese nivel de precisión en el resultado.

¿Si alguien tiene una idea para mejorar esto y si es una falla del lenguaje?, agradecería cualquier idea....

Re: Precisión en operaciones matemáticas

Publicado: 21 May 2019, 05:43
por Adelo Herrero
Para obtener precisión tendrás que operar con 5 decimales máximo. No es un problema de Velneo directamente.
Aquí tienes información detallada.
viewtopic.php?f=7&t=11040

Un saludo.