Precisión en operaciones matemáticas

vForum público de la plataforma de desarrollo Velneo

Moderador: vCoaches

Responder
kevinrobinson
vRookie
vRookie
Mensajes: 1
Registrado: 20 May 2019, 16:07

Precisión en operaciones matemáticas

Mensaje por kevinrobinson » 20 May 2019, 16:28

Buenas tardes, esta es una consulta muy muy básica, aunque tengo muchos años programando con velneo y hasta el momento no he tenido ningún problema significativo o en el cual desconfíe del lenguaje, pero en este momento se me esta presentando un problema crítico con operaciones muy básicas pero con resultados poco confiables, por eso visite este site para encontrar algún tipo de ayuda.

Puntualmente tengo un campo que simplemente tomo el valor de un campo y lo divido entre otro para obtener un factor, puntualmente los valores son similares a estos ( 159.217,61 / 54.995.583,99 ) con la calculadora o excel me retorna este resultado (0,002895098) pero resulta que el campo de la tabla me indica esto (0,002895300) y aunque parezca una diferencia de pocos decimales casi insignificante para el resultado final de mi aplicación termina representando perdida significativa para el cliente, y por supuesto mi campo posee decimales suficientes y también estoy efectuando redondeo a esa cifra, sustituí el campo por una función que hace la operación y me retorna el resultado pero obtengo el mismo valor y me es indispensable obtener ese nivel de precisión en el resultado.

¿Si alguien tiene una idea para mejorar esto y si es una falla del lenguaje?, agradecería cualquier idea....

Avatar de Usuario
Adelo Herrero
vAdviser
vAdviser
Mensajes: 711
Registrado: 21 Sep 2005, 14:42
Ubicación: Requena (Valencia) - España - (Lat: 39.490701 * Lon: -1.102329 )
Contactar:

Re: Precisión en operaciones matemáticas

Mensaje por Adelo Herrero » 21 May 2019, 05:43

Para obtener precisión tendrás que operar con 5 decimales máximo. No es un problema de Velneo directamente.
Aquí tienes información detallada.
viewtopic.php?f=7&t=11040

Un saludo.

Responder