Precisión en resultado de operaciones matemáticas

vForum público de la plataforma de desarrollo Velneo

Moderador: vCoaches

Avatar de Usuario
Frugulletti
vAdviser
vAdviser
Mensajes: 265
Registrado: 19 Abr 2007, 16:40
Ubicación: Barinas - Venezuela
Contactar:

Precisión en resultado de operaciones matemáticas

Mensaje por Frugulletti » 22 May 2015, 19:57

Buenas tardes, esta es una consulta muy muy básica, aunque tengo muchos años programando con velneo y hasta el momento no he tenido ningún problema significativo o en el cual desconfíe del lenguaje, pero en este momento se me esta presentando un problema crítico con operaciones muy básicas pero con resultados poco confiables.

Puntualmente tengo un campo que simplemente tomo el valor de un campo y lo divido entre otro para obtener un factor, puntualmente los valores son similares a estos ( 159.217,61 / 54.995.583,99 ) con la calculadora o excel me retorna este resultado (0,002895098) pero resulta que el campo de la tabla me indica esto (0,002895300) y aunque parezca una diferencia de pocos decimales casi insignificante para el resultado final de mi aplicación termina representando perdida significativa para el cliente, y por supuesto mi campo posee decimales suficientes y también estoy efectuando redondeo a esa cifra, sustituí el campo por una función que hace la operación y me retorna el resultado pero obtengo el mismo valor y me es indispensable obtener ese nivel de precisión en el resultado.

Si alguien tiene una idea para mejorar esto y si es una falla del lenguaje, agradecería cualquier idea....
César Barrios
Barinas-Venezuela

MaSVel
Manticor System
Diseño y Desarrollo de Sistemas Empresariales a su Medida

No hace falta cambiar al Mundo, solo basta con cuidarlo…un poco…

Responder