En el último número de Data Points, la Dra. Katie Daisey, experta en estadística, explica algunas de las principales formas de redondear fracciones a decimales.

By KATIE DAISEY

Oct 05, 2024

¿Le interesa saber más sobre el redondeo de fracciones? En la edición de septiembre/octubre de Data Points, la Dra. Katie Daisey, experta en estadística, explica sobre las metodologías más comunes y cómo ASTM International aborda este tema.

P. Al convertir una fracción a decimal, ¿existe una práctica estándar para el redondeo?

R. Hay dos temas que deben abordarse al responder a esta pregunta: el redondeo y las cifras significativas. Consideremos primero el tema del redondeo. En general, la práctica estándar para el uso de dígitos significativos en los datos de prueba para determinar el cumplimiento de las especificaciones (ASTM E29) recomienda el uso del "redondeo bancario", o el redondeo de un número con el último dígito seguido de 0 al número par más cercano. Por ejemplo, 5/16 o 0,31250 se redondearía a 0,0312.

Existen otras reglas de redondeo alternativas que no se incluyen en E29. Un ejemplo es el redondeo hacia arriba (es decir, 0,313). Otro ejemplo es anotar el último dígito como subíndice (es decir, 0,3125). Observe que en estos ejemplos de redondeo se mantienen tres dígitos significativos. Este puede no ser el caso para todos los ejemplos, ya que la cantidad de dígitos significativos a conservar puede depender del caso en particular.

PARA USTED: Probados y certificados: Servicios y programas de laboratorio de ASTM

En cuanto a los dígitos significativos, la práctica estándar para convertir notación fraccionaria a decimal depende del contexto donde se aplique la forma decimal resultante. En la práctica estándar E29 se tratan tres casos comunes de uso: uso como límite de especificación, como resultado de una prueba y como valor observado. En cada caso se indican los dígitos significativos a conservar y el método de redondeo a utilizar.

Para uso como límite de especificación, en el estándar E29 4.3 se recomienda anotar el método absoluto o redondeado para los límites de especificación. Para el método absoluto, 5/16 sería un límite exacto y no habría redondeo. Por lo tanto, el valor declarado sería 0,3125. Con el método de redondeo, el número de dígitos significativos y el método de redondeo serían decididos por el comité (en un estándar) o por las partes (en un acuerdo privado).

Para uso como resultado de prueba, el número de cifras significativas debe estar indicado por la precisión del método expresada como desviación típica de la repetibilidad. De acuerdo con E29 7.4, el "intervalo de redondeo" de un resultado de prueba debe estar comprendido entre 0,05 y 0,5 veces la desviación típica de la repetibilidad. Por ejemplo, si el resultado de la prueba es 5/16 y la desviación estándar de la repetibilidad es 0,03, entonces 5/16 debe redondearse a 0,31 (ya que 0,01 está entre 0,015 y 0,0015) e indicarse como 0,31 ± 0,03.

LEER MÁS: Cómo los estándares ASTM ayudan a mejorar la cadena de suministro

Para usarlo como valor observado, el número de cifras significativas usadas en 5/16 depende directamente de las marcas que tiene el instrumento de medición. De acuerdo con E29 8.2, "Al registrar mediciones directas, como la lectura de marcas en una bureta, regla o dial, deben indicarse todos los dígitos conocidos con exactitud, más un dígito que pueda ser dudoso debido a una estimación." Por ejemplo, digamos que se ha utilizado una regla con marcas a cada treintaidosavos de pulgada (es decir, 1/32”). Digamos que la lectura observada es 10/32", que se simplifica a 5/16". Además, digamos que la incertidumbre por la estimación es de 1/128", lo que equivale a 1/4 de la marca de 1/32". Esto es menos que el dígito de estimación adicional permitido por E29, pero es razonable. En notación fraccionaria, esto se indicaría como 5/16" ± 1/128" y se convertiría a decimal como 0,3125" ± 0,0078125". Luego, la incertidumbre por la estimación se redondea a 0,008", lo que indica que deben mantenerse tres dígitos para lograr un resultado final de 0,312" ± 0,008".

La tabla 1 ofrece un resumen general de las directices del estándar E29.

Es importante observar que E29 recomienda a los usuarios que conserven todos los dígitos durante las conversiones y aborden el tema de dígitos significativos y redondeo al final. Por ejemplo, si 5/16 se representa en pulgadas y debe convertirse a metros, 5/16 tendrá que mantenerse como 0,3125 y la conversión resultante es 0,0079375 m. Después de realizar la conversión, puede determinarse el número de dígitos significativos y el método de redondeo en función del caso particular. Si el redondeo se aplica antes de completar el proceso de conversión, el error de redondeo se transmitirá a través de la conversión como un error porcentual.

Las publicaciones especiales 811 y 1038 del NIST ofrecen información adicional en las secciones B7 y 4.4.1, respectivamente.¹

Referencias
¹ National Institute of Standards and Technology (Instituto Nacional de Estándares y Tecnología de EE. UU.). “Guide for the Use of the International System of Units (SI) (Guía para el uso del Sistema Internacional de Unidades (SI)).” Publicación especial 811 del NIST. Departamento de Comercio de EE. UU., 2008; National Institute of Standards and Technology (Instituto Nacional de Estándares y Tecnología de EE. UU.). “The International System of Units (SI) – Conversion Factors for General Use. (El Sistema Internacional de Unidades (SI) - Factores de conversión de uso general.)” Publicación especial 1038 del NIST. Departamento de Comercio de EE. UU., 2006.

La Dra. Katie Daisey es una científica en Arkema Inc. dedicada al apoyo de I+D y fabricación en las áreas de estadística, quimiometría y transformación digital. La Dra. Daisey es la actual vicepresidente del Comité de Calidad y Estadística (E11).

El Dr. John Carson es estadístico sénior de Neptune and Co. y coordinador de la columna Data Points. Es miembro de los comités de Calidad y estadísticas (E11), Productos derivados del petróleo, combustibles líquidos y lubricantes (D02), Calidad del aire (D22) y otros.