La precisión se refiere a la exactitud de una sola medición. La precisión se determina comparando la medición con el valor verdadero o aceptado. Una medición precisa está cerca del valor verdadero, como golpear el centro de una diana.
Compare esto con la precisión, que refleja qué tan bien una serie de mediciones concuerdan entre sí, ya sea que alguna de ellas esté o no cerca del valor real. La precisión a menudo se puede ajustar usando la calibración para obtener valores que sean precisos y precisos.
Los científicos a menudo informan error porcentual de una medición, que expresa cuán lejos está un valor medido del valor verdadero.
Ejemplos de precisión en mediciones
Por ejemplo, si mide un cubo que se sabe que tiene 10.0 cm de ancho y sus valores son 9.0 cm, 8.8 cm y 11.2 cm, estos valores son más precisos que si hubiera obtenido valores de 11.5 cm, 11.6 cm y 11.6 cm (que son más precisos).
Los diferentes tipos de cristalería utilizados en el laboratorio son inherentemente diferentes en su nivel de precisión. Si usa un matraz sin marcar para tratar de obtener 1 litro de líquido, es probable que no sea muy preciso. Si usa un vaso de precipitados de 1 litro, probablemente tendrá una precisión de varios mililitros. Si usa un matraz volumétrico, la precisión de la medición puede estar dentro de un mililitro o dos. Las herramientas de medición precisas, como un matraz volumétrico, generalmente están etiquetadas para que un científico sepa qué nivel de precisión esperar de la medición.
Para otro ejemplo, considere la medición de masa. Si mide la masa en una escala Mettler, puede esperar precisión dentro de una fracción de un gramo (dependiendo de qué tan bien esté calibrada la escala). Si usa una báscula casera para medir la masa, generalmente necesita tarar la báscula (ponerla a cero) para calibrarla e incluso entonces solo obtendrá una medición de masa inexacta. Para una báscula utilizada para medir el peso, por ejemplo, el valor podría estar apagado en media libra o más, además la precisión de la báscula puede cambiar dependiendo de dónde se encuentre en el rango del instrumento. Una persona que pesa cerca de 125 libras puede obtener una medición más precisa que un bebé que pesa 12 libras.
En otros casos, la precisión refleja qué tan cerca está un valor de un estándar. Un estándar es un valor aceptado. Un químico puede preparar un solucion estandar para usar como referencia. También hay estándares para unidades de medida, como el metro, litro y kilogramo. El reloj atómico es un tipo de estándar utilizado para determinar la precisión de las mediciones de tiempo.