Die Genauigkeit eines numerischen Wertes beschreibt die Anzahl der Ziffern, die zur Darstellung dieses Wertes verwendet werden. In einem wissenschaftlichen Umfeld wäre dies die Gesamtzahl der Ziffern (manchmal auch als signifikante Zahlen oder signifikante Ziffern bezeichnet) oder, seltener, die Anzahl der Nachkommastellen oder Dezimalstellen (die Anzahl der Ziffern nach dem Dezimalpunkt). Diese zweite Definition ist bei Anwendungen im Finanz- und Ingenieurwesen nützlich, wo die Anzahl der Ziffern im Nachkommastellenteil von besonderer Bedeutung ist.

In beiden Fällen kann der Begriff "Präzision" verwendet werden, um die Position zu beschreiben, an der ein ungenaues Ergebnis gerundet wird. Zum Beispiel wird in der Gleitkommaarithmetik ein Ergebnis auf eine gegebene oder feste Genauigkeit gerundet, die der Länge des resultierenden Signifikanten entspricht. In Finanzberechnungen wird eine Zahl oft auf eine bestimmte Anzahl von Stellen gerundet (z.B. bei vielen Weltwährungen auf zwei Stellen nach dem Dezimaltrennzeichen).

Als Beispiel kann die Dezimalzahl 12,345 mit einer unterschiedlichen Anzahl signifikanter Ziffern oder Dezimalstellen ausgedrückt werden. Wenn keine ausreichende Genauigkeit verfügbar ist, wird die Zahl in irgendeiner Weise gerundet, um der verfügbaren Genauigkeit zu entsprechen. Die folgende Tabelle zeigt die Ergebnisse für verschiedene Gesamtpräzisionen und Dezimalstellen, gerundet auf den nächstliegenden Wert unter Verwendung der Rundungs-Methode.

Beachten Sie, dass es oft nicht angebracht ist, eine Zahl mit mehr Ziffern anzuzeigen, als gemessen werden können. Wenn z.B. ein Gerät auf das Gramm genau misst und einen Messwert von 12,345 kg anzeigt, würde es eine falsche Präzision erzeugen, wenn die Messung "12,34500 kg" mit 2 zusätzlichen Nullen ("00") am Ende ausgedrückt würde.

Die Darstellung einer positiven Zahl x mit einer Genauigkeit von p signifikanten Ziffern hat einen numerischen Wert, der durch die folgende Formel gegeben ist

rund(10-n-x)-10n, wobei n = Stockwerk(log10 x) + 1 - p.

Bei einer negativen Zahl ist der numerische Wert abzüglich des absoluten Wertes. Die Zahl 0 kann, mit beliebiger Genauigkeit, als 0 angenommen werden.