Fehler wie fehlerhafte Instrumente, Prämissen oder Beobachtungen können in Mathematik und Naturwissenschaften verschiedene Ursachen haben. Die Bestimmung des Fehlerprozentsatzes kann ausdrücken, wie genau Ihre Berechnungen waren. Sie müssen zwei Variablen kennen: den geschätzten oder vorhergesagten Wert und den bekannten oder beobachteten Wert. Ziehen Sie die erstere von der letzteren ab, teilen Sie dann das Ergebnis durch den bekannten Wert und wandeln Sie diese Zahl in einen Prozentsatz um. In dieser Formel repräsentiert Y1 den geschätzten Wert und Y2 den bekannten Wert: [ (Y1-Y2) /Y2] x 100 Prozent.
Das Laborhandbuch des Department of Physics and Astronomy der University of Iowa bietet ein historisches Beispiel für den Fehlerprozentsatz: Ole Romers Berechnung der Lichtgeschwindigkeit. Romer schätzte die Lichtgeschwindigkeit auf 220.000 Kilometer pro Sekunde, obwohl die tatsächliche Konstante mit 299.800 Kilometern pro Sekunde viel höher ist. Mit der obigen Formel können Sie Romers Schätzung vom tatsächlichen Wert subtrahieren, um 79.800 zu erhalten; Dividieren dieses Ergebnisses durch den tatsächlichen Wert ergibt das Ergebnis 0,26618, was 26,618 Prozent entspricht. Alltäglichere Anwendungen der Formel könnten darin bestehen, hohe Temperaturen für eine Woche vorherzusagen und diese Vorhersage dann mit den tatsächlich beobachteten Temperaturen zu vergleichen. Auch Sozialwissenschaftler und Marketingfachleute können die Formel verwenden; Sie können beispielsweise vorhersagen, dass 5.000 Personen an einer öffentlichen Veranstaltung teilnehmen, und dies dann mit den 4.550 Personen vergleichen, die tatsächlich teilgenommen haben. Der prozentuale Fehler wäre in diesem Fall minus 9 Prozent.