Metrohm 870 KF Titrino plus Manual Benutzerhandbuch
Seite 92
10.8 Rechenalgorithmen im 870 KF Titrino plus
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
82
￭￭￭￭￭￭￭￭
870 KF Titrino plus
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 signifikante
Stellen. Es soll gemäss obigem Rundungsverfahren auf drei Nachkomma-
stellen gerundet werden:
￭
1234.568 mg/L.
Wenn das gleiche Resultat in g/L ausgedrückt (1.23456789158763 g/L)
und ebenfalls auf drei Nachkommastellen gerundet wird, ergibt sich
￭
1.235 g/L.
D. h. Sie erhalten die geringsten Genauigkeitsverluste durch das Runden,
wenn Sie die Applikation und das Zahlenformat so wählen, dass die ange-
zeigten Zahlen möglichst viele Vorkommastellen aufweisen.
Eine vollständige Nachrechnung der Statistik mittels Taschenrechner oder
PC-Kalkulationsprogrammen kann Abweichungen aufweisen. Dies ist in
den unterschiedlichen verwendeten binären Zahlenformaten dieser Rech-
ner begründet.
HINWEIS
Die beschriebenen Genauigkeitsverluste durch Runden im Bereich der
signifikanten Stellen haben nur eine theoretische Relevanz. Sie liegen
meist um Grössenordnungen niedriger als messtechnische Unsicherhei-
ten (Waagenfehler, Dosierfehler, Messfehler).