Metrohm 848 Titrino plus Benutzerhandbuch
Seite 142
10.8 Rechenalgorithmen im 848 Titrino plus
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
132
￭￭￭￭￭￭￭￭
848 Titrino plus
Beim 64-Bit-Zahlenformat ergeben sich für die Gleitkommazahl in dezima-
ler Darstellung 15 signifikante Stellen.
Die Genauigkeit kann durch die Wahl des Präfixes der Einheit (Milli, Mikro)
und der Anzahl Nachkommastellen gesteuert werden.
Beispiel:
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 signifikante
Stellen. Es soll gemäss obigem Rundungsverfahren auf drei Nachkomma-
stellen gerundet werden:
￭
1234.568 mg/L.
Wenn das gleiche Resultat in g/L ausgedrückt (1.23456789158763 g/L)
und ebenfalls auf drei Nachkommastellen gerundet wird, ergibt sich
￭
1.235 g/L.
D. h. Sie erhalten die geringsten Genauigkeitsverluste durch das Runden,
wenn Sie die Applikation und das Zahlenformat so wählen, dass die ange-
zeigten Zahlen möglichst viele Vorkommastellen aufweisen.
Eine vollständige Nachrechnung der Statistik mittels Taschenrechner oder
PC-Kalkulationsprogrammen kann Abweichungen aufweisen. Dies ist in
den unterschiedlichen verwendeten binären Zahlenformaten dieser Rech-
ner begründet.
Hinweis
Die beschriebenen Genauigkeitsverluste durch Runden im Bereich der
signifikanten Stellen haben nur eine theoretische Relevanz. Sie liegen
meist um Grössenordnungen niedriger als messtechnische Unsicherhei-
ten (Waagenfehler, Dosierfehler, Messfehler).