Metrohm 899 Coulometer Benutzerhandbuch
Seite 118
10.9 Rechenalgorithmen im 899 Coulometer
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
108
￭￭￭￭￭￭￭￭
899 Coulometer
Sie können maximal fünf Resultate (1
≤ k ≤ 5) statistisch auswerten, die in
einer Bestimmung berechnet werden. Eine Statistikserie kann maximal 20
Bestimmungen beinhalten (1
≤ n ≤ 20).
Für nachstehende Formeln gilt folgende Konvention:
1
≤ n ≤ 20 und 1 ≤ k ≤ 5.
Mittelwert:
Absolute Standardabweichung:
Relative Standardabweichung (in %):
Erläuterungen
In die Statistik gehen die Einzelwerte in voller Genauigkeit ein.
Beim 64-Bit-Zahlenformat ergeben sich für die Gleitkommazahl in dezima-
ler Darstellung 15 signifikante Stellen.
Die Genauigkeit kann durch die Wahl des Präfixes der Einheit (Milli, Mikro)
und der Anzahl Nachkommastellen gesteuert werden.
Beispiel:
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 signifikante
Stellen. Es soll gemäss obigem Rundungsverfahren auf drei Nachkomma-
stellen gerundet werden:
￭
1234.568 mg/L.
Wenn das gleiche Resultat in g/L ausgedrückt (1.23456789158763 g/L)
und ebenfalls auf drei Nachkommastellen gerundet wird, ergibt sich
￭
1.235 g/L.
D. h. Sie erhalten die geringsten Genauigkeitsverluste durch das Runden,
wenn Sie die Applikation und das Zahlenformat so wählen, dass die ange-
zeigten Zahlen möglichst viele Vorkommastellen aufweisen.
Eine vollständige Nachrechnung der Statistik mittels Taschenrechner oder
PC-Kalkulationsprogrammen kann Abweichungen aufweisen. Dies ist in
den unterschiedlichen verwendeten binären Zahlenformaten dieser Rech-
ner begründet.