Metrohm 870 KF Titrino plus Manual - Handbuch (Seite 91)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
10 Anhang
870 KF Titrino plus
￭￭￭￭￭￭￭￭ 81
Rundungsverfahren
Messwerte und Resultate werden auf die definierte Anzahl Dezimalstellen
gerundet (kaufmännisches Runden, gemäss Amerikanischem Arzneimittel-
buch USP). Wenn die Ziffer an der ersten wegfallenden Dezimalstelle 1, 2,
3 oder 4 ist, wird abgerundet, wenn diese Ziffer 5, 6, 7, 8 oder 9 ist,
wird aufgerundet. Negative Zahlen werden nach ihrem Betrag gerundet,
d. h. weg von Null.
Beispiele:
aus 2.33 wird 2.3
aus 2.35 wird 2.4
aus 2.47 wird 2.5
aus –2.38 wird –2.4
aus –2.45 wird –2.5
Statistik
Es werden der arithmetische Mittelwert sowie die absolute und relative
Standardabweichung von Resultaten berechnet:
Sie können maximal fünf Resultate (1 ≤ k ≤ 5) statistisch auswerten, die in
einer Bestimmung berechnet werden. Eine Statistikserie kann maximal 20
Bestimmungen beinhalten (1
≤ n ≤ 20).
Für nachstehende Formeln gilt folgende Konvention:
1 ≤ n ≤ 20 und 1 ≤ k ≤ 5.
Mittelwert:
Absolute Standardabweichung:
Relative Standardabweichung (in %):
Erläuterungen
In die Statistik gehen die Einzelwerte in voller Genauigkeit ein.
Beim 64-Bit-Zahlenformat ergeben sich für die Gleitkommazahl in dezima-
ler Darstellung 15 signifikante Stellen.
Die Genauigkeit kann durch die Wahl des Präfixes der Einheit (Milli, Mikro)
und der Anzahl Nachkommastellen gesteuert werden.
Beispiel: