Metrohm tiamo 1.3 Manual Benutzerhandbuch
Seite 48
22
Allgemeine Programmfunktionen
gerade Zahl) arithmetisch gerundet. Dabei werden
1, 2, 3, 4
immer abge-
rundet und
6, 7, 8, 9
immer aufgerundet, während
5
je nach benachbarter
Zahl entweder abgerundet (gerade Zahlen inkl. 0) oder aufgerundet (un-
gerade Zahlen) wird.
Beispiele
aus
2.33
wird
2.3
aus
2.35
wird
2.4
aus
2.45
wird
2.4
aus
2.47
wird
2.5
aus
2.53
wird
2.5
aus
2.55
wird
2.6
aus
-2.35
wird
-2.4
aus
-2.45
wird
-2.4
Statistik
Die Berechung von Mittelwert, absoluter und relativer Standardabweichung
von Resultaten R erfolgt mittels folgender Formeln:
Mittelwert
Absolute
Standardabweichung
Relative
Standardabweichung
(in %)
Die Statistik-Berechnungen der Software wurden so implementiert, dass sie
für den Benutzer möglichst überprüfbar sind. In die Statistik gehen daher
die Einzelwerte mit voller Genauigkeit ein.
Entscheidend für die Genauigkeit der Berechnungen ist nicht die Anzahl
der Nachkommastellen, sondern die Anzahl der signifikanten Stellen der
dargestellten dezimalen Zahlen. Bedingt durch das auf der Basis des IEEE
754 Standards implementierte binäre 64 Bit-Zahlenformat besitzen die
daraus dargestellten dezimalen Zahlen 15 sichere signifikante dezimale
Stellen.
Die Anzahl der signifikanten Stellen beeinflussen Sie durch die Wahl der
Einheit und der Nachkommastellen. Da die einzustellende Resultat-Einheit
z. T. sowohl den Präfix "Milli" als auch die eigentliche physikalische Einheit
enthält, ändert sich die Zahl der signifikanten Stellen bei einer solchen
Umstellung dementsprechend um drei Stellen.
Beispiel
Das angezeigte Resultat
1234.56789158763 mg/L
hat 15 sichere Stellen. Es
soll gemäss obigem Rundungsverfahren auf drei Nachkommastellen
gerundet werden:
1234,568 mg/L
(7 signifikante Stellen, davon 3 Nachkommastellen)