Metrohm 899 Coulometer - Handbuch (Seite 117)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
10 Anhang
899 Coulometer
￭￭￭￭￭￭￭￭ 107
Antwort des Gerätes Kommentar
E2 Ungültige Variable
E3 Ungültiger Befehl
10.9 Rechenalgorithmen im 899 Coulometer
Zahlenformat
Die Software des 899 Coulometer rechnet gemäss der verbreiteten Norm
IEEE 754 (IEEE Standard for Binary Floating-Point Arithmetic for Micropro-
cessor Systems). Das bedeutet, dass die Zahlen bei Berechnungen in
"double precision" (64 Bit) verwendet werden. Dezimale Zahlen werden
rechnerintern in binäre Zahlen konvertiert und in dieser Form für Berech-
nungen verwendet. Die Ausgabe auf dem Display und in Reporten enthält
wieder dezimale Zahlen; die binären Zahlen werden also wieder in dezi-
male Zahlen umgewandelt. Um die rechnerintern durchgeführten Berech-
nungen nach IEEE 754 selbst überprüfen zu können, werden die Zahlen im
Berechnungsreport in voller Genauigkeit ausgegeben. Zwischen einer
ursprünglich eingegebenen dezimalen Zahl und der rechnerinternen Dar-
stellung in voller Genauigkeit kann es zu einer minimalen Differenz im
hinteren Dezimalstellenbereich kommen. Diese Differenz beruht auf der
Tatsache, dass es nicht für jede dezimale Zahl eine exakte binäre Entspre-
chung gibt. Wenn Sie z. B. das Probeneinmass 50.3 mg eingeben, wird
dies im Berechnungsreport in "double precision" mit 5.02999999999999E
+01 dargestellt.
Rundungsverfahren
Messwerte und Resultate werden auf die definierte Anzahl Dezimalstellen
gerundet (kaufmännisches Runden, gemäss Amerikanischem Arzneimittel-
buch USP). Wenn die Ziffer an der ersten wegfallenden Dezimalstelle 1, 2,
3 oder 4 ist, wird abgerundet, wenn diese Ziffer 5, 6, 7, 8 oder 9 ist,
wird aufgerundet. Negative Zahlen werden nach ihrem Betrag gerundet,
d. h. weg von Null.
Beispiele:
aus 2.33 wird 2.3
aus 2.35 wird 2.4
aus 2.47 wird 2.5
aus –2.38 wird –2.4
aus –2.45 wird –2.5
Statistik
Es werden der arithmetische Mittelwert sowie die absolute und relative
Standardabweichung von Resultaten berechnet: