Metrohm 870 KF Titrino plus Manual - Handbuch (Seite 90)

10.8 Rechenalgorithmen im 870 KF Titrino plus
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
80 ￭￭￭￭￭￭￭￭
870 KF Titrino plus
Variable Kommentar
FCT Faktor
DIV Divisor
MCV Endvolumen, d. h. total dosiertes Volumen am Ende der Titration
EM1 Messwert des Endpunktes EP1
ED1 Zeit beim Endpunkt EP1
MSV Startvolumen
DD Dauer der gesamten Bestimmung
Die Werte der Variablen stehen erst nach dem Ende einer Bestimmung (im
'ready'-Zustand) zur Verfügung.
Antwort des Gerätes Kommentar
OK Befehl ausgeführt
E1 Methode nicht gefunden
E2 Ungültige Variable
E3 Ungültiger Befehl
10.8 Rechenalgorithmen im 870 KF Titrino plus
Zahlenformat
Die Software des 870 KF Titrino plus rechnet gemäss der verbreiteten
Norm IEEE 754 (IEEE Standard for Binary Floating-Point Arithmetic for Mic-
roprocessor Systems). Das bedeutet, dass die Zahlen bei Berechnungen in
"double precision" (64 Bit) verwendet werden. Dezimale Zahlen werden
rechnerintern in binäre Zahlen konvertiert und in dieser Form für Berech-
nungen verwendet. Die Ausgabe auf dem Display und in Reporten enthält
wieder dezimale Zahlen; die binären Zahlen werden also wieder in dezi-
male Zahlen umgewandelt. Um die rechnerintern durchgeführten Berech-
nungen nach IEEE 754 selbst überprüfen zu können, werden die Zahlen im
Berechnungsreport in voller Genauigkeit ausgegeben. Zwischen einer
ursprünglich eingegebenen dezimalen Zahl und der rechnerinternen Dar-
stellung in voller Genauigkeit kann es zu einer minimalen Differenz im
hinteren Dezimalstellenbereich kommen. Diese Differenz beruht auf der
Tatsache, dass es nicht für jede dezimale Zahl eine exakte binäre Entspre-
chung gibt. Wenn Sie z. B. das Probeneinmass 50.3 mg eingeben, wird
dies im Berechnungsreport in "double precision" mit 5.02999999999999E
+01 dargestellt.