Metrohm 840 PC Control 5.0 / Touch Control Benutzerhandbuch
Seite 352
6.8 Rechenalgorithmen im Titrando
342
PC Control / Touch Control
Erläuterung
Die Statistik-Berechnungen der Software wurden so implementiert,
dass sie für den Benutzer möglichst überprüfbar sind. In die Statistik
gehen daher die Einzelwerte in der vom Benutzer gewählten gerunde-
ten Darstellungsform ein.
Entscheidend für die Genauigkeit der Berechnungen ist nicht die An-
zahl der Nachkommastellen, sondern die Anzahl der signifikanten Stel-
len der dargestellten dezimalen Zahlen. Bedingt durch das auf der Ba-
sis des IEEE 754 Standards implementierte binäre 32 Bit-Zahlenformat
besitzen die daraus dargestellten dezimalen Zahlen 7 sichere signifi-
kante dezimale Stellen.
Die Anzahl der signifikanten Stellen beeinflussen Sie durch die Wahl der
Einheit und der Nachkommastellen. Da die einzustellende Resultat-
Einheit z. T. sowohl den Präfix "Milli" als auch die eigentliche physikali-
sche Einheit enthält, ändert sich die Zahl der signifikanten Stellen bei
einer solchen Umstellung dementsprechend um drei Stellen.
Beispiel:
Das angezeigte Resultat 1234,56789 mg/L hat 7 sichere Stellen. Es soll
gemäss obigem Rundungsverfahren auf drei Nachkommastellen ge-
rundet werden:
1234,568 mg/L
(7 signifikante Stellen, davon 3 Nach-
kommastellen)
Mit der Einheit "g/L" wird das gleiche Resultat 1,23456789 g/L ebenfalls
auf drei Nachkommastellen gerundet:
1,235 g/L
(4 signifikante Stellen, davon 3 Nach-
kommastellen)
Die Anzahl der signifikanten Stellen wurde nun durch Wegfallen des
Präfixes "Milli" um drei auf vier Stellen reduziert.
Sie erhalten die geringsten Genauigkeitsverluste durch das Runden,
wenn Sie die Applikation und das Zahlenformat so wählen, dass die
angezeigten Zahlen möglichst viele Vorkommastellen aufweisen.
Eine vollständige Nachberechnung der Statistik mittels Taschenrechner
oder PC-Kalkulationsprogrammen kann Abweichungen aufweisen. Dies
ist in den unterschiedlichen verwendeten binären Zahlenformaten die-
ser Rechner begründet. Während der Titrando mit binären 32 Bit-Zahlen
rechnen, verwenden PC-Programme (z. B. MS-Excel) ein anderes binä-
res Format, z. B. IEEE 754 64 Bit.
Hinweis!
Die beschriebenen Genauigkeitsverluste durch Runden im Bereich
der maximalen sicheren Stellen haben nur eine theoretische Rele-
vanz. Sie liegen meist um Grössenordnungen niedriger als beispiels-
weise die aus dem Probeneinmass resultierenden Unsicherheiten.