8 rechenalgorithmen im titrando – Metrohm 840 PC Control 5.0 / Touch Control Benutzerhandbuch
Seite 351
6
Anhang
PC Control / Touch Control
341
6.8 Rechenalgorithmen im Titrando
Nachfolgend werden einige der in der Gerätesoftware verwendeten Al-
gorithmen und Zahlenformate erläutert.
Zahlenformat
In der Software ist der Standard IEEE 754 (1985) für binäre Fliesskom-
ma-Arithmetik in "single precision" (32 Bit) implementiert.
Rundungsverfahren
Messwerte und Resultate werden, je nach Benutzereinstellung, gerun-
det dargestellt. Dabei wird der Betrag dieser Zahlen nach folgendem
Verfahren arithmetisch gerundet:
Beispiel für Runden auf n = 3 Nachkomma-Stellen:
1. 99.644499
99644.499
2. 99644.499
99644.999
3. 99644.499
99644
4. 99644
99.644
Statistik
Es wird der arithmetische Mittelwert sowie die absolute und relative
Standardabweichung von Resultaten R, Endpunkten EP und Variablen
C berechnet:
Aus einer Bestimmung können maximal neun Resultate mit jeweils
höchstens 20 Bestimmungen statistisch ausgewertet werden.
Für nachstehende Formeln gilt folgende Konvention:
1 ≤ n ≤ 20
1 ≤ k ≤ 9
Mittelwert
k
x :
∑
=
⋅
=
n
1
i
i,
k
k
R
n
1
x
Absolute Standardabweichung S abs
k
:
(
)
1
n
x
R
abs
S
n
1
i
2
k
i,
k
k
−
−
+
=
∑
=
Relative Standardabweichung S rel
k
(in %):
k
k
k
x
abs
S
100
rel
S
⋅
=
⋅ 10
n
cut
⋅ 10
-n
+ 0.5