2 rechenalgorithmen, Rechenalgorithmen – Metrohm viva 1.1 (ProLab) Benutzerhandbuch
Seite 35

■■■■■■■■■■■■■■■■■■■■■■
2 Allgemeine Programmfunktionen
viva 1.1 (für Prozessanalyse)
■■■■■■■■
23
Eingabe mit Hilfe der Schaltflächen
Mathematische Operatoren und Klammern können einfach mit den ent-
sprechenden Schaltflächen in die Formel eingefügt werden. Automatisch
wird vor und hinter dem Zeichen ein Leerzeichen eingefügt.
Runde Klammern
Geschweifte Klammern: Werte von
Variablen mit Index abfragen, der
Index steht in geschweiften Klam-
mern
Letzte Aktion rückgängig machen
Letzte Aktion wiederherstellen
Eingabe via Auswahl
Das in den Feldern Variablen oder Operatoren/Funktionen ausge-
wählte Element kann mit Doppelklick oder [Hinzufügen] in die Formel
eingefügt werden.
2.3.2
Rechenalgorithmen
Dialogfenster: Formel-Editor
Zahlenformat
In der Software ist der Standard IEEE 754 (1985) für binäre Gleitkomma-
Arithmetik in "double precision" (64 Bit) implementiert.
Rundungsverfahren
Messwerte und Resultate werden symmetrisch gerundet (kaufmännisches
Runden). Dabei werden 1, 2, 3, 4 immer abgerundet und 5, 6, 7, 8, 9
immer aufgerundet.
Beispiele
aus 2.33 wird 2.3
aus 2.35 wird 2.4
aus 2.47 wird 2.5
aus -2.38 wird -2.4