Casio ClassPad fx-CP400 - Handbuch (Seite 292)

Anhang 292
Stellenanzahl und Genauigkeit
Stellenanzahl
Standardmodus
Folgendes gilt, wenn das Kontrollkästchen neben
dem Eintrag „Decimal Calculation“ im Grundformat-
Dialogfeld nicht aktiviert ist.
• Für ganzzahlige Werte werden bis zu 611 Stellen
gespeichert.
• Dezimalzahlen mit bis zu 15 Stellen werden in
Brüche umgewandelt und gespeichert. Wenn ein
mathematischer Ausdruck nicht in einen Bruch
umgewandelt werden kann, wird das Ergebnis im
Dezimalformat angezeigt.
• Die gespeicherten Werte werden so angezeigt,
wie sie sind, unabhängig von der Konfiguration der
[Number Format]-Einstellungen (Normal 1, Normal
2, Fix 0 bis Fix 9, Sci 0 bis Sci 9) (außer bei Anzeige
eines Dezimalwerts).
Dezimalmodus
Folgendes gilt, wenn das Kontrollkästchen neben
der Option „Decimal Calculation“ des Grundformat-
Dialogfelds aktiviert ist.
• Werte im Ans-Speicher und Variablen zugewiesene
Werte haben dieselbe Anzahl Stellen, wie sie für
Standardmoduswerte festgelegt wurde.
• Die Werte werden in Abhängigkeit von der
Konfiguration der [Number Format]-Einstellungen
(Normal 1, Normal 2, Fix 0 bis Fix 9, Sci 0 bis Sci 9)
angezeigt.
• Angezeigte Zahlenwerte werden auf eine geeignete
Anzahl von Dezimalstellen gerundet.
• Einige Anwendungen speichern Werte mit einer
Mantisse von bis zu 15 Stellen und einem 3-stelligen
Exponenten.
Genauigkeit
• Interne Berechnungen werden mit 15 Stellen durchgeführt.
• Der Fehler für einen mathematischen Ausdruck (Berechnungsfehler im Dezimalmodus) beträgt an der 10.
Stelle ±1. Bei Exponentialanzeige beträgt der Rechenfehler ±1 an der niedrigwertigsten Stelle. Beachten
Sie, dass sich der Fehler durch Folgberechnungen kumulieren kann. Der Fehler kann sich auch für interne
Folgeberechnungen für folgende Funktionen kumulieren: ^(
x y ),
x ', x !, n P r , n C r usw.
• In der Nähe der singulären Punkte und der Wendepunkte einer Funktion sowie in der Nähe von Null ist der
Fehler kumulativ und tendenziell größer. Mit sinh( x ) und tanh( x ) liegt der Wendepunkt beispielsweise bei x =
0. In der Nähe dieses Wertes ist der Fehler kumulativ und die Genauigkeit gering.