Dezimaldarstellung, Taschenrechner Casio fx991DEX?
Hallo zusammen,
ich will gerade folgendes berechnen:
125x100000000(100Millionen)
mein TR haut mir dann ein Ergebnis mit Exponent raus. Ja es ist eine große Zahl, aber das kann der TR doch noch in dezimal anzeigen?
ich habe auch schon den TR zurückgesetzt, dann kann es nur das sein, dass die Zahl einfach zu groß ist?
1 Antwort
Die Anleitung zu deinem Rechner sagt dir, was er noch anzeigen kann und was nicht mehr.
Gründe für eine weitere Einschränkung, als es dem bloßen Display entspricht:
Die Rechengenauigkeit. Da Rechner stets mit Näherungen arbeiten, könnte die Stellenzahl diese Genauigkeit sprengen.
Es ist deshalb ein Unterschied, ob eine Meßgröße z.B. (also mit Einheit, nur um zu verdeutlichen, was Genauigkeit bedeutet) 1m ist oder 1,000m.
Im ersten Fall könnte das auch gerundet sein, also z.B. in Wirklichkeit 95cm oder gar 123cm.
Im zweiten Fall dagegen ist die dargestellte Genauigkeit 1mm, d.h. die Abweichung von 1m beträgt unter 1mm und kann ebenso gerundet sein, aber nicht auf 1m, sondern auf 1mm.
Mathematisch ist 1= 1,000000000000. Aber real drückt man mit der Stellenzahl auch üblich die Genauigkeit aus. Mag sein, dass das deinen Rechner hier betrifft mit der großen Zahl, so dass er lieber die Basis auf die maximal mögliche Stellenzahl (und Genauigkeit) hier darstellt und den Exponenten für die Zahlengröße. Eine Umwandlung in der Darstellung ist deshalb nur möglich, solange die Genauigkeit dargestellt werden kann und die maximale Stellenzahl nicht überschritten wird in der Grunddarstellung.