Kann mir jemand "truncate" erklären und wie ich es hier anwende?

1 Antwort

6 ist 110 vor dem Komma, Nachkommastellen geben 1001. Mit Abschneiden kommst du bei den Nachkommastellen auf 10 (alles dahinter einfach weglassen). Das sind dezimal 0,5 (1*2^-1+0*2^-2). 0,5625 - 0,5 = 0,0625, das ist der auftretende Fehler. Bei 2 Nachkommastellen ist der Fehler immer kleiner als 2^-2, also kleiner als 0,25.

(-6,5625 als IEEE-754 gibt 1,101001*2^2, Vorzeichen 1, Exponent 127+2=129, Mantisse siehe oben ohne die erste 1, gibt 1 10000001 10100100000000000000000)


Floo201 
Fragesteller
 15.10.2020, 21:41

Alles klar, danke für die ausführliche Antwort! LG

0