Was ist falsch bei Gleitkommadarstellung?
Bei h was ist da falsch? Es wäre richtig wenn man mal 10 hoch -6 rechnen würde bei der ersten Rechnung aber warum -6 und nicht +6??
1 Antwort
Vom Beitragsersteller als hilfreich ausgezeichnet
Das Ergebnis 2,04 * 10^10 ist richtig.
m steht ja für *10^-3, aber das steht ja erstmal auf der rechten Seite. Du brauchst es aber links, deswegen wird da :10^-3 draus bzw. *10^3
Ich spare mir hier die Ohms und ersetze die Zahlen durch x und y, M steht wieder für Mega und m für mini
x M = y m
x *10^6 = y *10^-3
x*10^6 *10^+3=y *10^-3 *10^+3
x*10^9=y*10^0
x*10^9=y*1
x*10^9=y
Wie du siehst, diese Regeln funktionieren egal welche Einheit solange sie gleich sind und sind prinzipiell gleich egal was da für der Zehnerpotenz steht.
Woher ich das weiß:Studium / Ausbildung – Lehramtstudium Mathematik / Physik und Tutor