gleitkomma-darstellung |
| 27.03.2006, 23:45 | chicca | Auf diesen Beitrag antworten » | ||||
| gleitkomma-darstellung Was ergibt sich bei Rechnung in normalisierter Gleitkomma-Darstellung zur Basis 10 mit vierstelliger Mantisse?" das hat ein user im forum geschrieben: a = sqrt(5041) - sqrt(5040) sqrt(5041) = 71 = 0,71 * 10^2 sqrt(5040) = 70,0993 = 0,7099 * 10^2 ACHTUNG viertstellige Mantisse => es ensteht ein Fehler bei sqrt(5040) sqrt(5040) = 0,7099 * 10^2 (auf 4 stellen mantisse runden) a = 0,71 * 10^2 - 0,7099 * 10^2 = 0,0001 *10^2 = 0,1 * 10^-1 b = sqrt(5041) + sqrt(5040) 0,71 * 10^2 + 0,7099 * 10^2 = 1,4199 * 10^2 (wiederum vierstellige Mantisse!) b = 0,1419 * 10^3 so nun soll a = 1/b sein a*b = 1 0,1 * 10^-1 * 0,1419 * 10^3 = 1 1,419 != 1 enstanden durch rundungsfehler! also um das gehts meiner meinung nach => was ich rot gemacht hab, is glaub ich falsch...alles was blau is kann ich nicht nachvollzieh...warum rechnet er die 0,1, die eigentlich 0,01 sein sollten, noch in 0,01 * 10^-1 um? und wieso rechnet er bei b die 1,4199*10^2 in 0,1419*10^3 um? |
||||||
| 28.03.2006, 05:22 | JochenX | Auf diesen Beitrag antworten » | ||||
Ja wo denn genau? Wäre auch mal interessant. |
||||||
| 28.03.2006, 21:32 | chicca | Auf diesen Beitrag antworten » | ||||
sorry, meinte in einem anderen forum |
||||||
| 28.03.2006, 21:51 | AD | Auf diesen Beitrag antworten » | ||||
Zwei Anmerkungen:
Schreibfehler: Dort muss 70,993 stehen.
0,1 * 10^-1 = 0,01, ist doch Ok, verstehe also deinen Kommentar nicht! |
||||||
| 28.03.2006, 21:52 | chicca | Auf diesen Beitrag antworten » | ||||
ich meinte die 0,1 sind falsch, oder? wenn ich die 0,0001 mit 10^2 multiplizier...und warum rechnet er das dann überhaupt noch zu 0,01 *10^-1 um? |
||||||
| 28.03.2006, 21:55 | AD | Auf diesen Beitrag antworten » | ||||
Grundsätzliches zu den Zahlendarstellungen in dem erwähnten Forumbeitrag: Die "normalisierter Gleitkomma-Darstellung zur Basis 10" bedeutet wohl, dass jede positive Zahl in der Form geschrieben wird, mit ganzzahligem Exponent und einer Mantisse im Bereich . |
||||||
| Anzeige | ||||||
|
|
||||||
|
|
Verwandte Themen
| Die Beliebtesten » |
| Die Größten » |
| Die Neuesten » |
|
