| 15.12.2006, 16:18 |
Florian Boschert |
Auf diesen Beitrag antworten » |
Wie weit rechnet EXCEL?
Hallo,
wir rechnen gerade Näherungswerte von Wurzeln in Mathe. Und haben uns dabei mit EXCEL beholfen, doch an einer bestimmten Stelle hört EXCEL auf zu berechnen und schreibt nur noch das gleiche hin...Daher die Frage auf wieviel Dezimalstellen EXCEL rechnet. Ich hoffe ihr könnt mir helfen |
| 15.12.2006, 16:21 |
Leopold |
Auf diesen Beitrag antworten » |
Gib einfach einmal bei "Zellen formatieren" das Format der Kategorie "Zahl" etwa mit 20 Kommastellen an. Dann laß deinen Algorithmus zur Wurzelberechnung arbeiten. Du wirst sehen, daß Excel die, glaube ich, letzten 6 Stellen schlichtweg erfindet ... |
| 15.12.2006, 16:38 |
sqrt(2) |
Auf diesen Beitrag antworten » |
Excel arbeitet höchstwahrscheinlich mit dem Datentyp double, der etwa 15 signifikante Stellen hat. |
