Problem mit einfacher/doppelter Genauigkeit in octave

Neue Frage »

Kääsee Auf diesen Beitrag antworten »
Problem mit einfacher/doppelter Genauigkeit in octave
Hallo Wink ,
ich soll eine Funktion zur Berechnung der Maschinengenauigkeit bei einfacher und doppelter Genauigkeit (also single und double) programmieren und zwar mit dem Programm "octave".
Ich weiß, dass die Maschinengenauigkeit zumindest für double 10^(-16) sein soll, das heißt doch, dass nach 16 Stellen nach dem Komma gerundet werden müsste.
Wenn ich jetzt aber in das Programm folgendes eingebe:

"double(1.111111111111111111111111)", dann spuckt es mir 1.1111 aus!
Und was noch schlimmer ist: dasselbe Ergebnis bekomme ich bei single!

verwirrt Kann mir jemand weiterhelfen?

LG
aakka Auf diesen Beitrag antworten »
RE: Problem mit einfacher/doppelter Genauigkeit in octave
Zitat:
Original von Kääsee
Ich weiß, dass die Maschinengenauigkeit zumindest für double 10^(-16) sein soll, das heißt doch, dass nach 16 Stellen nach dem Komma gerundet werden müsste.
Sicher, dass der Basis 10 ist? Augenzwinkern
 
 
Kääsee Auf diesen Beitrag antworten »

Sorry, sehe es jetzt erst. (Dachte nicht, dass da noch jemand antwortet)
Nee, Basis ist natürlich 2^^ War doof. Aber danke trotzdem!
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »