Problem mit einfacher/doppelter Genauigkeit in octave |
07.05.2014, 16:31 | Kääsee | Auf diesen Beitrag antworten » | ||
Problem mit einfacher/doppelter Genauigkeit in octave ich soll eine Funktion zur Berechnung der Maschinengenauigkeit bei einfacher und doppelter Genauigkeit (also single und double) programmieren und zwar mit dem Programm "octave". Ich weiß, dass die Maschinengenauigkeit zumindest für double 10^(-16) sein soll, das heißt doch, dass nach 16 Stellen nach dem Komma gerundet werden müsste. Wenn ich jetzt aber in das Programm folgendes eingebe: "double(1.111111111111111111111111)", dann spuckt es mir 1.1111 aus! Und was noch schlimmer ist: dasselbe Ergebnis bekomme ich bei single! Kann mir jemand weiterhelfen? LG |
||||
16.05.2014, 10:36 | aakka | Auf diesen Beitrag antworten » | ||
RE: Problem mit einfacher/doppelter Genauigkeit in octave
|
||||
28.05.2014, 23:20 | Kääsee | Auf diesen Beitrag antworten » | ||
Sorry, sehe es jetzt erst. (Dachte nicht, dass da noch jemand antwortet) Nee, Basis ist natürlich 2^^ War doof. Aber danke trotzdem! |
|
Verwandte Themen
Die Beliebtesten » |
Die Größten » |
Die Neuesten » |
|