TI Voyage rundet merkwürdig |
| 24.08.2007, 16:24 | rocri | Auf diesen Beitrag antworten » |
| TI Voyage rundet merkwürdig ich habe gerade die Funktion mit dem TI Voyage abgeleitet. Ich bekomme raus: (-0,81975x+36,8963)*exp(...) Hier wurde aber vom Gerät gerundet!! Richtig wäre nämlich (-0,81975x+36,89625)*exp(...) Wieso rundet das Gerät nach der vierten Stelle??? 1. finde ich eine Sauerei, dass man sich nicht auf die Exaktheit eines CAS verlassen kann. 2. Finde ich nirgendwo eine Einstellmöglichkeit, um einzustellen, dass er nicht mehr rundet. Ich habe eben mal 0,00002*2 gerechnet, das macht er korrekt, es kann also keine Rundungseinstellung sein, das macht alles nur noch komplizierter... Gruß rocri Nachtrag: ich habe eben abgeleitet, da kommt 0,00015*e^... raus, in diesem Fall hat er nicht gerundet, was alles noch undurchschaubarer macht... |
||
| 24.08.2007, 21:07 | system-agent | Auf diesen Beitrag antworten » |
man weiss natürlich nicht wirklich wie gut der verwendete algorithmus ist um die ableitung zu bestimmen |
||
| 25.08.2007, 12:15 | rocri | Auf diesen Beitrag antworten » |
habs raus: Im Gegensatz zu allen anderen Taschenrechnern, die bisher meinen Weg kreuzten, stellt man bei dem Voyage nicht die Anzahl der Nachkommastellen ein, die angezeigt werden, sondern die Gesamtanzahl der Stellen. Daher das komische Runden mal nach 4 oder 5 Stellen... |
||
|
|