Anfängerfrage: Auslöschung |
| 20.07.2008, 22:01 | dj_mathe | Auf diesen Beitrag antworten » | ||
| Anfängerfrage: Auslöschung ich habe ein Problem mit der Auslöschung. In meinem Lehrbuch steht: Für den Algorithmus: 1: y1 = a1*a1 2: y2 = y1 - a2 3: y3 = (y2)^(1/2) 4: u* = a1 - y3 kann man im 4. Schritt Auslöschung beobachten für eine Gleitpunktrechnung mit b=5 und m=5. Mit a1=6.000227 und a2=0.01 habe ich folgenden Rechenweg: y1 = 0.36002 * 10² y2 = 0.36002 * 10² - 0.10000 * 10^-1 = 0.35992 * 10² y3 = (0.35992 * 10²)^(1/2) = 0.59993 * 10 -> u* = a1 - y3 = 0.60002*10 - 0.59993*10 = 0.9 * 10^-3 Wo genau ist denn jetzt hier die Auslöschung? Danke! Christoph |
||||
| 20.07.2008, 22:08 | Airblader | Auf diesen Beitrag antworten » | ||
Edit: Ups, verlesen 
Könntest du noch verraten, was b und m sind? (Vermutlich ist eins von beiden die Anzahl der Nachkommastellen?) air |
||||
| 21.07.2008, 00:07 | AD | Auf diesen Beitrag antworten » | ||
Bei der Differenzbildung im letzten, 4.Rechenschritt! Vergleich doch dein Ergebnis von mal mit einer anderen Berechnung desselben Wertes, die aber die Auslöschung vermeidet: |
||||
| 21.07.2008, 11:16 | dj_mathe | Auf diesen Beitrag antworten » | ||
Hmm. Ich hoffe ich hab das jetzt richtig gemacht. Ich hatte übrigens vergessen, mit der Standardrundung zu rechnen. y2 wäre dann 0.35993 * 10² und 0.59994 * 10 (gerundet, normiert) 5.99939364 (Taschenrechner, auf 10 Stellen genau) wenn ich jetzt die relative Störung berechne komme ich auf: ist ungefähr 0.04 was ja im Vergleich zu groß ist. Und in meinem NuMa-Schinken steht dass bei Krel >> 1 Auslöschung besteht, wenn Stimmt das so? Christoph |
||||
|
|
Verwandte Themen
| Die Beliebtesten » |
|
| Die Größten » |
|
| Die Neuesten » |
|
