welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gemacht? |
03.02.2010, 23:59 | schleealex320 | Auf diesen Beitrag antworten » |
welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gemacht? also das ergebnis kenne ich und zwar: 8.3*10^-8 aber wie komme ich zu diesem ergebnis??? |
||
04.02.2010, 12:31 | schleealex320 | Auf diesen Beitrag antworten » |
RE: welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gema also ich schreib mal die lösung rein (1-0.10(periode)) *2*2^-23= (1-2/3)*2^-22=(1/(3*4))*2^-20=(1/12)*10^-6=8.3*10^-8 ich verstehe nicht wie mann auf den Bruch (1/(3*4))*2^-20 kommt. hoffe es kann mir jemand helfen. |
|
Verwandte Themen
Die Beliebtesten » |
|
Die Größten » |
|
Die Neuesten » |
|