welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gemacht?

Neue Frage »

schleealex320 Auf diesen Beitrag antworten »
welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gemacht?
welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gemacht?
also das ergebnis kenne ich und zwar: 8.3*10^-8
aber wie komme ich zu diesem ergebnis???
schleealex320 Auf diesen Beitrag antworten »
RE: welcher fehler wird beim erzeugen der SHORT-REAL-Maschienenzahl für 8/3 bei normalem Runden gema
also ich schreib mal die lösung rein
(1-0.10(periode)) *2*2^-23= (1-2/3)*2^-22=(1/(3*4))*2^-20=(1/12)*10^-6=8.3*10^-8
ich verstehe nicht wie mann auf den Bruch (1/(3*4))*2^-20 kommt.
hoffe es kann mir jemand helfen.
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »