Rundung

Neue Frage »

Thomas007 Auf diesen Beitrag antworten »
Rundung
Hallo miteinander.

Angenommen, ein PC kann eine Binärzahl nur 3Stellen nach dem Komma anzeigen. Wie wird in einem solchen Fall die Binärzahl 0.00110011 angezeigt?

Liebe Grüße, Thomas
Math1986 Auf diesen Beitrag antworten »
RE: Rundung
Ich verstehe die Frage nicht verwirrt
Wenn 0.00110011 eine Binärzahl ist, und von einer ssolchen nur 3 Stellen hinter dem Komma angezeigt werden können, dann wäre das doch 0.001.
Thomas007 Auf diesen Beitrag antworten »
RE: Rundung
Sorry, ich meinte:
0.000110011...

Also wird einfach abgeschnitten?
Thomas008 Auf diesen Beitrag antworten »
Rundung
Auch bei Binärzahlen kann gerundet werden. D.h. zunächst abschneiden und wenn die erste abgeschnittene Ziffer eine 1 ist wird aufgerundet.

0.000110011 | abschneiden
0.000 110011 | Erste abgeschnittene Ziffer ist eine 1 daher aufrunden
0.001

0.00110011 | abschneiden
0.001 10011 | erste abgeschnittene Ziffer ist eine 1 daher aufrunden
0.010
Thomas007 Auf diesen Beitrag antworten »
RE: Rundung
Danke dir vielmals für die Info.
Neue Frage »
Antworten »



Verwandte Themen

Die Beliebtesten »
Die Größten »
Die Neuesten »