Was ist "-0x1.e51b67p+0" für eine Zahl?
Neue Frage »

15.10.2019, 16:58 te one Auf diesen Beitrag antworten »
Was ist "-0x1.e51b67p+0" für eine Zahl?
Hallo,

ich habe einen Datensatz von 3D-Punkten heruntergeladen.
Das File soll pro Zeile einen Punkt als 4-Tupel beschreiben (X,Y,Z,gemessen Reflektion).

Nun ein paar Beispielzeilen:
code: 
1:
2:
3:
4:

-0x1.e51b67p+0 0x1.0b18ef5p+8 0x1.9c6075p+8 -0x1.190d44p+4
0x1.883e6f5p+7 -0x1.035a321p+7 0x1.928537p+7 -0x1.db58b8p+2
0x1.32c7267p+9 0x1.1d9e737p+6 0x1.311c822p+7 -0x1.9c4de6p+3


Hat jemand eine Ahnung wie das in Dezimal aussieht? Weiß nichtmal welches Format das sein soll...

Danke smile
15.10.2019, 18:53 rumar Auf diesen Beitrag antworten »
RE: Was ist "-0x1.e51b67p+0" für eine Zahl?
Der mittlere Teil "1.e51b67" scheint hexadezimal zu sein.
Dezimal wäre das 1.894949376
Den Rest verstehe ich nicht.
Du musst dich wohl da erkundigen, wo du die Daten her hast.
16.10.2019, 07:04 PhyMaLehrer Auf diesen Beitrag antworten »

Das "0x" ist ein Kennzeichen für eine Hexadezimalzahl. Solche sind mir zwar bisher nur als ganze Zahlen untergekommen, aber natürlich gibt es auch Hexadezimalbrüche.
Ich nehme an, daß das "p" für "mal 16 hoch" steht, genauso wie im Zehnersystem gern "e" für "mal 10 hoch" verwendet wird.
-0x1.e51b67p+0 müßte also -1.894949376 * 16^0 sein. (Die Dezimalzahl habe ich jetzt kritiklos aus dem letzten Beitrag übernommen.)
Ergibt das einen Sinn?
16.10.2019, 21:30 rumar Auf diesen Beitrag antworten »
Immer eine "1" vor dem Hex-Punkt ?
Falls zur Kennzeichnung einer Hex-Zahl wirklich das "0x" (oder "-0x" für negative Werte) schon genügt, scheint mir an den gelieferten Beispielkoordinaten etwas seltsam, dass dann durchwegs alle an der Stelle danach (also an der einzigen Stelle vor dem Hexadez-Punkt) eine 1 haben.
Insbesondere, da dann die Exponenten (hinter dem "p") recht unterschiedliche Werte von +0 bis +9 haben, ist es irgendwie sehr unwahrscheinlich, dass vor dem Hex-Punkt wirklich immer eine Eins (und nicht auch mal eine 2, 5, 9 , b oder d) stehen sollte.

Aber der Fragesteller scheint uns ja eh schon wieder vergessen zu haben ..... unglücklich
Neue Frage »
Antworten »



Verwandte Themen



MatheBoard » Hochschulmathematik » Sonstiges » Was ist "-0x1.e51b67p+0" für eine Zahl?