Fehler im Compiler???
Bernhard Eversberg
EV at buch.biblio.etc.tu-bs.de
Di Mai 22 11:53:32 CEST 2001
Herr Eger schreibt:
> sie schreiben, dass die Zahlen intern als Gleitkomma definiert sind -
> haben Sie vielleicht "float" verwendet? Wenn ja, waere der
> Fehler damit erklaerbar, da float mit 23 bit Mantisse (+ 1 Vorzeichen)
> nur maximal +/- 8388607 genau darstellen kann. Dann liesse sich der
> Effekt durch Verwendung von double oder zur Sicherheit long double
> beheben ...
>
Genau richtig. Es war die falsche Umrechnungsfunktion gewesen, sie
erzeugte eine "float"-Zahl.
MfG B.E.
Bernhard Eversberg
Universitaetsbibliothek, Postf. 3329,
D-38023 Braunschweig, Germany
Tel. +49 531 391-5026 , -5011 , FAX -5836
e-mail B.Eversberg at tu-bs.de
Mehr Informationen über die Mailingliste Allegro