Seite 1 von 1

Re: Falsche Berechnung bzw. falsche Nachkommastellen

Verfasst: So, 07.11.2010 09:37
von herz4
Ich habe diese Rechenungenauigkeit bedingt durch Access-DB noch nicht beobachtet.

Ich meine bei Base ausgemacht zu haben, dass es sich bei SQL-Berechnungen teilweise in der Genauigkeit am Wert mit der geringsten Nachkommastellenzahl orientiert?! Die Leihdauer dürfte wohl Integer sein? Allerdings meine ich, dass Base dann rundete, nicht wie Du angibst Nachkommastellen Null setzt?!

Gerne würde ich an Deinen weiteren Erfahrungen mit dem Problem teilhaben ...

Re: Falsche Berechnung bzw. falsche Nachkommastellen

Verfasst: So, 07.11.2010 10:08
von turtle47
Hallo,
herz4 hat geschrieben:Die Leihdauer dürfte wohl Integer sein? Allerdings meine ich, dass Base dann rundete,
Nachzulesen auch im OooWiki.
OooWiki hat geschrieben:Integer [ INTEGER ]
4-Byte Ganzzahl im Wertebereich von -2.147.483.648 bis 2.147.483.647, bezeichnet auch als Long Integer
OooWiki hat geschrieben:Double [ DOUBLE ]
8-Byte Fließkommazahl im Wertebereich von +/- 1,80E308 bis 4,94E-324, bezeichnet auch als Double

Re: Falsche Berechnung bzw. falsche Nachkommastellen

Verfasst: Mo, 08.11.2010 06:22
von herz4
Hallo turtle47,

Dein Link hilft mir nicht mein Halbwissen zu erweitern: wo kann ich lesen, wie Base/HSQL bei SQL-Rechnung rundet?