Falsche Berechnung bzw. falsche Nachkommastellen

Datenbanklösungen mit AOO/LO

Moderator: Moderatoren

Benutzeravatar
herz4
****
Beiträge: 145
Registriert: Mi, 29.09.2010 13:41

Re: Falsche Berechnung bzw. falsche Nachkommastellen

Beitrag von herz4 »

Ich habe diese Rechenungenauigkeit bedingt durch Access-DB noch nicht beobachtet.

Ich meine bei Base ausgemacht zu haben, dass es sich bei SQL-Berechnungen teilweise in der Genauigkeit am Wert mit der geringsten Nachkommastellenzahl orientiert?! Die Leihdauer dürfte wohl Integer sein? Allerdings meine ich, dass Base dann rundete, nicht wie Du angibst Nachkommastellen Null setzt?!

Gerne würde ich an Deinen weiteren Erfahrungen mit dem Problem teilhaben ...
LinuxMint 13 maya, LibreOffice 4.1 mit externer HSQLDB 2.3.2
turtle47
*******
Beiträge: 1849
Registriert: Mi, 04.01.2006 20:10
Wohnort: Rheinbach

Re: Falsche Berechnung bzw. falsche Nachkommastellen

Beitrag von turtle47 »

Hallo,
herz4 hat geschrieben:Die Leihdauer dürfte wohl Integer sein? Allerdings meine ich, dass Base dann rundete,
Nachzulesen auch im OooWiki.
OooWiki hat geschrieben:Integer [ INTEGER ]
4-Byte Ganzzahl im Wertebereich von -2.147.483.648 bis 2.147.483.647, bezeichnet auch als Long Integer
OooWiki hat geschrieben:Double [ DOUBLE ]
8-Byte Fließkommazahl im Wertebereich von +/- 1,80E308 bis 4,94E-324, bezeichnet auch als Double
Software hat keinen Verstand - benutze deinen eigenen...!

Win 7 SP1/ LibreOffice 3.4.2 OOO340m1 (Build:203) / Firefox 15.0.1 / Notebook ASUS K70IO 64 Bit-Betriebssytem
Benutzeravatar
herz4
****
Beiträge: 145
Registriert: Mi, 29.09.2010 13:41

Re: Falsche Berechnung bzw. falsche Nachkommastellen

Beitrag von herz4 »

Hallo turtle47,

Dein Link hilft mir nicht mein Halbwissen zu erweitern: wo kann ich lesen, wie Base/HSQL bei SQL-Rechnung rundet?
LinuxMint 13 maya, LibreOffice 4.1 mit externer HSQLDB 2.3.2
Antworten