Moin moin!
Gegeben ist eine Spalte einer Quelltabelle mit Geldbeträgen (Preis pro Liter Öl). Die Werte sind in der Tabelle als Decimal mit 4 Kommastellen definiert.
Für eine Ansicht werte ich diese Spalte auf den mittleren Betrag aus. Allerdings wird das Ergebnis auf 4 Kommastellen gerundet.
Beispiel: Betrag 0.6729 und Betrag 0.6004 ergibt als AVG 0,6366, müsste aber 0,63655 geben.
Zunächst dachte ich, das liegt das an der Definition der Ausgangswerte und habe alles mit Faktor 10 berechnet (Ergebnis war dann korrektes 6,3655!). Aber wenn ich das dann wieder durch 10 Teile wird in der Ansicht wieder nur 0,6366 gesetzt.
Wie bekomme ich jetzt 5 Stellen da rein, da ich diese Genauigkeit für weitere Berechnungen brauche??
Danke schon mal!
Cheers,
HG
Base-eigene Begrenzung der Dezimalstellen?
Moderator: Moderatoren
Re: Base-eigene Begrenzung der Dezimalstellen?
Hallo hlerdo,
mach mal folgendes:
1) Ansicht mit Doppelklick öffnen
2) rechte Maustaste auf betreffende Spaltenüberschriften > Spaltenformatierung > Nachkommastellen einstellen > Ansicht schließen
3) erneute Abfrage auf die Ansicht > werden jetzt mehr Stellen angezeigt?
Gruß Barlee
mach mal folgendes:
1) Ansicht mit Doppelklick öffnen
2) rechte Maustaste auf betreffende Spaltenüberschriften > Spaltenformatierung > Nachkommastellen einstellen > Ansicht schließen
3) erneute Abfrage auf die Ansicht > werden jetzt mehr Stellen angezeigt?
Gruß Barlee
Re: Base-eigene Begrenzung der Dezimalstellen?
Moin Barlee,
Mehr Stellen ja, aber jetzt bekomme ich 0,63660 statt 0,63655...
Cheers,
HG
Mehr Stellen ja, aber jetzt bekomme ich 0,63660 statt 0,63655...
Cheers,
HG
Re: Base-eigene Begrenzung der Dezimalstellen?
jetzt spielen vermutlich die Ausgangswerte mit rein, die nicht mit entsprechenden Nachkommastellen definiert wurden. Probier das zusätzlich nochmal, die Definition der DECIMAL Spalten auf 5 Stellen zu ändern.
Gruß Barlee
Gruß Barlee
Re: Base-eigene Begrenzung der Dezimalstellen?
Moin moin,
Hat ein wenig länger gedauert, da ich noch ein paar Ansichten umbauen musste, damit ich die Stellen ändern konnte.
Hier das Ergebnis:
Habe zunächst versucht statt der AVG-Funktion erst mal eine Summe der Spaltenwerte zu nehmen, durch die entsprechende Anzahl der Werte zu teilen, und den Wert dann in die Ansicht einzusetzen. Brachte nix... Das Ergebnis wurde immer auf 4 Dezimalstellen gerundet.
Dann also alle anhänglichen Ansichten löschen, um die Präzision der Spalte ändern zu können, auf 5 Stellen hochgesetzt, und siehe da, der neue Durchschnittswert (sowohl mit AVG als auch mit SUM/Anzahl) hatte auf einmal eine 5-stellige Präzision!
Wieder was gelernt... Die Präzision der Ausgangswerte zieht sich bis in das Ergebnis durch. Nun wäre noch interessant zu wissen, ob bei einer Verknüpfung einer n-stelligen Dezimalzahl mit einer (n+1)-stelligen Dezimalzahl das Ergebnis n Stellen hat oder n+1... Aber damit beschäftige ich mich, wenn die Situation sich ergibt...
Cheers,
HG
Hat ein wenig länger gedauert, da ich noch ein paar Ansichten umbauen musste, damit ich die Stellen ändern konnte.
Hier das Ergebnis:
Habe zunächst versucht statt der AVG-Funktion erst mal eine Summe der Spaltenwerte zu nehmen, durch die entsprechende Anzahl der Werte zu teilen, und den Wert dann in die Ansicht einzusetzen. Brachte nix... Das Ergebnis wurde immer auf 4 Dezimalstellen gerundet.
Dann also alle anhänglichen Ansichten löschen, um die Präzision der Spalte ändern zu können, auf 5 Stellen hochgesetzt, und siehe da, der neue Durchschnittswert (sowohl mit AVG als auch mit SUM/Anzahl) hatte auf einmal eine 5-stellige Präzision!
Wieder was gelernt... Die Präzision der Ausgangswerte zieht sich bis in das Ergebnis durch. Nun wäre noch interessant zu wissen, ob bei einer Verknüpfung einer n-stelligen Dezimalzahl mit einer (n+1)-stelligen Dezimalzahl das Ergebnis n Stellen hat oder n+1... Aber damit beschäftige ich mich, wenn die Situation sich ergibt...
Cheers,
HG