calr rechnet falsch

[hol.sten]

bei mir wären also 1048,70 - 60 = 988,7000000000020

Kann ich hier nicht nachvollziehen. Bei mir in OOo 3.0.1 ergibt 1048,7 in A1, 60 in B1 und =A1-B1 in C1 den Wert 988,7. Und das bleibt auch so, wenn ich für alle drei Zellen 20 Nachkommastellen einstelle.

[Odoithal]

jo, das dingen ist, das meine tabelle jetzt mehr als 1500 zeilen hat und es leider so ist, das es nicht in jeder zeile zu einem fehler kommt. auch verschwindet der fehler nach weiteren eingaben hin und wieder, ohne das mann dann plus oder minus 0,000000000008 oder so eingegeben hat. ich rechne also mit normalen geldbeträgen weiter (also bis zur 2ten stelle (ohne da eine rundung vor zu nehmen)) und der fehler kommt und geht wie er will
die ersten fehler hab ich in zeile 116 und 117 in der zeile 118 ist der fehler wieder weg
241 wieder da und in der nächsten wieder weg
245 wieder da, nächste weg
dann zb in 595 fängt er an udn geht dafür bis 613, hört da für 2 zeilen auf, geht dann wieder los bis 623 und immer so weiter

wenn ich in der selben zeile dann zB eine andere zahl minus sowohl auch plus eingebe, ist zu 50% der fehler weg oder hat sich um eine andere zahl verdreht.

und ich benutze OO 3.1.1

[Odoithal]

So sieht meine tabelle zum teil aus:

in spalte 1 gebe ich über tastaur die zahlen ein, also normal, ohne die ganzen 0000 die siend jetzt nur peer zellenformatierung auf 13 stellen angezeigt. meine iengabe zB 60 oder -60
in spalte 2 steht:
=a2+b1
=a3+b2
=a4+b3
usw

SP 1 Sp 2
638,75
-19,6000000000000 619,1500000000000 =a2+b1
50,7000000000000 669,8500000000000 =a3+b2
-7,5000000000000 662,3500000000000 =a4+b3
-185,0000000000000 477,3500000000010
-20,0000000000000 457,3500000000000
-7,5000000000000 449,8500000000000
9,0000000000000 458,8500000000010
48,5000000000000 507,3500000000000
-14,0000000000000 493,3500000000010
-61,5000000000000 431,8500000000000
-20,0000000000000 411,8500000000000
3,8000000000000 415,6500000000010
9,7000000000000 425,3500000000010
-57,1000000000000 368,2500000000000
11,7000000000000 379,9500000000000
-48,0000000000000 331,9500000000000
-2,5000000000000 329,4500000000000
-8,2000000000000 321,2500000000000

ich hoffe das es jetzt etwas besser zu verstehen ist, auch wenn ich es leider nicht schaffe, hier das dingen mal so zu zeigen, das es wirklich 2 spalten sind, da er mir die leerzeichen einfach nicht dazwüschen anzeigen mag^^

[hol.sten]

ich hoffe das es jetzt etwas besser zu verstehen ist

Verstanden habe ich deine Beschreibung. Aber auch das Abtippen deiner letzten Beispielzeilen bringt mein OOo Calc 3.0.1 unter Ubuntu 9.04 nicht aus dem Tritt. Bei mir sind in allen Zellen alle Nachkommastellen ab der dritten Nachkommastelle immer 0. Auch bei 13 oder noch mehr Nachkommastellen.

[Odoithal]

jo, denke das ist auch irgend ein zufälliges dingen, hab deswegen der mist extra kopiert, damit man es auch glaubt und sieht das da nen fehler von calc rein gebastelt wierd

mir wäre der fehler auch nie aufgefallen, wenn ich zur kassenüberprüfung nicht den werd 0 in der nächsten spalte errechnen lasse, wenn ich den tabellenwert mit der kasse überprüfe, den es muss ja schon der fehler und das ergebnis 0 zusammen treffen, damit man da überhaubt mal nen blick drauf wierft

[Stephan]

kennt einer da eine lösung?

Hier im Forum ist mehrfach bis ins kleinste Detail behandelt worden das Calc über eine endliche Genauigkeit bei Gleitkommaoperationen (http://de.wikipedia.org/wiki/Gleitkommazahl) verfügt, die bei 14 oder 15 (?) Stellen absolut liegt. Einen sonstigen Fehler kann ich hier nicht erkennen.


Für das Rechnen mit Geldbeträgen solltest Du mit zwei Stellen Genauigkeit rechnen. (ggf. kannst Du in anderen Fällen auch "Genauigkeit wie angezeigt" unter Extras-OPtionen-Calc-Berechnen aktivieren)



Gruß
Stephan

[Odoithal]

super, danke, die haben da eine lösung gehabt.

es liegt an dem alten problem des rechners und seiner rechenweise, da ein rechner ja nur 0 und 1 kennt, rundet er halt mal fasch, es handelt sich da um das problem "flieskommazahlen"

um den mist zu umgehen, kann mann einfach die zahlen runden lassen, dann ist der fehler beseitigt, solange man nicht in die 12te nachkomma stelle gehen will


also stat =a2+b1 in b2

einfach =RUNDEN(a2+b1;2)

und alles ist perfekt^^

[Stephan]

solange man nicht in die 12te nachkomma stelle gehen will

NEIN, weder hat das Regina so gesagt, noch stimmt es so - Regina sprach korrekterweise von "Ziffern" und meinte 12 Stellen Genauigkeit absolut und NICHT Nachkommastellen

(die 12 Stellen resultieren im Übrigen daraus das REgina hier mit 'sicheren' Stellen argumentiert wobei (von mir bereits) benannte 14 Stellen immer die Grenze der Genauigkeit sind, also nur weniger als 14 (=13) ggf. sicher, aber erst noch eine Stelle weniger (=12) mit Sicherheit (d.h. unter allen Umständen, das heißt auch bei Überlauf) sicher.

Alles das hier im Forum mehrfach berits diskutiert und erläutert.


Gruß
Stephan