OpenOffice.info

[quote=Helmut_S post_id=291683 time=1600756933 user_id=59828]
Hallo Butler,
[quote]Wo sind die Rechengrenzen überhaupt?[/quote]
nach meiem Verständnis liegt die Rechengrenze von Calc bei 2^52, wie aus der Tabelle hervorgeht, kann Calc 2^52 von 2^52+1 unterscheiden, dagegen nicht mehr bei 2^53.
Vielleicht nützt diese Information dem Herrn Nilson.
Gruß Helmut
[/quote]

Unter der Überschrift "Ganzzahlen" ist das so, aber im Eigentlichen geht es hier um numerische GEnauigkeit und diese Grenze ist nicht von der Absolutgrösse einer Zahl abhängig, sondern auch Nachkommastellen zählen.

d.h. trotzdem Calc bei Ganzzahlen 2^52 genau rechnet, kommt Calc andererseits bei bereits z.B. 1,1111111111111111^2 ins Straucheln.


Gruß
Stephan

Hallo,

ich verlinke Mal auf ein paar Grundlagen:
http://www.gnumeric.org/numerical-issues.html

Fazit: In Tabellenkalkulationen wir oft gerundet. Wer das vermeiden will muss externe Libraries für Programmiersprachen verwenden.
Ich erinnere mich an einen Artikel über String-basierte Rechenoperationen in der CT - ist aber verdammt lang her....

Mfg, Jörn

Hallo Butler,
[quote]Wo sind die Rechengrenzen überhaupt?[/quote]
nach meiem Verständnis liegt die Rechengrenze von Calc bei 2^52, wie aus der Tabelle hervorgeht, kann Calc 2^52 von 2^52+1 unterscheiden, dagegen nicht mehr bei 2^53.
Vielleicht nützt diese Information dem Herrn Nilson.
Gruß Helmut

[quote]Wie kann Herr Nilson dieses Runden verhindern?[/quote]

Indem Du per Makros oder benutzerdefinierter Funktion diese Rchnungen mittels Strings ausführtst. Für MS Excel solltest Du dafür Beispieldateien im Intrnet finden, die dann auch für OO Calc passen. Ob es zu diesem Thema exdplizite Dateien für Calc gibt weiß ich hingegen nicht.

[quote]Wie wird im Hintergrund von OO gerechnet wenn eine solche Zahl wie die angegebene in ihre Kubikzahl erhoben wird?[/quote]

weiß ich nicht

[quote]Wo sind die Rechengrenzen überhaupt?[/quote]

Die Rechengrenze auf welche Du hier stösst ist die numerische Genauigkeit bezüglich Ziffern. OO/LO können nur mit maximal 15 (so ich mich richtig erinnere) 'Ziffern-Stellen' Genauigkeit rechnen.


GRuß
Stephan