Seite 1 von 1
Re: Rechnen mit grösseren Ganzzahlen
Verfasst: Mi, 16.09.2020 16:10
von Stephan
Wie kann Herr Nilson dieses Runden verhindern?
Indem Du per Makros oder benutzerdefinierter Funktion diese Rchnungen mittels Strings ausführtst. Für MS Excel solltest Du dafür Beispieldateien im Intrnet finden, die dann auch für OO Calc passen. Ob es zu diesem Thema exdplizite Dateien für Calc gibt weiß ich hingegen nicht.
Wie wird im Hintergrund von OO gerechnet wenn eine solche Zahl wie die angegebene in ihre Kubikzahl erhoben wird?
weiß ich nicht
Wo sind die Rechengrenzen überhaupt?
Die Rechengrenze auf welche Du hier stösst ist die numerische Genauigkeit bezüglich Ziffern. OO/LO können nur mit maximal 15 (so ich mich richtig erinnere) 'Ziffern-Stellen' Genauigkeit rechnen.
GRuß
Stephan
Re: Rechnen mit grösseren Ganzzahlen
Verfasst: Di, 22.09.2020 08:42
von Helmut_S
Hallo Butler,
Wo sind die Rechengrenzen überhaupt?
nach meiem Verständnis liegt die Rechengrenze von Calc bei 2^52, wie aus der Tabelle hervorgeht, kann Calc 2^52 von 2^52+1 unterscheiden, dagegen nicht mehr bei 2^53.
Vielleicht nützt diese Information dem Herrn Nilson.
Gruß Helmut
Re: Rechnen mit grösseren Ganzzahlen
Verfasst: Mi, 23.09.2020 08:41
von Hiker
Hallo,
ich verlinke Mal auf ein paar Grundlagen:
http://www.gnumeric.org/numerical-issues.html
Fazit: In Tabellenkalkulationen wir oft gerundet. Wer das vermeiden will muss externe Libraries für Programmiersprachen verwenden.
Ich erinnere mich an einen Artikel über String-basierte Rechenoperationen in der CT - ist aber verdammt lang her....
Mfg, Jörn
Re: Rechnen mit grösseren Ganzzahlen
Verfasst: Mi, 23.09.2020 09:26
von Stephan
Helmut_S hat geschrieben: ↑Di, 22.09.2020 08:42
Hallo Butler,
Wo sind die Rechengrenzen überhaupt?
nach meiem Verständnis liegt die Rechengrenze von Calc bei 2^52, wie aus der Tabelle hervorgeht, kann Calc 2^52 von 2^52+1 unterscheiden, dagegen nicht mehr bei 2^53.
Vielleicht nützt diese Information dem Herrn Nilson.
Gruß Helmut
Unter der Überschrift "Ganzzahlen" ist das so, aber im Eigentlichen geht es hier um numerische GEnauigkeit und diese Grenze ist nicht von der Absolutgrösse einer Zahl abhängig, sondern auch Nachkommastellen zählen.
d.h. trotzdem Calc bei Ganzzahlen 2^52 genau rechnet, kommt Calc andererseits bei bereits z.B. 1,1111111111111111^2 ins Straucheln.
Gruß
Stephan