Rundungsfehler trotz Genauigkeit wie angezeigt?

Antwort erstellen


BBCode ist eingeschaltet
[img] ist ausgeschaltet
[url] ist eingeschaltet
Smileys sind ausgeschaltet

Die letzten Beiträge des Themas
   

Ansicht erweitern Die letzten Beiträge des Themas: Rundungsfehler trotz Genauigkeit wie angezeigt?

Re: Rundungsfehler trotz Genauigkeit wie angezeigt?

von Rocko » Do, 04.02.2016 20:04

a-zeller hat geschrieben:Was ist da los? Und warum bei einer einfachen Subtraktion?
Hier findest du Erklärungsversuche:
https://suche.gmx.net/web?origin=serp_s ... on+ungenau

Rundungsfehler trotz Genauigkeit wie angezeigt?

von a-zeller » Do, 04.02.2016 15:37

Ich habe eine einfache Subtraktion mit zwei Nachkommastellen (s. Anhang), das Ergebnis ist korrekt, bis auf die 15. Stelle, da kommt plötzlich eine 1. Mit anderen Zahlen konnte ich das reproduzieren, allerdings nicht immer.

In den Einstellungen habe ich extra Genauigkeit wie angezeigt aktiviert. Was ist da los? Und warum bei einer einfachen Subtraktion?

Ich nutze LibreOffice 4.2.8.2 unter Kubuntu Linux 14.04 LTS.
Dateianhänge
Genauigkeit wie angezeigt.ods
(29.63 KiB) 89-mal heruntergeladen

Nach oben