Hilfe! ungültige Gleitkommaoperation

Das Tabellenkalkulationsprogramm

Moderator: Moderatoren

Pfeiffer
***
Beiträge: 87
Registriert: Fr, 24.02.2006 23:05

Hilfe! ungültige Gleitkommaoperation

Beitrag von Pfeiffer »

Hallo!
Wenn ich in einer Formel 0,109 durch 2,65433 dividiere, zeigt mir Calc immer Err:503 an. Unten steht dann "ungültige Gleitkommaoperation".
In einem anderen Arbeitsblatt wird das Ergebnis richtig angezeigt. Beide Blätter sind aus Excel übernommen und im .xls-Format abgespeichert.
Gruß
Pfeiffer
Lenu
*******
Beiträge: 1085
Registriert: Sa, 30.10.2004 09:24

Beitrag von Lenu »

Könnte das etwas mit dem Format zu tun haben?
Versuch doch mal Format/Standardformatierung
oder die Zellen, bei denen es funktioniert, kopieren und mit Bearbeiten/Inhalte einfügen:nur Formate über die fehlerhaften Zelle kopieren
Dezimaltrennzeichen sind auch sprachabhängig. Vielleicht ist das noch ein Ansatz
Pfeiffer
***
Beiträge: 87
Registriert: Fr, 24.02.2006 23:05

Beitrag von Pfeiffer »

Hallo Lenu,
besten Dank erst einmal. Sobals ich das Ganze mit Nachkommastellen anzeigen lasse wird mir auch das Ergebnis richtig angezeigt. Wenn ich allerdings, wie gewünscht, die Nachkommastellen auf Null reduziere, habe ich wieder o.g. Fehler - schon komisch, oder?!
Gruß
Pfeiffer
Rat
**
Beiträge: 26
Registriert: Fr, 28.10.2005 13:37
Wohnort: Zürich

Beitrag von Rat »

Ohne wirklich eine Ahnung von Calc zu haben und auf die Gefahr hin, völlig daneben zu liegen...

Wenn die Nachkommastellen bereits vor der Rechnung gerundet werden, ergibt sich doch bei der zu dividierenden Zahle eine Null. Und da die Null nicht geteilt werden darf, wäre das dann ein "rein mathematischer" Error.

Und falls Du erst das Ergebnis rundest, naja, dann vergiss sofort wieder was ich gesagt habe und halte Dich vernünftigerweise an Tipps von kompetenten Leuten :wink:

Gruss rat
Rat
**
Beiträge: 26
Registriert: Fr, 28.10.2005 13:37
Wohnort: Zürich

Beitrag von Rat »

Oups,
zuerst geschrieben und dann gedacht...
Die Null darf ja geteilt werden, nur durch Null nicht (peinlichpeinlich).

Ok, ich nehme alles zurück, behaupte sofort das Gegenteil und denke das nächste Mal vor dem Schreiben.

Sorry und Gruss
rat
Pfeiffer
***
Beiträge: 87
Registriert: Fr, 24.02.2006 23:05

Beitrag von Pfeiffer »

Hallo Lenu, Hallo Rat!
Habe soeben die Lösung gefunden. Es lag an dem Häkchen vor "Genauigkeit wie angezeigt" - Häkchen weg, alles o.k.
Trotzdem vielen Dank!
Gruß
Pfeiffer
Lenu
*******
Beiträge: 1085
Registriert: Sa, 30.10.2004 09:24

Beitrag von Lenu »

Wen's interessiert:
diese Einstellung findet sich unter Extras/Optionen/Tabellendokument/Berechnen
(in 2.0 steht nicht "Tabellendokument" sondern der Modulname)
Stephan
********
Beiträge: 12368
Registriert: Mi, 30.06.2004 19:36
Wohnort: nahe Berlin

Beitrag von Stephan »

Es lag an dem Häkchen vor "Genauigkeit wie angezeigt" - Häkchen weg, alles o.k.
Dann erkläre bitte Dein genaues Vorgehen und nenne DEine OOo-Version, denn ich kann, Deine Werte vorausgesetzt, keinen Fehler 503 provozieren in Abhängigkeit von der genannten Option, so die Werte und die Formatierung OK sind.


Gruß
Stephan
Pfeiffer
***
Beiträge: 87
Registriert: Fr, 24.02.2006 23:05

Beitrag von Pfeiffer »

Hallo Stephan!
Also, ich will einen Preis pro kg ausrechnen. Menge = 0,109
Wert =2,65433. Wert durch Menge geteilt - Fehler: Err503
OO-Version 2.02RC4
Gruß
Pfeiffer
pmoegenb
********
Beiträge: 4330
Registriert: Di, 22.06.2004 12:02
Wohnort: 71134 Aidlingen
Kontaktdaten:

Beitrag von pmoegenb »

Pfeiffer hat geschrieben:Hallo Stephan!
Also, ich will einen Preis pro kg ausrechnen. Menge = 0,109
Wert =2,65433. Wert durch Menge geteilt - Fehler: Err503
OO-Version 2.02RC4
Hallo Pfeiffer,

mit derselben Version und Genauigkeit wie angezeigt ergibt

Code: Alles auswählen

 A1 = Wert und B1 = Menge
=A1/B1
ein Ergebnis von 24,35 ohne Error.

Gruß

Peter
Pfeiffer
***
Beiträge: 87
Registriert: Fr, 24.02.2006 23:05

Beitrag von Pfeiffer »

..komisch, gell?!
Aber was soll's, Problem ist ja gelöst.
Gruß
Pfeiffer
Stephan
********
Beiträge: 12368
Registriert: Mi, 30.06.2004 19:36
Wohnort: nahe Berlin

Beitrag von Stephan »

Also, ich will einen Preis pro kg ausrechnen. Menge = 0,109
Wert =2,65433. Wert durch Menge geteilt - Fehler: Err503
Sorry, das dachte ich mir. Deine Art den Fehler zu 'beseitigen' kann ich aber nicht nachvollziehen und fragte deshalb wie Du genau vorgehst.

Ich würde die Frage dann trotz:
..komisch, gell?!
Aber was soll's, Problem ist ja gelöst.


gerne wiederholen, denn wenn es sich so verhält wie Du es beschreibst müßte ein Fehler oder eine Besonderheit vorliegen.
Für mich wäre schon wichtig zu wissen wie es sich verhält, denn falls es ein Fehler ist müßte es gemeldet werden und falls nicht wäre es eine Besonderheit die es schon wert wäre veröffentlicht zu werden (obwohl ich ahnungslos bin worin die liegen sollte, aber deshalb frage ich ja)

Also, ich würde gerne wissen was Du gemacht hast das es sich so verhält wie beschrieben. Also beispielweise stehen die Werte in Zellen oder führst Du die Operation direkt aus, wie ist die Zellformatierug, wie kommen die Werte in die Zellen, etc. etc. Eigentlich kann alles wichtig sein. Nachvollziehen kann ich es zumindest bisher nicht und das beschriebene Programmverhalten erscheint mir ganz ungewöhnlich.


Gruß
Stephan
Karolus
********
Beiträge: 7532
Registriert: Mo, 02.01.2006 19:48

Beitrag von Karolus »

Hallo

@Stephan
Der Fehler tritt bei mir ebenfalls auf (bei aktivierter Option)

Getestet mit RC680_m156 von Pavel Janik auf Linux

Gruß
Karo

Nachtrag : Die Zellen müssen ausserdem auf 0 Nachkommstellen formatiert sein, allerdings kann ich mich nicht errinnern das umgestellt zu haben , und die hineinkopierten Zahlen wurden zunächst mit 2 Nachkommastellen angezeigt.
yeti
*****
Beiträge: 324
Registriert: Mi, 20.10.2004 12:11
Wohnort: Emmendingen

Beitrag von yeti »

Bei mir tritt der Fehler nicht auf.
Weder mit Haken bei "Genauigkeit wie angezeigt" noch ohne.

OpenOffice 2 unter Windows2000

Ich hab die Werte so eingegeben, wie sie im Beitrag genannt wurden und weil mir OOo.Calc die Zellen auf 2 Dezimalstellen formatiert hatte, noch die Formatierung entsprechend geändert, daß die Dezimalstellen angezeigt werden.

Gruß Yeti
Stephan
********
Beiträge: 12368
Registriert: Mi, 30.06.2004 19:36
Wohnort: nahe Berlin

Beitrag von Stephan »

@Stephan
Der Fehler tritt bei mir ebenfalls auf (bei aktivierter Option)

Getestet mit RC680_m156 von Pavel Janik auf Linux


Ja Danke, aber nun wird es schwierig, weil:

1.
mir zwar hätte bewußt sein sollen, aber erst jetzt bewußt wird, das das Problem womöglich versions- als auch betriebssystemspezifisch ist
(ich habe noch nichts in Richtung 2.0.2 hier verfügbar und deshalb bisher nur mit verschiedenen Versionen 1.1.x und 2.0.1 getestet)

2.
ich immer noch nicht die genauen Begleitumstände kenne
(Nein, ich kann dann auch nicht davon ausgehen das der Fehler immer auftritt egal wie Formatierungen oder die konkrete Umsetzung der Berechnung ist)

3.
ich unter Linux nicht arbeite und es reichlich viel Aufwand wäre jetzt mal schnell ein Linux aufzusetzen und die genannte Version zu installieren


Ich werde also die Problematik zunächst im Kopf behalten und selbst testen sobald ich eine 2.0.2 habe. Falls das dann bei mir spontan auch so ist wäre alles 'klar'.


Irgendwie sagt mir mein Gefühl aber zunächst das es da noch gewisse Umstände gibt damit der Fehler auftritt, und mit dieser Aussage kann ich natürlich völlig daneben liegen, es wäre aber trotzdem gut wenn jemand nochmal klar bestätigen könnte das der Fehler bei ihm unter 2.0.2 auftritt und was er genau getan hat (es sei denn das Vorgehen wäre beliebig und der Fehler träte immer auf).

Für jetzt kann ich nur sagen: bitte etwas Geduld, ich muß mir (wegen langsamen Modem-Zugang) die 2.0.2 erst auf CD beschaffen und kann erst dann selbst testen. Ich werde aber gleich mal versuchen den Fehler auf der Mailingliste anzufragen.



Gruß
Stephan
Antworten