Start » Community » Forum » Themen » Offtopic - Plauderecke » Computer rechnet falsch

Thema: Computer rechnet falsch

Missing_mini

Gelöschter Benutzer Erstellt am Mi 10.02.2010
Probier mal in EXCEL:
90,1-90
Klar, kann ich im Kopf, kommt 0,1 raus.
Der Computer ist anderer Meinung:
0,0999999999999943
Zugegeben, der Fehler ist minimal. Er führte aber zu seltsamen Ergebnissen bei der Umrechnung von Winkelgrad Dezimalzahl in Grad, Minuten, Sekunden. Beispiel: 90 Grad, 5 Minuten, 60 Sekunden anstatt 90 Grad, 6 Minuten, 0 Sekunden.
Abhilfe: Ab der zehnten Nachkommastelle wird gerundet, schon stimmt´s.


Thema melden
Zitieren

Offline

Mopedjeck Erstellt am Mi 10.02.2010
Dachte das es erledigt wurde.
Da gab es einmal:
http://www.golem.de/0709/54991​.html​
Jedoch scheint diese Erklärung zu deinem Problem zu passen.
http://support.microsoft.com/k​b/78113​
Kopfschüttelnd!
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Mi 10.02.2010
Also der Riesenfehler ist beseitigt. 850*77,1 ergibt auch bei EXCEL korrekt 65535 und nicht total daneben 100000. Aber die winzigen Fehler, so die vierzehnte Nachkommastelle, die sind systembedingt. Das kommt von der Umwandlung Dezimal-Binär und wieder zurück so wie ich das verstanden habe.
0,05+(-0,07)+0,02+0 = 0. Bei EXCEL = -3,46945E-18
also eine Winzigkeit weniger als 0
Zitieren

Offline

Ductreiber Erstellt am Mi 10.02.2010
Mit den richtigen Updates ist der Fehler schon zu Urzeiten erledigt...
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Mi 10.02.2010
Stimmt, mein EXCEL (legal gekauft) ist auf dem neuesten Stand. Bleibt der systembedingte winzige Fehler. Gut, wen interessiert schon die 14. Stelle? Aber bei der Funktion "Ganzzahl", wie ich sie gebraucht habe macht es eben einen Unterschied ob da 6,0 die Ausgangszahl ist oder 5,999999999999943. Einmal ist das Ergebnis 6 das andere Mal 5. Behoben habe ich dieses Problem durch die Funktion "Runden" nach 10 Stellen. Dann wird aus 5,999999999999943 eine 6,000000000
Zitieren

Offline

suzi1 Erstellt am Mi 10.02.2010
Seltsamerweise hatte ich heute auch Problem mit Excel, dass ich noch nie hatte.
Es sollte horizontal über drei Zellen (C,D und E) addiert werden. Das Ergebnis soll in der 5.Zelle(G) sein und in der 4.Zelle (F) stand eine Zahl, die nicht mitaddiert werden sollte. Die Formel stimmte, aber beim Eintragen der Zahlen änderte sich die Formel auf wundersame Weise und addierte von "C:G".
Erst nach dem 2. Mal fiel mir das auf. Soetwas hatte ich noch nie, da ich in vielen meiner Dateien die Formeln schon eingetragen habe, die Zahlen werden erst später eingesetzt oder durch Bezug aus einer anderen Datei.
Gruß Uschi
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Mi 10.02.2010
mennoh...Peter,
wer braucht schon die 14. Nachkommastelle?
das erinnert mich irgendwie an den alten Elektrotechniker, der immer mit seinem Rechenschieber herumrumrannte.
Auf die Frage, was der Rechenschieber ausgibt bei der Multipliakation "3 * 4=" kam die Antwort:
mit etwas Ableseungenauigkeit ist das genaue Ergebnis in etwa "11,98"
(für die Jüngeren unter uns, welche nur noch mit Taschenrechnern aufgewachsen sind:
ein Rechenschieber war ein Hilfmittel zur Bewältugung von Rechenaufgaben. Allerdings ersparte er nicht eine Überschlagsrechnung im Kopf..., denn die Zehnerpotenzen oder Nachkommastellen musste man sich schon selbst zusammenreimen können *g*)
Was ich auch immer wieder lustig finde:
Digitale Multimeter, bei welchen bei einer Genauigkeitsklasse von 1,5% noch Wert auf die 4te Nachkommastelle gelegt wird....so nach dem Motto:
Die Spannung meiner Moppedbatterie bträgt genau 12,3214 Volt *ggg*
Zitieren

Deaktiviert

blacksole Erstellt am Mi 10.02.2010
...und es entbehrt nicht einer gewissen Ironie, wenn eine solche Diskussion gerade zu einer Zeit aufkommt, in der man froh sein kann, wenn noch ne Null VOR dem Komma steht...
*hellau
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
Ich habe es probiert. Funktioniert bei mir korrekt. Der Flimmerkasten darf nur um die zu addierenden Zellen sein. Wenn die Ergebniszelle versehentlich mitaddiert wird gibt es die Fehlermeldung: Zirkelbezug.
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
Das ist ungefähr so sinnvoll wie der Sekundenzeiger bei einem alten Wecker mit Federwerk.
Zitieren

Offline

suzi1 Erstellt am Do 11.02.2010
Den Hinweis hat er ja gar nicht gegeben, da für den Compi keiner vorlag. Er hat still und schweigend die Formel umfunktioniert und von drei Zellen auf 4 hintereinadnerstehenden Zellen ausgedehnt. Ein wenig unaufmerksamer und ich hätte stundenlang Fehler gesucht. Jedenfalls serh seltsam.
Aber wie schon erwähnt.... bis gestern hatte ich das auch noch nie. Immerhin arbeite ich ja schon seit fast der Enstehung von Excel mit Excel, vorher war es Framework von Ashton Tate... da mußte man wirklich aufpassen. Da wurden für Linien Sonderzeichen eingesetzt und da gab´s Probs beim Berechnen. Ja, Ja, das ist aber mindestens 20 Jahre her.
Moin Moin
Zitieren
[Anzeige]