Kann mir zu mindest jemand bestätigen, dass das nicht nur bei mir so ist.
danke!
Ich habe ein ärgerliches Problem:
<script type="text/javascript">
alert(10.45 - 8);
</script>
Mein Taschenrechner sagt da müßte 2.45 raus kommen.
IE6 und Firefox geben mir aber 2.4499999999999..
10.41 - 8 ergibt dagegen korrekt 2.41 !?
Kennt jemand dieses Problem/Bug?...
<table> was my first love and it will be my last
Kann mir zu mindest jemand bestätigen, dass das nicht nur bei mir so ist.
danke!
<table> was my first love and it will be my last
das sind Fliesskommaungenauigkeiten. Hier hilft nur ein runden.
http://www.dcljs.de/faq/antwort.php?...rechnen_runden zeigt, wie mans macht![]()
TYPO3 · MySQLDumper · dislabs
·
manche Mühlen mahlen schneller ...
"Ich habe Rücken"
Horst Schlämmer
moin,
das ist nicht nur bei dir so
Diese 'Ungenauigkeit' hat was mit der Bit-kodierung von Zahlen zu tun, in wikipedia schön erklärt:
Das wusste ich bisher auch nicht, wieder was gelernt...
Durch die unterschiedliche binäre Darstellung der Zahlen kann es (...) zu Artefakten kommen, das heißt, Zahlen die unmittelbar "rund" erscheinen, z. B. als 12.45 ausgegeben werden, haben in Wirklichkeit bei der Berechnung nur einen bitmäßig dargestellten Wert von 12.44999999900468785. Dies kann in nachfolgenden Berechnungen zu unvorhergesehenen Ab- oder Aufrundungsfehlern führen.
...![]()
die bel
edit: da war doch wer schneller... aber auch ein schöner link![]()
danke.
<table> was my first love and it will be my last
Aktive Benutzer in diesem Thema: 1 (Registrierte Benutzer: 0, Gäste: 1)