Zitat:
Zitat von freitag
Hin und wieder berechnet mein NormalizeDouble-Befehl falsch.
Beispiel:
y=NormalizeDouble(x,2);
- da kommt dann ein Wert wie 95.400000000000000001
Kennt dieses Problem noch jemand und weiß einen Rat dafür?
|
Das ist kein Fehler sondern völlig normal. Der Umgang mit Fließkommazahlen in einer Programmiersprache hat mit Zahlen im "normalen" Leben nur wenig zu tun. Eine Fließkommazahl wird aus einer Mantisse und einem Exponenten dargestellt.
Siehe:
https://de.wikipedia.org/wiki/Gleitkommazahl