Einzelnen Beitrag anzeigen
  #1 (permalink)  
Alt 06.06.23
traderdoc traderdoc ist offline
Elite Mitglied
 
Registriert seit: Apr 2011
Beiträge: 2.735
traderdoc befindet sich auf einem aufstrebenden Ast
Standard Subtraktionsrest bei double-Zahlen

Dass die Divison von Zahlen manchmal Werte mit 10 und mehr Kommastellen ergeben, z.B.

0.6/0.2 = 2.9999999999999996

ist bekannt, wenn auch unschön und hat mich so manches graues Haar gekostet.

Aber nun toppt das das o.g. noch um die Tatsache, dass auch die Subtraktion zweier double-Zahlen folgendes ergibt:

0.6 - 0.2 = 0.39999999999999997

Wer kann mir diesen Blödsinn sinnhaft erklären?

D.h. bei solch einer simplen Subtraktion müsste ich zum Erhalt der korrekten Differenz ein NormalizeDouble(0.6-0.2, 1) formulieren!!

Auch ein

MathMod(0.3-0.1, 0.1)

sollte eigentlich 0 ergeben.
Die reale Zahl dieser Operation beträgt aber 0.09999999999999998.

Das kann es doch aber nicht sein!

traderdoc
__________________
Ich erfülle Euch gern Eure EA-, Indikator- und Script-Programmierungswünsche auf Honorarbasis.