[R] Opérateur de soustraction

[Frederic]

Bonjour, je ne vois pas ce que j'ai loupé:

voici mon script:

Code : Tout sélectionner

$test = 4.03
$test2 = 4.02
MsgBox(0,"",$test - $test2)

 

Le résultat de la message box est 0.0100000000000007.
Est-ce que ça ne devrait pas être 0.01.

Merci de votre aide.
Cordialement.

[SrBelial]

bonjour,

ce genre d'erreur peut apparaitre quel que soit le langage de programmation utilisé,
l'explication simplifiée est la suivante :

les valeurs numériques contenues dans des variables sont en représentation flottante, ce qui implique une limite sur la précision (je ne m'étendrai pas plus là dessus par peur de dire des conneries, il me faudrait réviser mes cours .... ^__^)
Ce genre de défaut de précision apparait dans beaucoup de langages de programmation lors de l'utilisation des flottants, qui nécessite alors de faire appel à une variable supplémentaires dans tous les tests de comparaison (elle est appelée le plus souvent epsilon, et représente la plus petite valeur telle que le test [0 + epsilon > 0] soit toujours vrai).

voila pour l'explication à l'arrache qui aide pas beaucoup dans notre cas ...

=> une solution à ton problème : suivant la précision dont tu as besoin, arrondi toutes tes valeurs numériques à un nombre de décimales fixes.

LA BONNE NOUVELLE : tu n'as rien loupé, tu fais juste face à un problème très fréquent en informatique !! CONGRATULATIONS !!!

En l'occurrence sur ton exemple seules les deux premières décimales sont significatives.

[Jerome]

Coucou.

Voici une solution à ton problème :

Code : Tout sélectionner

$test = 4.02
$test2 = 4.01
$test3 = round($test - $test2, 2)

MsgBox(0,"",$test3)
 

Plus d'info ici

[SrBelial]

je crois qu'il reviendra pas pour mettre le [R] ...
c'était son seul et unique message, si ça se trouve depuis il est décédé ou un truc du genre ... d(x__x)b

snif snif

[Sh4dows]

[jbnh]

Message passé en [R]

[sylvanie]

moralité, dès qu'il y a une virgule dans le calcul, la précision tombe à la float

Ok , je me couche sans manger ----------->

[SrBelial]

lol je kiffe !
je la re-sortirai celle là ! ^______^

...

...

...

va manger un morceau quand même hein ! je pense pas que Tlem serait content de perdre un modo pour cause de vanne à accessibilité limitée...