Page 1 sur 1
[R] Opérateur de soustraction
Posté : ven. 23 juil. 2010 12:54
par Frederic
Bonjour, je ne vois pas ce que j'ai loupé:
voici mon script:
Le résultat de la message box est 0.0100000000000007.
Est-ce que ça ne devrait pas être 0.01.
Merci de votre aide.
Cordialement.
Re: [..] Opérateur de soustraction
Posté : ven. 23 juil. 2010 13:15
par SrBelial
bonjour,
ce genre d'erreur peut apparaitre quel que soit le langage de programmation utilisé,
l'explication simplifiée est la suivante :
les valeurs numériques contenues dans des variables sont en représentation flottante, ce qui implique une limite sur la précision (je ne m'étendrai pas plus là dessus par peur de dire des conneries, il me faudrait réviser mes cours .... ^__^)
Ce genre de défaut de précision apparait dans beaucoup de langages de programmation lors de l'utilisation des flottants, qui nécessite alors de faire appel à une variable supplémentaires dans tous les tests de comparaison (elle est appelée le plus souvent epsilon, et représente la plus petite valeur telle que le test [0 + epsilon > 0] soit toujours vrai).
voila pour l'explication à l'arrache qui aide pas beaucoup dans notre cas ...
=> une solution à ton problème : suivant la précision dont tu as besoin, arrondi toutes tes valeurs numériques à un nombre de décimales fixes.
LA BONNE NOUVELLE : tu n'as rien loupé, tu fais juste face à un problème très fréquent en informatique !! CONGRATULATIONS !!!
En l'occurrence sur ton exemple seules les deux premières décimales sont significatives.
Re: [..] Opérateur de soustraction
Posté : ven. 23 juil. 2010 14:39
par Jerome
Coucou.
Voici une solution à ton problème :
Code : Tout sélectionner
$test = 4.02
$test2 = 4.01
$test3 = round($test - $test2, 2)
MsgBox(0,"",$test3)
Plus d'info
ici
Re: [..] Opérateur de soustraction
Posté : mar. 27 juil. 2010 12:53
par SrBelial
je crois qu'il reviendra pas pour mettre le [R] ...
c'était son seul et unique message, si ça se trouve depuis il est décédé ou un truc du genre ... d(x__x)b
snif snif
Re: [..] Opérateur de soustraction
Posté : mar. 27 juil. 2010 13:28
par Sh4dows
Re: [..] Opérateur de soustraction
Posté : mar. 27 juil. 2010 13:38
par jbnh
Message passé en [R]
Re: [R] Opérateur de soustraction
Posté : mar. 27 juil. 2010 21:21
par sylvanie
moralité, dès qu'il y a une virgule dans le calcul, la précision tombe à la float
Ok , je me couche sans manger ----------->
Re: [R] Opérateur de soustraction
Posté : mar. 27 juil. 2010 21:44
par SrBelial
lol je kiffe !
je la re-sortirai celle là ! ^______^
...
...
...
va manger un morceau quand même hein ! je pense pas que Tlem serait content de perdre un modo pour cause de vanne à accessibilité limitée...
