NormalizeDouble paradoxe - page 11

[pavlick_]

transcendreamer:

Ce qui me dérange, c'est que lorsque je calcule un nombre fractionnaire, que je le normalise, que je l'écris dans une variable, puis que je le lis et le normalise à nouveau, j'obtiens des queues.

par exemple

basis[0]=NormalizeDouble(sum_A,2);

GlobalVariableSet("Equity-"+portfolio_id,basis[0]); 

...

current=NormalizeDouble(GlobalVariableGet("Equity-"+portfolio_id),2);

text = "Positions synchronized at " + current + " for portfolio: " + portfolio_name;

if(!automatic) MessageBox(text,""); else Print(text);

Maintenant, je l'ai changé en

text = "Positions synchronized at " + DoubleToStr(current,2) + " for portfolio: " + portfolio_name;

if(!automatic) MessageBox(text,""); else Print(text);

et il ne semble pas y avoir de queue, whew, whew, whew...

Je l'ai déjà écrit, je le répète - certains nombres n'existent pas en binaire. Il n'y a pas de 0,1, pas de 0,3 et bien d'autres. Peu importe le nombre de fois où vous écrivez double val = NormalizeDouble(0.1434, 1), vous n'obtiendrez jamais 0.1, car ce nombre n'existe pas.

Par exemple, les nombres sont représentés comme suit :

0,1 = 0,10000000000000001
0,2 = 0,20000000000000001
0,3 = 0,2999999999999999999999999
0,4 = 0,400000000000002
0,6 = 0,59999999999999998

mais
0,125 = 0,125
0,25 = 0,25
0,5 = 0,5

Si cela est très dérangeant, vous devez soit arrondir, soit écrire votre propre vélo pour représenter les nombres fractionnaires (il existe peut-être des bibliothèques, je ne suis pas intéressé) qui n'utiliseront pas le fpu.

Et aucune queue n'est ajoutée lors de la conversion en chaîne, elle est présente au départ.

[Dmitry Fedoseev]

transcendreamer:

donc j'ai résolu ma question, nous pouvons fermer le sujet.

solution : il faut forcer les arrondis, même après normalisation

Mauvaise solution. Pour arrondir, il faut multiplier, arrondir, diviser. Après la dernière division, le nombre sera non normalisé.

[Dmitry Fedoseev]

transcendreamer:

tout à fait possible... mais en termes de résultat final - il y a des queues !

...

Pas de queue après normalisation.

[pavlick_]

Integer:
Il n'y a pas de queue après la normalisation.

Je pense que vous induisez l'homme en erreur. Comment ça, il n'y a pas de queue après normalisation ? Il ne peut y avoir de queue que dans la chaîne que nous avons obtenue à partir d'un nombre et dont nous avons arrondi la valeur (arrondi déjà dans la chaîne, pas dans le double). Mais il y a des queues après NormalizeDouble().

[pavlick_]

Integer:
Mauvaise solution. Pour arrondir, il faut multiplier, arrondir, diviser. Après la dernière division, le nombre sera non normalisé.

Qu'entendez-vous par "normalisation" ? Stringo disait ici que l'algorithme est quelque chose comme ça :

double NormalizeDouble(double val, int digits)
{
    val *= 10 ^ digits
    округляем к ближайшему целому
    val /= 10 ^ digits
    return val
}

[Dmitry Fedoseev]

pavlick_:

Je pense que vous induisez l'homme en erreur. Comment ça, il n'y a pas de queue après normalisation ? Il ne peut y avoir de queue que dans la chaîne que nous avons obtenue à partir d'un nombre et dont nous avons arrondi la valeur (arrondi déjà dans la chaîne, pas dans le double). Mais après NormalizeDouble() il y a des queues.

Eh bien, si vous aimez croire que je trompe quelqu'un, croyez-moi. J'ai vu toutes sortes de personnes ici, je ne serai pas surpris par votre position "de principe".

[Dmitry Fedoseev]

pavlick_:

Qu'entendez-vous par "normalisation" ? Stringo disait ici que l'algorithme est quelque chose comme ça :

Il serait beaucoup plus intéressant de savoir ce que vous entendez par normalisation.

[pavlick_]

Integer:

Je te pose une question précise et tu me jettes de l'eau. Il est plutôt normal d'expliquer et d'argumenter son point de vue.

[Dmitry Fedoseev]

pavlick_:
Je te pose une question précise et tu me jettes de l'eau. Est-il normal d'expliquer et d'argumenter son point de vue ?

Lire les manuels et la documentation à haute voix, ou quoi ? Ou lire le dictionnaire à haute voix, à propos du mot "environ" ?

[pavlick_]

Integer:
Lire les manuels et la documentation à haute voix ou quoi ? Ou lire le dictionnaire à haute voix, à propos du mot "environ" ?

C'est clair, nous n'avons rien à nous dire. Et vous feriez mieux de rester en dehors des conversations si vous n'êtes pas responsable de vos paroles.