NormalizeDouble

Arrondit les éléments matriciels/vecteurs avec la précision spécifiée. Pour les nombres complexes, les parties réelle et imaginaire sont normalisées séparément. Renvoie la matrice/le vecteur avec des éléments normalisés.

vector vector::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
vectorf vectorf::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
vectorc vectorc::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
vectorcf vectorcf::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
matrix matrix::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
matrixf matrixf::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
matrixc matrixc::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );
 
matrixcf matrixcf::NormalizeDouble(
  int            digits      // nombre de chiffres après la virgule
   );

Paramètres

digits

[in]  Format de précision, égal au nombre de chiffres après la virgule (entre 0 et 11).

Valeur de Retour

Matrice/vecteur avec valeurs normalisées.

Exemple

   matrixf a={{ 11234},
              { 12567},
              { 2539,10},
              { 36945},
              { 47,1055}};
   matrixf ai=a.Inv();
//--- la matrice de résultat doit être une matrice d'identité
   matrixf aai=a@ai;
   Print(aai);
//--- remplace les petites valeurs
   matrixf aain=aai.NormalizeDouble(5);
//--- matrice d'identité précise
   Print("identity matrix\n",aain);
 
/*
[[0.99999976,0,0,-2.3841858e-07,0]
 [-4.1723251e-07,1,1.8626451e-09,-5.9604645e-08,2.3841858e-07]
 [-1.0728836e-06,-1.1920929e-07,0.99999994,-8.3446503e-07,4.7683716e-07]
 [-2.9802322e-07,5.9604645e-08,-3.9115548e-08,0.99999958,0]
 [-5.9604645e-08,-5.9604645e-08,4.2840838e-08,-6.5565109e-07,1.0000002]]
identity matrix
[[1,0,0,0,0]
 [0,1,0,0,0]
 [0,0,1,0,0]
 [0,0,0,1,0]
 [0,0,0,0,1]]
*/