Nombre de chiffre de précision

[Brainiac91]

Bonjour,

Je suis entrain de développer un VI d'acquisition de mesures, j'arrive à afficher les mesures avec 6 chiffres après la virgule, mais dans la calcule, LabVIEW fait l'arrondi de ce chiffre avec seulement 3 chiffres après la virgule. Ma question est : comment faire pour que la valeur dans les lignes de données de LabVIEW soient avec 6 chiffres de précision après la virgule.

Ci joint deux photos explicatifs.

Merci d'avance 

[MarcDub]

Les calculs sont toujours faits avec toute la précision selon le type de donnée: 32-bit pour simple précision et 64-bit pour double précision, ce qui correspond approximativement à une précision de 7 chiffres et 16 chiffres significatifs, respectivement. La précision montrée dans la sonde n'est limitée que pour l'affichage.

[Brainiac91]

@MarcDub

Merci pour votre réponse. Si je vous ai compris, la valeur réel de la sonde est celui de la valeur indiqué dans le controle.

[MarcDub]

Pas vraiment. Le contrôle a aussi un format d'affichage. Ce format est ajustable cependant et peut donner une meilleure idée de la précision. Dans tous les cas, les calculs sont toujours fait avec la précision maximale du type utilisé.

[Brainiac91]

@MarcDub

la valeur est affichée en représentation EXT (précision étendue) , c'est avec celle ci je fait mon calcul. A l'affichage, la valeur est affiché correctement avec 8 chiffre après la virgule. Dans la sonde est affiché en format arrondie avec 3 chiffres après la virgule. Donc, selon votre explication, la valeur réelle de la sonde est bien la valeur de l'affichage qui est avec 8 chiffres après la virgule

[MarcDub]

La valeur réelle de la sonde est la même que celle du contrôle. Toutefois, avec 8 chiffres après la virgule, le contrôle ne montre pas la vraie valeur. En précision étendue, il y a quelque chose comme 18 chiffres significatifs.

Pour être rigoureux, il faut dire qu'il est impossible dans la plupart des cas de montrer la valeur réelle d'une fraction en format décimal parce-que l'ordinateur utilise un format binaire. À moins de regarder en format binaire, on ne peut pas voir la valeur "réelle". En précision étendue, la précision de la valeur réelle est généralement plus grande que celle qui peut être vue avec les contrôles ou les sondes.

Dans votre cas, le contrôle montre une plus grande précision que la sonde mais la valeur "réelle" a une précision encore plus grande. La précision est la même pour la sonde et le contrôle.

[Brainiac91]

@MarcDub

Très clair, merci pour l'explication.