Number of digits displayed/used

Zuletzt geändert 3rd Jan 2013
Category: Qualitatskontrolle > Quality Analyst
Version: -
Article Ref.: 1FAE
»Zurück zur letzen Suche
»Print friendly version of this article.
1 person has found this article useful.
Quality Analyst 1FAE Both Quality Monitor and Quality Analyst use Single Precision maths ( 7 significant digits ). However, Quality Analyst may display more digits but anything after 7 significant digits in a calculation is questionable. Also there are likely to be problems charting to 7 digits. If, for example your data is in the range 0.1234569 to 0.1234561, remember to check the scale and label the Y axis appropriately. So you may need to note the multiplication factor in the axis label. QualityAnalyst - en

Wenn Sie technische Fragen zu Soft- und Hardware haben, die bei uns erworben wurde, dann verwenden Sie dazu bitte unsere Knowledge Base. Falls Sie keine Antwort in unserer Knowledge Base finden, dann fllen Sie bitte hier das Formular fr Technischen Support aus oder rufen uns an unter +49 69 9675 9610 (werktags von 9 bis 13 Uhr).