Jump to content

Messprotokoll


Recommended Posts

Das habe ich offen gesagt noch nie getestet, ob nicht angezeigte Nachkommastellen mitgerechnet werden. Ich kann mich aber auch nicht erinnern, je sowas wie in deinem PDF gesehen zu haben. Aber was taugt schon mein Gedächtnis 🤠
ERWARTEN würde ich aber, daß unsichtbare Stellen nicht zählen. Sonst kommt man ja bei grenzwertigen Ergebnissen nie in die Toleranz, wenn jeder Millionstel Millimeter zählt. 😮
Link to comment
https://qualityforum.zeiss.com/topic/11156-messprotokoll/#findComment-54686
Share on other sites

Calypso rechnet immer mit voller Genauigkeit, denn die Software kann ja nicht wissen, ob man mit einem Ergebnis nicht doch noch in einer anderen Formel weiterrechnen möchte.

0,8001 wäre außerhalb der Toleranz, ganz klar, da wird auch nichts intern abgerundet. Nur die Darstellung auf dem Papier wird bei Bedarf gerundet, also wäre 0,8004 auf dem Protokoll 0,800 (bei drei Nachkommastellen) und 0,8005 wäre 0,801.

Das macht jede Messsoftware so (jedenfalls die, die ich kenne).
Link to comment
https://qualityforum.zeiss.com/topic/11156-messprotokoll/#findComment-54694
Share on other sites

×
×
  • Create New...