[Ri...] Posted January 21, 2022 Share Posted January 21, 2022 Servus zusammen. Ich hab da mal ne Frage. Ich hab euch mal ein PDF angehängt. Da hab ich manchmal das Problem bei meinem Messprotokoll, dass mir ein i.O Maß als n.i.O. angezeigt wird. ❓ Ist das ein Bug oder spielen die hinteren Stellen nach dem Komma da eine Rolle?Beispiel.pdf Link to comment Share on other sites More sharing options...
[Ün...] Posted January 21, 2022 Share Posted January 21, 2022 0,8001 messen. Sie sehen also NOK Sie können die Abweichung sehen, indem Sie die Ziffern nach dem Komma erhöhen. Link to comment Share on other sites More sharing options...
[No...] Posted January 21, 2022 Share Posted January 21, 2022 Das habe ich offen gesagt noch nie getestet, ob nicht angezeigte Nachkommastellen mitgerechnet werden. Ich kann mich aber auch nicht erinnern, je sowas wie in deinem PDF gesehen zu haben. Aber was taugt schon mein Gedächtnis 🤠 ERWARTEN würde ich aber, daß unsichtbare Stellen nicht zählen. Sonst kommt man ja bei grenzwertigen Ergebnissen nie in die Toleranz, wenn jeder Millionstel Millimeter zählt. 😮 Link to comment Share on other sites More sharing options...
[Ma...] Posted January 21, 2022 Share Posted January 21, 2022 Moin, theoretisch wird doch hier abgerundet und Ergebnis müsste i.O. sein. Ich kenne was Ähnliches bei der Kurvenform. Ist da vielleicht noch der Hacken erweiterte Tol-Modus? ❓ Link to comment Share on other sites More sharing options...
[Ri...] Posted January 24, 2022 Author Share Posted January 24, 2022 Please sign in to view this quote. Da bin ich ganz deiner Meinung, da wird man ja dann nicht mehr fertig. xD Link to comment Share on other sites More sharing options...
[Ri...] Posted January 24, 2022 Author Share Posted January 24, 2022 Please sign in to view this quote. Welchen Tol-Modus meinst du damit? Link to comment Share on other sites More sharing options...
[Da...] Posted January 24, 2022 Share Posted January 24, 2022 Calypso rechnet immer mit voller Genauigkeit, denn die Software kann ja nicht wissen, ob man mit einem Ergebnis nicht doch noch in einer anderen Formel weiterrechnen möchte. 0,8001 wäre außerhalb der Toleranz, ganz klar, da wird auch nichts intern abgerundet. Nur die Darstellung auf dem Papier wird bei Bedarf gerundet, also wäre 0,8004 auf dem Protokoll 0,800 (bei drei Nachkommastellen) und 0,8005 wäre 0,801. Das macht jede Messsoftware so (jedenfalls die, die ich kenne). Link to comment Share on other sites More sharing options...
[Ri...] Posted January 27, 2022 Author Share Posted January 27, 2022 Please sign in to view this quote. Oke alles klar. Vielen Dank für die Erklärung. Link to comment Share on other sites More sharing options...
Recommended Posts
Please sign in to comment
You will be able to leave a comment after signing in