definitie tolerantiespec

Op 18 mei 2016 17:14:45 schreef FastFolkert:...met het schaamrood op de kaken weet ik niet meer precies wat deze tolerantie betekent...

ik ook niet, dat maakt het hopelijk iets minder schaamvol.

plus +/- 2 digits ?

Ik weet het ook niet, maar die twee digits zal toch wel niet zeker.

't zijn altijd wat duistere omschrijvingen...
Normaal betekent het +/- 0.09% en 2 digits (dus 5.005 kan 5.003...5.007 zijn qua digits). In dit geval ontbreken de +/-

Je moet het dan wel laten zien zoals het er staat nl. ± (0,09% + 2)
en dan is het minimaal -0,09 % van aflezing -2 digits en maximaal +0,09 +2 digits.

Gr.F_S

De meest uitgebreidste specs geven een % van de aflezing + een % van de volle schaal + x-digits (of counts) en dan ook alleen voor een bepaalde periode bij een bepaalde klimaat (temp en luchtvochtigheid en zelfs luchtdruk).
Ipv % gebruikt men ook ppm (part per Miljoen)

Het betekent dat je meter een waarde weer geeft die, mogelijk met een bepaalde kans, binnen een range moet/kan liggen. Dat wil niet zeggen dat het altijd zo is, hij kan best spot on zijn. (Ik ben geen statistiek expert)

Je gaat er bij specs van uit dat het te meten signaal bekend is. Dus je meet bv een 10,000000 volt van een standaard en dan moet je meter-display een waarde tussen bv 9,9995 en 10,0005 weergeven om aan zijn specs te voldoen. (de getallen even compleet random genomen)
Meestal hoe uitgebreider de specs, hoe groter de kans is dat hij spot on is of kan zijn, of blijft. Hoe beperkter de specs hoe minder waarde je er aan kan geven. Dan krijg je dingen als minimaal 1% of typical 1% in the best range. En dan is het de vraag, hoeveel % tov wat ? Dat heeft weer met tracability te maken.

Als ik jou meter calibreer dan zou hij bv 0,01% kunnen zijn in de 1V range. Maar dat is dan 0,01% tov mijn standaard. Als die nu weer binnen 0,001% zit bij calibratie in een "hoog nivo" cal lab tov hun beste standaard, dan heeft die weer een eigen tolerantie tov de absolute volt... kun je het nog volgen, of beter traceren

Ik was niet volledig zie ik nu; er staat generiek:

Dat lees ik als dat de werkelijke waarde kan liggen tussen [99,91% + 2 digits] en [100,09% + 2 digits] van de uitlezing.
Dus in beide gevallen PLUS 2 digits...?

Nee, - 2 digits. Het minteken voor de haakjes uitdelen.

[edit]
Das eigenlijk onduidelijk geschreven. Het moet zijn:
[99.91% - 2digits] en [100.09% + 2digits] (als de notatie de bekende wiskundige regels volgt toch.

[/edit]

[Bericht gewijzigd door Shock6805 op woensdag 18 mei 2016 20:08:58 (61%)]

Op 18 mei 2016 20:02:04 schreef Shock6805:
Nee, - 2 digits. Het minteken voor de haakjes uitdelen.

klopt, typo mijnerzijds, thx.

Dus: stel we hebben een calibrator die 300,00000 mV DC genereert.
De Fluke 179 is een 4 digit meter met de accuracy spec zoals ik eerder beschreef.
Dan mag ten gevolge van die 0,09% de uitlezing afgerondliggen tussen 299,7 en 300 ,2
Verrekenen we die 2 digits dan krijg je 299,5 en 300,4 (4 digit dmm)
Of toch 299,9 en 300,4?

Die laatste. Aldus de formules die ik in mijn edit heb geplakt. Dat heb ik gedaan om jou antwoord te voorkomen.

[muggenzift-modus]Ik zou wel als afronding 300.3 nemen. Aangezien het exacte resultaat 300.27 is.[/muggenzift-modus] En hoeveel een digit bedraagt hangt ook nog af van je meetbereik. Als ik aan mag nemen dat de maximum uitslag 999.9mV is, dan is het idd 299.9 299.5mV en 300.5mV

Je rekent eerst de afwijking uit ,wat tussen de haakjes staat.
Dus 0,09% van 300 is 0,27 ,afgerond op jou meter 0,3 daar komen twee digits bij dus ,bij jou meter krijg je dan 0,5.
Dit is voor zowel positief als negatief m.a.w. 300,5 en 299,5 mV

Gr.F_S

@FET even aangepast.

Euhm, zoals F_S zegt. Ik kan niet meer toepassen wat ik zelf heb geschreven blijkbaar.

0,09%, geen 0,9% (Ah! al gefixt). Voor de rest helemaal eens.

[Bericht gewijzigd door Frederick E. Terman op woensdag 18 mei 2016 21:54:46 (15%)]

Thx. guys. Kan ik morgen onze interne calibratieprocessen onderbouwd laten verbeteren