Home Messunsicherheiten Seite 1/10

Messunsicherheiten Seite 1/10

Messgröße bzw.
Kalibriergegenstand		 Messbereich Messbedingungen Messunsicherheit Bemerkungen
Gleichspannung 1 V   1,5 . 10-6 U = jeweiliger
Messwert
1,018 V 1,9 . 10-6
10 V 1,2 . 10-6
Kalibrieren von
Spannungsmessgeräten		 0 V   0,75 µV
0 mV bis 2 mV 1,2 µV
>2 mV bis 100 mV 0,86 · 10-3 · U
>100 mV bis 220 mV 0,12 · 10-3 · U
>220 mV bis 2,2 V 11 · 10-6 · U + 1 µV
>2,2 V bis 11 V 13 · 10-3 · U
>11 V bis 22 V 13 · 10-3 · U
>22 V bis 220 V 14 · 10-3 · U+ 67 µV
>220 bis 1100 V 23 · 10-3 · U + 0,3 mV
>1100 V bis 35 kV 0,8 % . U
Kalibrieren von
Spannungsquellen		 0mVbis 2 mV direkte Messung 0,6 µV
>2 mV bis 10 mV   0,67 · 10-3 · U
>10 mV bis 0,1 V direkte Messung 16 · 10-6 · U + 0,4 µV
>0,1V bis 0,22 V Substitutionsmessung 13 · 10-6 · U + 0,64 µV
>0,22 V bis 1 V direkte Messung 9 · 10-6 · U + 1,8 µV
> 1 V bis 10 V direkte Messung 9,6 · 10-6 · U + 2 µV
>10 V bis 22 V Substitutionsmessung 13 · 10-3 · U
>22 V bis 100 V direkte Messung 12 · 10-6 · U + 32 µV
>100 V bis 220 V Substitutionsmessung 14 · 10-6 · U + 32 µV
>220 V bis 1000 V Substitutionsmessung 23 · 10-6 · U + 0,3 mV
>1000 V bis 200 kV Substitutionsmessung 1,0 % . U
Gleichstromstärke
Kalibrieren von
Strommessgeräten		 0 A bis 1 pA mit Keithley 263 0,03 pA I = jeweiliger
Messwert
>1 pA bis 20 pA 30 · 10-3 · I
>20 pA bis 200 pA 10 · 10-3 · I
>200 pA bis 20 nA 5,2 · 10-3 · I
>20 nA bis 10 µA 0,34 · 10-3 · I
10 µA bis 220 µA   71 · 10-6 · I + 9,1 nA
>220 µA bis 2,2 mA 76 · 10-6 · I + 7,8 nA
>2,2 mA bis 22 mA 76 · 10-6 · I + 7,8 nA
>22 mA bis 220 mA 0,11 · 10-3 · I
220 mA bis 1 A 0,12 ·10 -3 · I
>1 A bis 2,2 A 0,17 · 10 -3 · I
>2,2 A bis 5 A 0,39 · 10-3 · I + 0,14 mA
>5 A bis 10 A 0,34 · 10-3 · I + 0,41 mA
>10 A bis 20 A 0,39 · 10-3 · I
10 A bis 150 A 0,02%
10A bis580A 0,10%
Kalibrieren von
Stromquellen und
Kalibratoren		  
0 pA bis 20 pA 30 · 10-3 · I
>20 pA bis 200 pA 21 · 10-3 · I
>200 pA bis 20 nA 6,1 · 10-3 · I
>20 nA bis 200 nA 3 · 10-3 · I
>200 nA bis 10 µA 2 · 10-3 · I
10 µA bis 100 µA direkte Messung 80 · 10-6 · I + 0,6 nA
>100 µA bis 1 mA 45 · 10-6 · I + 4,5 nA
>1 mA bis 10 mA 45 · 10-6 · I + 4,5 nA
>10 mA bis 100 mA 56 · 10-6 · I + 0,5 µA
>100 mA bis 1 A 0,16 · 10-3 · I + 10 µA
1A bis 5 A mit Shunt 0,41 · 10-3 · I + 53 µA
>5 A bis 10 A 0,34 · 10-3 · I + 0,41 mA
>10 A bis 20 A 0,39 · 10-3 · I
10 A bis 300 A   1%

Kommentare sind geschlossen.