Messgröße bzw. Kalibriergegenstand |
Messbereich | Messbedingungen | Messunsicherheit | Bemerkungen |
---|---|---|---|---|
Gleichspannung | 1 V | 1,5 . 10-6 |
U = jeweiliger Messwert |
|
1,018 V | 1,9 . 10-6 | |||
10 V | 1,2 . 10-6 | |||
Kalibrieren von Spannungsmessgeräten |
0 V | 0,75 µV | ||
0 mV bis 2 mV | 1,2 µV | |||
>2 mV bis 100 mV | 0,86 · 10-3 · U | |||
>100 mV bis 220 mV | 0,12 · 10-3 · U | |||
>220 mV bis 2,2 V | 11 · 10-6 · U + 1 µV | |||
>2,2 V bis 11 V | 13 · 10-3 · U | |||
>11 V bis 22 V | 13 · 10-3 · U | |||
>22 V bis 220 V | 14 · 10-3 · U+ 67 µV | |||
>220 bis 1100 V | 23 · 10-3 · U + 0,3 mV | |||
>1100 V bis 35 kV | 0,8 % . U | |||
Kalibrieren von Spannungsquellen |
0mVbis 2 mV | direkte Messung | 0,6 µV | |
>2 mV bis 10 mV | 0,67 · 10-3 · U | |||
>10 mV bis 0,1 V | direkte Messung | 16 · 10-6 · U + 0,4 µV | ||
>0,1V bis 0,22 V | Substitutionsmessung | 13 · 10-6 · U + 0,64 µV | ||
>0,22 V bis 1 V | direkte Messung | 9 · 10-6 · U + 1,8 µV | ||
> 1 V bis 10 V | direkte Messung | 9,6 · 10-6 · U + 2 µV | ||
>10 V bis 22 V | Substitutionsmessung | 13 · 10-3 · U | ||
>22 V bis 100 V | direkte Messung | 12 · 10-6 · U + 32 µV | ||
>100 V bis 220 V | Substitutionsmessung | 14 · 10-6 · U + 32 µV | ||
>220 V bis 1000 V | Substitutionsmessung | 23 · 10-6 · U + 0,3 mV | ||
>1000 V bis 200 kV | Substitutionsmessung | 1,0 % . U | ||
Gleichstromstärke Kalibrieren von Strommessgeräten |
0 A bis 1 pA | mit Keithley 263 | 0,03 pA |
I = jeweiliger Messwert |
>1 pA bis 20 pA | 30 · 10-3 · I | |||
>20 pA bis 200 pA | 10 · 10-3 · I | |||
>200 pA bis 20 nA | 5,2 · 10-3 · I | |||
>20 nA bis 10 µA | 0,34 · 10-3 · I | |||
10 µA bis 220 µA | 71 · 10-6 · I + 9,1 nA | |||
>220 µA bis 2,2 mA | 76 · 10-6 · I + 7,8 nA | |||
>2,2 mA bis 22 mA | 76 · 10-6 · I + 7,8 nA | |||
>22 mA bis 220 mA | 0,11 · 10-3 · I | |||
220 mA bis 1 A | 0,12 ·10 -3 · I | |||
>1 A bis 2,2 A | 0,17 · 10 -3 · I | |||
>2,2 A bis 5 A | 0,39 · 10-3 · I + 0,14 mA | |||
>5 A bis 10 A | 0,34 · 10-3 · I + 0,41 mA | |||
>10 A bis 20 A | 0,39 · 10-3 · I | |||
10 A bis 150 A | 0,02% | |||
10A bis580A | 0,10% | |||
Kalibrieren von Stromquellen und Kalibratoren |
||||
0 pA bis 20 pA | 30 · 10-3 · I | |||
>20 pA bis 200 pA | 21 · 10-3 · I | |||
>200 pA bis 20 nA | 6,1 · 10-3 · I | |||
>20 nA bis 200 nA | 3 · 10-3 · I | |||
>200 nA bis 10 µA | 2 · 10-3 · I | |||
10 µA bis 100 µA | direkte Messung | 80 · 10-6 · I + 0,6 nA | ||
>100 µA bis 1 mA | 45 · 10-6 · I + 4,5 nA | |||
>1 mA bis 10 mA | 45 · 10-6 · I + 4,5 nA | |||
>10 mA bis 100 mA | 56 · 10-6 · I + 0,5 µA | |||
>100 mA bis 1 A | 0,16 · 10-3 · I + 10 µA | |||
1A bis 5 A | mit Shunt | 0,41 · 10-3 · I + 53 µA | ||
>5 A bis 10 A | 0,34 · 10-3 · I + 0,41 mA | |||
>10 A bis 20 A | 0,39 · 10-3 · I | |||
10 A bis 300 A | 1% |