| Messgröße bzw. Kalibriergegenstand | Messbereich | Messbedingungen | Messunsicherheit | Bemerkungen |
|---|---|---|---|---|
| Gleichstromwiderstand Kalibrieren von Widerstands messgeräten | 1 Ω; 1,9 Ω | 0,11 · 10-3 | ||
| 10 Ω | 34 · 10-6 | |||
| 19 Ω | 33 · 10-6 | |||
| 100 Ω; 190 Ω | 22 · 10-6 | |||
| 1 kΩ; 1,9 kΩ | 18 · 10-6 | |||
| 10 kΩ | 17 · 10-6 | |||
| 19 kΩ | 24 · 10-6 | |||
| 100 kΩ | 26 · 10-6 | |||
| 190 kΩ | 34 · 10-6 | |||
| 1 MΩ; 1,9 MΩ | 0,10 · 10-3 | |||
| 10 MΩ; 19 MΩ | 0,21 · 10-3 | |||
| 100 MΩ | 0,42 · 10-3 | |||
| 1 GΩ | 3,9 · 10-3 | |||
| 10 GΩ | 4,8 · 10-3 | |||
| 100 GΩ | 6,7 · 10-3 | |||
| Kalibrieren von Widerstands messgeräten (Bereiche) | 0,01 Ω bis 10 Ω | 4 · 10-3 · R + 0,13 mΩ | R = jeweiliger Messwert | |
| >1 Ω bis 10 Ω | 39 · 10-6 · R + 0,13Ω | |||
| >10 Ω bis 100 Ω | 11 · 10-6 · R + 1,6 m~ | |||
| >100 Ω bis 100kΩ | 24 · 10-6 · R | |||
| >100kΩ bis 1MΩ | 48 · 10-6 · R | |||
| >1MΩ bis 10MΩ | 75 · 10-6 · R + 0,11 kΩ | |||
| >10MΩ bis 100MΩ | 0,72 · 10-3 · R | |||
| Gleichstromwiderstand Kalibrieren von Widerständen | > 10 mΩ bis 0,1Ω | 0,13 · 10-3 · R | R = jeweiliger Messwert | |
| > 0,1Ω bis 1Ω | 1 A | 0,12 · 10-3 · R | ||
| > 1Ω bis 10Ω | 23 · 10-6 · R + 85 µΩ | |||
| > 10Ω bis 100Ω | 13 · 10-6 · R + 0,90 mΩ | |||
| > 100Ω bis 1kΩ | 14 · 10-6 · R + 0,70 mΩ | |||
| > 1 kΩ bis 10 kΩ | 13 · 10-6 · R + 6,8 mΩ | |||
| > 10 kΩ bis 100 kΩ | 15 · 10-6 · R + 50 mΩ | |||
| > 100 kΩ bis 1MΩ | 30 · 10-6 · R + 1,8 Ω | |||
| > 1 MΩ bis 10 MΩ | 75 · 10-6 · R + 0,10 kΩ | |||
| > 10 MΩ bis 100 MΩ | 0,61 · 10-3 · R + 1 kΩ | |||
| > 100 MΩ bis 100 GΩ | 20 · 10-3 · R | |||
| 1Ω | mit HP 3458A | 12 · 10-6 | ||
| 1 kΩ | 4,4 · 10-6 | |||
| 10 kΩ | 6,7 · 10-6 |