Метрологические и технические характеристики |
Метрологические характеристики указаны в таблицах 1 и 2.
В указанных таблицах приняты следующие обозначения: z – полное сопротивление, y – полная проводимость, θ – фазовый угол, RS – последовательное сопротивление переменного тока, RP – параллельное сопротивление переменного тока, Rdc – сопротивление постоянного тока, X – реактивное сопротивление, G – активная проводимость, B – реактивная проводимость, CS – последовательная емкость, CP – параллельная емкость, LS – последовательная индуктивность, LP – параллельная индуктивность, D – тангенс угла потерь, Q – добротность, T – температура.
Таблица 1 – Метрологические характеристики измерителей IM3590, IM3570, IM3533, IM3533-01, IM3523
Показатели назначения | Обозначение приборов | Измерительная частота | Постоянный ток; переменный ток: 1 мГц – 200 кГц | Постоянный ток; переменный ток:
4 Гц – 5 МГц | Постоянный ток; переменный ток:
1 мГц – 200 кГц | Постоянный ток; переменный ток:
40 Гц – 200 кГц | Измеряемые параметры | z, y, θ, RS, RP, Rdc, X, G, B, CS, CP, LS, LP, D, Q, T | z, y, θ, RS, RP, Rdc, X, G, B, CS, CP, LS, LP, D, Q | z, y, θ, RS, RP, Rdc, X, G, B, CS, CP, LS, LP, D, Q, T | z, θ, RS, RP, Rdc, X, G, B, CS, CP, LS, LP, D, Q | Диапазон показаний
z, RS, RP, Rdc, X, Ом | 0,00∙10-3 – 9,99999∙109 | 0,000000 – 9,99999∙109 | 0,00∙10-3 – 9,99999∙109 | 0,00000 – 9,99999∙109 | y, G, B, См | 0,000∙10-9 – 9,99999∙109 | 0,000000 – 9,99999∙109 | 0,000∙10-9 – 9,99999∙109 | 0,00000 – 9,99999∙109 | θ, градус | ±0,000 - 999,999 | ±0,000 - 999,999 | ±0,000 - 999,999 | ±0,000 - 999,999 | CS, CP, Ф | 0,0000∙10-12 – 9,99999∙109 | 0,000000 – 9,99999∙109 | 0,0000∙10-12 – 9,99999∙109 | 0,00000 – 9,99999∙109 | LS, LP, Гн | 0,00000∙10-6 – 9,99999∙109 | 0,000000 – 9,99999∙109 | 0,00000∙10-6 – 9,99999∙109 | 0,00000 – 9,99999∙109 | D | 0,00000 – 9,99999 | 0,000000 – 9,999999 | 0,00000 – 9,99999 | 0,00000 – 9,99999 | Q | 0,00 – 9999,99 | 0,00 – 99999,99 | 0,00 – 9999,99 | 0,00 – 9999,99 | Диапазон измерений
(в зависимости от частоты)
z, RS, RP, Rdc, X | 10 мОм – 200 МОм | 1 мОм – 200 МОм | 10 мОм – 200 МОм | 10 мОм – 200 МОм | y, G, B | 10 нСм – 100 См | 10 нСм – 100 См | 10 нСм – 100 См | 10 нСм – 100 См | θ | минус 180° - 180° | минус 180 - 180 | минус 180° - 180° | минус 180° - 180° | CS, CP | 1 пФ – 1 Ф | 1 пФ – 1 Ф | 1 пФ – 1 Ф | 1 пФ – 1 Ф | LS, LP | 10 нГн – 10 кГн | 10 нГн – 10 кГн | 10 нГн – 10 кГн | 10 нГн – 10 кГн | D | 1·10-5 – 10 | 1·10-5 – 10 | 1·10-5 – 10 | 1·10-5 – 10 | Q | 1 – 200 | 1 – 200 | 1 – 200 | 1 – 200 | Пределы допускаемой погрешности (М)
z, RS, RP, Rdc, X, CS, CP, LS, LP, y, G, B, Q, θ, D | M=Ba∙C∙D∙E∙F∙G, где
Ba* – базовый коэффициент, С – коэффициент уровня измерительного сигнала, D – коэффициент скорости измерения, Е – коэффициент длины кабеля, F – коэффициент смещения постоянного тока (напряжения), G – температурный коэффициент. Значения коэффициентов C, D, E, F, G указаны в таблице 14 | Измерительное напряжение
Измерительный ток | 5 мВ – 5 В
10 мкА –50 мА | 5 мВ – 5 В
10 мкА – 50 мА | 5 мВ – 5 В
10 мкА – 50 мА | 5 мВ – 5 В
10 мкА – 50 мА | Быстродействие, мс | 2 | 0,5 | 2 | 2 | Напряжение питания (при частоте 50-60 Гц), В | 100 - 240 | 90 - 264 | 100 - 240 | 100 – 240 | Потребляемая мощность, В·А | 50 | 150 | 50 | 50 | Условия применения
диапазон температур окружающего воздуха, ºС
относительная влажность воздуха, не более, %
атмосферное давление, кПа | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | Средний срок службы, лет | 10 | 10 | 10 | 10 | Габаритные размеры (длина х ширина х высота), мм, не более | 330х168х119 | 330х307х119 | 330х168х119 | 260х203х88 | Масса, кг, не более | 3,1 | 5,8 | 3,1 | 2,4 | Примечание: Базовый коэффициент Ва рассчитывается по формулам (если Range ≥ 1 кОм) и (если Range < 100 Ом), где Zx – значение измеряемого импеданса в омах, Range – диапазон измерения в омах. Значения коэффициентов А и В для измерителей указаны в таблицах 4 – 7. |
Таблица 2 – Метрологические характеристики измерителей 3535, 3532-50, 3522-50, 3511-50
Показатели назначения | Обозначение приборов | Измерительная частота | 100 кГц – 120 МГц | 42 Гц – 5 МГц | Постоянный ток; переменный ток: 1 мГц – 100 кГц | 120 Гц, 1 кГц | Измеряемые параметры | z, y, θ, RS, RP, X, G, B, CS, CP, LS, LP, D, Q | z, y, θ, RS, RP, X, G, B, CS, CP, LS, LP, D, Q | z, y, θ, RS, RP, Rdc, X, G, B, CS, CP, LS, LP, D, Q | z, θ, RS, RP, CS, CP, LS, LP, D, Q | Диапазон показаний
z, RS, RP, Rdc, X, Ом | 1∙10-1 – 3∙105 | 10,00∙10-3 – 200,00∙106 | 10,00∙10-3 – 200,00∙106 | 10,0∙10-3– 200,00∙106 | y, G, B, См | 3∙10-6 – 10 | 5,0000∙10-9 – 99,999 | 5,0000∙10-9 – 99,999 | - | θ, градус | минус 180 - 180 | минус 180,00 - 180,00 | минус 180,00 - 180,00 | минус 90,00 – 90,00 | CS, CP, Ф | 4,4∙10-15 – 1,59∙10-5 | 0,3200∙10-12 – 370,00∙10-3 | 0,3200∙10-12 – 1,0000 | 0,940∙10-12 – 999,99∙10-3 | LS, LP, Гн | 1,33∙10-6 – 0,477 | 16,000∙10-9 – 750,00∙103 | 16,000∙10-9 – 750,00∙103 | 1,600∙10-6 – 200,00∙103 | D | 1·10-4 – 9,999 | 1·10-5 – 9,99999 | 1·10-5 – 9,99999 | 0,0001 – 1,9900 | Q | 1·10-1 – 999,9 | 1·10-2 – 999,99 | 1·10-2 – 999,99 | 0,85 – 999,99 | Диапазон измерений
(в зависимости от частоты)
z, RS, RP, Rdc, X | 100 мОм – 300 кОм | 10 мОм – 200 МОм | 10 мОм – 200 МОм | 10,0∙10-3– 200,00∙106 | y, G, B | 10 мкСм – 10 См | 5 нСм – 100 См | 5 нСм – 100 См | - | θ | минус 180 - 180 | минус 180 - 180 | минус 180 - 180 | минус 90,00 – 90,00 | CS, CP | 1 пФ – 16 мкФ | 1 пФ – 370 мФ | 1 пФ – 1 Ф | 0,940∙10-12 – 999,99∙10-3 | LS, LP | 10 нГн – 477 мГн | 16 нГн – 10 кГн | 10 нГн – 10 кГн | 1,600∙10-6 – 200,00∙103 | D | 1·10-4 – 10 | 1·10-5 – 10 | 1·10-5 – 10 | 0,0001 – 1,9900 | Q | 1 – 1000 | 1 – 200 | 1 – 150 | 1 – 100 | Пределы допускаемой погрешности*
z, RS, RP, Rdc, X, y, G, B, CS, CP, LS, LP, Q, θ, D | M=Ba∙C∙D∙E∙F∙G, где
Ba* – базовый коэффициент, С – коэффициент уровня измерительного сигнала,
D – коэффициент скорости измерения,
Е – коэффициент длины кабеля, F – частотная поправка,
G – температурный коэффициент | M=Ba∙D∙E∙G, где
Ba** – базовый коэффициент,
D – коэффициент скорости измерения,
Е – коэффициент длины кабеля,
G – температурный коэффициент | M=Ba∙C∙D∙E∙F∙G, где
Ba** – базовый коэффициент,
С – коэффициент уровня измерительного сигнала,
D – коэффициент скорости измерения, Е – коэффициент длины кабеля, F – коэффициент смещения постоянного тока (напряжения)
G – температурный коэффициент | M=Ba∙C∙D∙E + G, где
Ba*** – базовый коэффициент,
С – коэффициент уровня измерительного сигнала,
D – коэффициент скорости измерения, Е – коэффициент длины кабеля,
G – температурный коэффициент | Измерительное напряжение
Измерительный ток | 5 мВ – 1 В
10 мА – 20 мА | 10 мВ – 5 В
10 мкА – 100 мА | 10 мВ – 5 В
10 мкА – 100 мА | 0,05; 0,5; 1
- | Быстродействие, мс | 6 | 5 | 5 | 5 | Напряжение питания (при частоте 50-60 Гц), В | 100 – 240 | 100 – 240 | 100 – 240 | 100 – 240 | Потребляемая мощность, В·А | 50 | 50 | 40 | 20 | Условия применения
диапазон температур окружающего воздуха, ºС
относительная влажность воздуха, не более, %
атмосферное давление, кПа | 0 – 40
80
84 – 106,7 | 0 – 40
80
84 – 106,7 | 0 – 40
80
84 – 106,7 | 0 – 40
80
84 – 106,7 | Средний срок службы, лет | 10 | 10 | 10 | 10 | Габаритные размеры (длина х ширина х высота), мм, не более | 360х360х130 | 348х273х113 | 313х290х125 | 210х168х100 | Масса, кг, не более | 8,3 | 5,7 | 4,5 | 2,5 | Примечание: Значения коэффициентов C, D, E, F и G указаны в таблице 15;
* Базовый коэффициент Ва рассчитывается по формулам, указанным в приложении таблицы 1. Значения коэффициентов А и В указаны в таблице 8;
** Базовый коэффициент Ва рассчитывается по формулам (если Range ≥ 1 кОм) и (если Range < 100 Ом), где Zx – значение измеряемого импеданса в омах, Range – диапазон измерения в омах. Значения коэффициентов А и В указаны в таблицах 9 – 10;
*** Значения коэффициента Ва указаны в таблице 11. |
Таблица 3 – Метрологические характеристики измерителей 3506-10, 3505, 3504-60, 3504-50, 3504-40
Показатели назначения | Обозначение приборов | Измерительная частота | 1 кГц, 1 МГц | 1 и 100 кГц, 1 МГц | 120 Гц, 1 кГц | 120 Гц, 1 кГц | 120 Гц, 1 кГц | Измеряемые
параметры | CS, CP, D, Q | CS, CP, D, Q | CS, CP, D | CS, CP, D | CS, CP, D | Диапазон измерений
(в зависимости от частоты)
CS, CP, Ф | 0,000∙10-15 – 15,0000∙10-6 | 0,000∙10-15 – 15,0000∙10-6 | 0,9400∙10-12– 20,0000∙10-3 | 0,9400∙10-12– 20,0000∙10-3 | 0,9400∙10-12– 20,0000∙10-3 | D | 0,00001 – 1,99999 | 0,00001 – 1,99999 | 0,00001 – 1,99999 | 0,00001 – 1,99999 | 0,00001 – 1,99999 | Q | 0,0 – 19999,9 | 0,0 – 19999,9 | - | - | - | Пределы допускаемой погрешности по С, D, Q | M=Ba∙C∙D∙E∙G, где
Ba – базовый коэффициент, С – коэффициент уровня измерительного сигнала, D – коэффициент скорости измерения,
Е – коэффициент длины кабеля, G – температурный коэффициент. Значения коэффициентов указаны в таблицах 12, 13, 15. | Измерительное напряжение, В | 0,5; 1 | 0,5; 1 | 0,1; 0,5; 1 | 0,5; 1 | 0,5; 1 | Быстродействие, мс | 2 | 2 | 2 | 2 | 2 | Напряжение питания (при частоте 50-60 Гц), В | 100 - 240 | 100 - 240 | 100 – 240 | 100 – 240 | 100 – 240 | Потребляемая мощность, В·А | 40 | 40 | 110 | 110 | 110 | Условия применения
диапазон температур окружающего воздуха, ºС
относительная влажность воздуха, не более, %
атмосферное давление, кПа | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | 0 - 40
80
84 – 106,7 | Средний срок службы, лет | 10 | 10 | 10 | 10 | 10 | Габаритные размеры (длина х ширина х высота), мм, не более | 260х298х100 | 260х298х100 | 260х220х100 | 260х220х100 | 260х220х100 | Масса, кг, не более | 4,8 | 4,8 | 3,8 | 3,8 | 3,8 |
Таблица 4 – Значения для расчета коэффициента Ва измерителя IM3590
Диапазон | Постоянный ток | 1 мГц — 99,999 Гц | 100,00 Гц — 999,99 Гц | 1,000 кГц — 10,000 кГц | 10,001 кГц — 100,00 кГц | 100,01 кГц — 200,0 кГц | 100 МОм | А=1; В=1 | А=6; В=5 | А=3; В=2 | А=3; В=2 | - | - | 10 МОм | А=0,5; В=0,3 | А=0,8; В=1 | А=0,5; В=0,3 | А=0,5; В=0,3 | А=3; В=2 | - | 1 МОм | А=0,2; В=0,1 | А=0,4; В=0,08 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,7; В=0,08 | А=1; В=0,5 | 100 кОм | А=0,1; В=0,01 | А=0,3; В=0,03 | А=0,2; В=0,03 | А=0,15; В=0,02 | А=0,25; В=0,04 | А=0,4; В=0,3 | 10 кОм | А=0,1; В=0,01 | А=0,3; В=0,025 | А=0,2; В=0,025 | А=0,05; В=0,02 | А=0,2; В=0,025 | А=0,3; В=0,03 | 1 кОм | А=0,1; В=0,01 | А=0,3; В=0,02 | А=0,2; В=0,02 | А=0,15; В=0,02 | А=0,2; В=0,02 | А=0,3; В=0,02 | 100 Ом | А=0,1; В=0,02 | А=0,4; В=0,02 | А=0,3; В=0,02 | А=0,15; В=0,02 | А= 0,2; В=0,02 | А=0,3; В=0,03 | 10 Ом | А=0,2; В=0,15 | А=0,5; В=0,2 | А=0,4; В=0,05 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,4; В=0,2 | 1 Ом | А=0,3; В=0,3 | А=2; В=1 | А=0,6; В=0,3 | А=0,4; В=0,3 | А=0,4; В=0,3 | А=1; В=1 | 100 мОм | А=3; В=3 | А=10; В=10 | А=3; В=3 | А=3; В=2 | А=2; В=2 | А=4; В=3 | Примечание: Здесь и далее коэффициенты А и В в верхней строке диапазона используются для расчета пределов допускаемой погрешности z, RS, RP, Rdc, X, y, G, B, CS, CP, LS, LP, в нижней строке диапазона – для θ, Q, D |
Таблица 5 – Значения для расчета коэффициента Ва измерителя IM3570
Диапазон | Постоянный ток | 4 Гц – 99,9 Гц | 100 Гц – 999,99 Гц | 1 кГц – 10 кГц | 10,01 кГц – 100 кГц | 100,1 кГц – 1 МГц | 1,001 МГц – 5 МГц | 100 МОм | А=4; В=6 | А=6; В=5 | А=3; В=2 | А=3; В=2 | А=8; В=4 | - | - | 10 МОм | А=0,5; В=0,3 | А=0,8; В=1 | А=0,5; В=0,3 | А=0,5; В=0,3 | А=1; В=0,7 | А=3; В=2 | - | 1 МОм | А=0,2; В=0,1 | А=0,4; В=0,08 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,3; В=0,08 | А=1; В=0,5 | А=2; В=1 | 100 кОм | А=0,1; В=0,01 | А=0,3; В=0,01 | А=0,2; В=0,01 | А=0,15; В=0,01 | А=0,25; В=0,04 | А=0,4; В=0,3 | А=2; В=0,5 | 30 кОм | А=0,1; В=0,01 | А=0,3; В=0,01 | А=0,2; В=0,005 | А=0,12; В=0,005 | А=0,25; В=0,01 | А=0,4; В=0,05 | А=2; В=0,1 | 10 кОм | А=0,1; В=0,01 | А=0,3; В=0,01 | А=0,2; В=0,01 | А=0,12; В=0,005 | А=0,2; В=0,02 | А=0,3; В=0,03 | А=1,5; В=0,2 | 3 кОм | А=0,1; В=0,01 | А=0,3; В=0,02 | А=0,2; В=0,005 | А=0,12; В=0,005 | А=0,2; В=0,005 | А=0,3; В=0,01 | А=1,5; В=0,02 | 1 кОм | А=0,1; В=0,01 | А=0,3; В=0,02 | А=0,2; В=0,01 | А=0,1; В=0,005 | А=0,2; В=0,01 | А=0,3; В=0,01 | А=1,5; В=0,01 | 300 Ом | А=0,1; В=0,02 | А=0,4; В=0,02 | А=0,3; В=0,02 | А=0,08; В=0,02 | А=0,2; В=0,02 | А=0,3; В=0,03 | А=1,5; В=0,05 | 10 Ом | А=0,2; В=0,15 | А=0,5; В=0,2 | А=0,4; В=0,05 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,4; В=0,2 | А=2; В=1,5 | 1 Ом | А=0,3; В=0,3 | А=2; В=1 | А=0,6; В=0,3 | А=0,4; В=0,3 | А=0,4; В=0,3 | А=1; В=1 | А=3; В=3 | 100 мОм | А=3; В=2 | А=10; В=10 | А=3; В=3 | А=3; В=2 | А=2; В=2 | А=4; В=3 | - |
Таблица 6 - Значения для расчета коэффициента Ва измерителей IM3533, IM3533-01
Диапазон | Постоянный ток | 1 мГц — 99,999 Гц | 100,00 Гц — 999,99 Гц | 1,000 кГц — 10,000 кГц | 10,001 кГц — 100,00 кГц | 100,01 кГц — 200,0 кГц | 100 МОм | А=1; В=1 | А=6; В=5 | А=3; В=2 | А=3; В=2 | - | - | 10 МОм | А=0,5; В=0,3 | А=0,8; В=1 | А=0,5; В=0,3 | А=0,5; В=0,3 | А=3; В=2 | - | 1 МОм | А=0,2; В=0,1 | А=0,4; В=0,08 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,7; В=0,08 | А=1; В=0,5 | 100 кОм | А=0,1; В=0,01 | А=0,3; В=0,03 | А=0,2; В=0,03 | А=0,15; В=0,02 | А=0,25; В=0,04 | А=0,4; В=0,3 | 10 кОм | А=0,1; В=0,01 | А=0,3; В=0,025 | А=0,2; В=0,025 | А=0,05; В=0,02 | А=0,2; В=0,025 | А=0,3; В=0,03 | 1 кОм | А=0,1; В=0,01 | А=0,3; В=0,02 | А=0,2; В=0,02 | А=0,15; В=0,02 | А=0,2; В=0,02 | А=0,3; В=0,02 | 100 Ом | А=0,1; В=0,02 | А=0,4; В=0,02 | А=0,3; В=0,02 | А=0,15; В=0,02 | А= 0,2; В=0,02 | А=0,3; В=0,03 | 10 Ом | А=0,2; В=0,15 | А=0,5; В=0,2 | А=0,4; В=0,05 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,4; В=0,2 | 1 Ом | А=0,3; В=0,3 | А=2; В=1 | А=0,6; В=0,3 | А=0,4; В=0,3 | А=0,4; В=0,3 | А=1; В=1 | 100 мОм | А=3; В=3 | А=10; В=10 | А=3; В=3 | А=3; В=2 | А=2; В=2 | А=4; В=3 |
Таблица 7 - Значения для расчета коэффициента Ва измерителя IM3523
Диапазон | Постоянный ток | 40 Гц — 99,999 Гц | 100,00 Гц — 999,99 Гц | 1,000 кГц — 10,000 кГц | 10,001 кГц — 100,00 кГц | 100,01 кГц — 200,00 кГц | 100 МОм | А=1; В=1 | А=6; В=5 | А=3; В=2 | А=3; В=2 | - | - | 10 МОм | А=0,5; В=0,3 | А=0,8; В=1 | А=0,5; В=0,3 | А=0,5; В=0,3 | А=3; В=2 | - | 1 МОм | А=0,2; В=0,1 | А=0,4; В=0,08 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,7; В=0,08 | А=1; В=0,5 | 100 кОм | А=0,1; В=0,01 | А=0,3; В=0,03 | А=0,2; В=0,03 | А=0,15; В=0,02 | А=0,25; В=0,04 | А=0,4; В=0,3 | 10 кОм | А=0,1; В=0,01 | А=0,3; В=0,025 | А=0,2; В=0,025 | А=0,05; В=0,02 | А=0,2; В=0,025 | А=0,3; В=0,03 | 1 кОм | А=0,1; В=0,01 | А=0,3; В=0,02 | А=0,2; В=0,02 | А=0,15; В=0,02 | А=0,2; В=0,02 | А=0,3; В=0,02 | 100 Ом | А=0,1; В=0,02 | А=0,4; В=0,02 | А=0,3; В=0,02 | А=0,15; В=0,02 | А= 0,2; В=0,02 | А=0,3; В=0,03 | 10 Ом | А=0,2; В=0,15 | А=0,5; В=0,2 | А=0,4; В=0,05 | А=0,3; В=0,05 | А=0,3; В=0,05 | А=0,4; В=0,2 | 1 Ом | А=0,3; В=0,3 | А=2; В=1 | А=0,6; В=0,3 | А=0,4; В=0,3 | А=0,4; В=0,3 | А=1; В=1 | 100 мОм | А=3; В=3 | А=10; В=10 | А=3; В=3 | А=3; В=2 | А=2; В=2 | А=4; В=3 |
Таблица 8 - Значения для расчета коэффициента Ва измерителя IM3535
Диапазон | Коэффициенты А и В | 10 кОм – 100 кОм | - | - | А=3,00; В=0,30 | 5 кОм – 10 кОм | - | А=1,50; В=0,15 | 1 кОм – 5 кОм | - | 500 Ом – 1 кОм | А=0,75; В=0,15 | 100 Ом – 500 Ом | 100 мОм – 100 Ом | А=0,75; В=0,15 | - | - |
Таблица 9 - Значения для расчета коэффициента Ва измерителя 3532-50
Диапазон | 42 Гц – 99,9 Гц | 100 Гц – 1 кГц | 1,00 кГц – 10 кГц | 10,01 кГц – 100 кГц | 100,1 кГц – 1 МГц | 1,001 МГц – 5 МГц | 100 МОм | А=6; В=6 | А=3; В=3 | А=3; В=3 | - | - | - | 10 МОм | А=1,2; В=0,6 | А=0,6; В=0,3 | А=0,6; В=0,3 | А=1,5; В=0,75 | - | - | 1 МОм | А=0,6; В=0,075 | А=0,225; В=0,075 | А=0,225; В=0,075 | А=0,45; В=0,12 | А=4,5; В=1,5 | - | 100 кОм | А=0,525; В=0,015 | А=0,12; В=0,015 | А=0,225; В=0,015 | А=0,375; В=0,06 | А=0,6; В=0,45 | А=3; В=0,75 | 10 кОм | А=0,525; В=0,015 | А=0,12; В=0,015 | А=0,12; В=0,015 | А=0,3; В=0,03 | А=0,45; В=0,045 | А=2,25; В=0,3 | 1 кОм | А=0,525; В=0,015 | А=0,12; В=0,015 | А=0,12; В=0,015 | А=0,3; В=0,03 | А=0,45; В=0,045 | А=2,25; В=0,3 | 100 Ом | А=0,525; В=0,03 | А=0,12; В=0,03 | А=0,12; В=0,03 | А=0,3; В=0,03 | А=0,45; В=0,045 | А=2,25; В=0,3 | 10 Ом | А=0,6; В=0,06 | А=0,3; В=0,045 | А=0,3; В=0,045 | А=0,3; В=0,045 | А=0,6; В=0,15 | А=3; В=1,5 | 1 Ом | А=1,05; В=0,6 | А=0,6; В=0,45 | А=0,6; В=0,45 | А=0,6; В=0,45 | А=1,5; В=1,5 | - | 100 мОм | А=6; В=6 | А=4,5; В=3 | А=4,5; В=3 | А=4,5; В=3 | - | - |
Таблица 10 - Значения для расчета коэффициента Ва измерителя 3522-50
Диапазон | Постоянный ток | 1 мГц — 99,99 Гц | 100,0 Гц —
999,9 Гц | 1,000 кГц — 10,00 кГц | 10,01 кГц — 100,00 кГц | 100 МОм | А=1; В=1 | А=7; В=5 | А=4,5; В=1 | А=4,5; В=1 | - | 10 МОм | А=0,5; В=0,3 | А=2; В=0,5 | А=0,7; В=0,4 | А=0,7; В=0,4 | А=1,5; В=0,5 | 1 МОм | А=0,2; В=0,05 | А=0,7; В=0,03 | А=0,25; В=0,03 | А=0,2; В=0,03 | А=0,7; В=0,03 | 100 кОм | А=0,1; В=0,01 | А=0,4; В=0,01 | А=0,2; В=0,002 | А=0,15; В=0,002 | А=0,35; В=0,01 | 10 кОм | 1 кОм | 100 Ом | А=0,1; В=0,02 | А=0,36; В=0,01 | А=0,15; В=0,01 | А=0,15; В=0,01 | А= 0,15; В=0,02 | 10 Ом | А=0,2; В=0,05 | А=0,5; В=0,04 | А=0,25; В=0,02 | А=0,25; В=0,01 | А=0,35; В=0,02 | 1 Ом | А=0,3; В=0,3 | А=1; В=0,6 | А=0,5; В=0,3 | А=0,35; В=0,2 | А=0,7; В=0,3 | 100 мОм | А=3; В=2 | А=7; В=4 | А=3,5; В=1,5 | А=2,5; В=1,5 | А=3,5; В=1,5 |
Таблица 11 - Значения коэффициента Ва измерителя 3511-50
| Частота | Диапазоны | | | 1,00+0,15/ZL | 1,80 | 0,35 | 0,08 | 0,08 | 0,11 | 0,14 | 0,30 | 0,15+0,16∙ZH | 2,0+0,11∙ZH | R | - | 1,00+0,31/RL | 2,10 | 0,39 | 0,10 | 0,09 | 0,13 | 0,16 | 0,34 | 0,15+0,20∙RH | 2,0+0,16∙RH | | 120 Гц | 1 Ф | 14,5 мФ | 1,45 мФ | 145 мкФ | 14,5 мкФ | 1,45 мкФ | 145 нФ | 14,5 нФ | 1,45 нФ | 145 пФ | C-D | C | 0,60+1,50∙f∙CH | 2,10 | 0,39 | 0,10 | 0,09 | 0,13 | 0,16 | 0,34 | 0,17+30/(f∙CL) | 0,17+30/(f∙CL) | | 120 Гц | 130 мкГн | 1,3 мГн | 13 мГн | 130 мГн | 1,3 Гн | 13 Гн | 130 Гн | 1,3 кГн | 13 кГн | 200 кГн | L-D | L | 0,90+30/(f∙LL) | 2,10 | 0,39 | 0,10 | 0,09 | 0,13 | 0,16 | 0,34 | 0,17+1,17∙f∙LH | 2,0+1,0∙f∙LH | ZL - импеданс измеряемого объекта в омах, ZH - импеданс измеряемого объекта в мегаомах, RL – сопротивление измеряемого объекта в омах, RH – сопротивление измеряемого объекта в мегаомах, CH – емкость измеряемого объекта в милифарадах, CL - емкость измеряемого объекта в пикофарадах, LL – индуктивность измеряемого объекта в микрогенри, LH - индуктивность измеряемого объекта в килогенри, f – частота в килогерцах |
Таблица 12 - Значения коэффициента Ва измерителей 3506-10, 3505
Диапазон емкости | Коэффициент Ва | 220 фФ | C | - | - | 0,2 ∙Cx +1 ∙Cr | 470 фФ | C | - | - | 0,15 ∙Cx +0,3 ∙Cr | 1 пФ | C | - | 0,5 ∙Cx +0,5 ∙Cr | 0,12 ∙Cx +0,16 ∙Cr | 2,2 пФ | C | - | 0,3 ∙Cx +0,2 ∙Cr | 0,12 ∙Cx +0,08 ∙Cr | 4,7 пФ | C | - | 0,25 ∙Cx +0,15 ∙Cr | 0,12 ∙Cx +0,04 ∙Cr | 10 пФ | C | - | 0,25 ∙Cx +0,1 ∙Cr | 0,12 ∙Cx +0,02 ∙Cr | 22 пФ | C | - | 0,25 ∙Cx +0,06 ∙Cr | 0,12 ∙Cx +0,02 ∙Cr | 47 пФ | C | - | 0,25 ∙Cx +0,06 ∙Cr | 0,12 ∙Cx +0,02 ∙Cr | 100 пФ | C | 0,12∙Cx +0,2 ∙Cr | 0,15 ∙Cx +0,06 ∙Cr | 0,12 ∙Cx +0,02 ∙Cr | 220 пФ | C | 0,12 ∙Cx +0,08 ∙Cr | 0,15 ∙Cx +0,04 ∙Cr | 0,12 %rdg+0,02 ∙Cr | 470 пФ | C | 0,12 ∙Cx +0,04 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | 0,12 ∙Cx +0,02 ∙Cr | 1 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | 0,12 ∙Cx +0,02 ∙Cr | 2,2 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | - | 4,7 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | - | 10 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | - | 22 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | - | 47 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,15 ∙Cx +0,02 ∙Cr | - | 100 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | 0,2 ∙Cx +0,02 ∙Cr | - | 220 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | - | - | 470 нФ | C | 0,12 ∙Cx +0,02 ∙Cr | - | - | 1 мкФ | C | 0,12 ∙Cx +0,02 ∙Cr | - | - | 2,2 мкФ | C | 0,12 ∙Cx +0,02 ∙Cr | - | - | 4,7 мкФ | C | 0,12 ∙Cx +0,02 ∙Cr | - | - | 10 мкФ | C | 0,12 ∙Cx +0,02 ∙Cr | - | - | Cr – диапазон емкости, Cx – измеренное значение емкости |
Таблица 13 - Значения коэффициента Ва измерителей 3504-60, 3504-50, 3504-40
№ диапазона | Диапазон емкости | Коэффициент Ва | 1 | 200 пФ | 20 пФ | C | 0,2∙Cx+300 е.м.р. | 0,2∙Cx+300 е.м.р. | 2 | 2 нФ | 200 пФ | C | 0,2∙Cx+60 е.м.р. | 0,2∙Cx+60 е.м.р. | 3 | 20 нФ | 2 нФ | C | 0,16∙Cx+20 е.м.р. | 0,14∙Cx+20 е.м.р. | 4 | 200 нФ | 20 нФ | C | 0,15∙Cx+15 е.м.р. | 0,13∙Cx+15 е.м.р. | 5 | 2 мкФ | 200 нФ | C | 0,15∙Cx+15 е.м.р. | 0,13∙Cx+15 е.м.р. | 6 | 20 мкФ | 2 мкФ | C | 0,15∙Cx+15 е.м.р. | 0,09∙Cx+10 е.м.р. | 7 | 200 мкФ | 20 мкФ | C | 0,25∙Cx+20 е.м.р. | 0,13∙Cx+15 е.м.р. | 8 | 0,7 мФ (1 В), 1,45 мФ (500 и 100 мВ) | 70 мкФ (1 В), 170 мкФ (500 и 100 мВ) | C | 1,2∙Cx+50 е.м.р. | 0,7∙Cx+40 е.м.р. | 9 | 2 мФ | 200 мкФ | C | 1,2∙Cx+50 е.м.р. | 0,7∙Cx+40 е.м.р. | 10 | 20 мФ | 2 мФ | C | 2,5∙Cx+50 е.м.р. | 2,0∙Cx+40 е.м.р. | CH – емкость измеряемого объекта в милифарадах, CL - емкость измеряемого объекта в пикофарадах, Cx – измеренное значение емкости, е.м.р. – единица младшего разряда |
Таблица 14 – Значения коэффициентов C, D, E, F и G измерителей IM3590, IM3570, IM3533, IM3533-01, IM3523
Наименование коэффи-циента | Дополнительные условия | Обозначение приборов | С | При измерении на переменном токе
0,005 В — 0,999 В
1 В
1,001 В — 5В | 1+0,2/V
1
1+2/V | (при Range ≤ 30 кОм) – 1+0,1/V
(при Range >100 кОм) – 1+0,3/V
1 | 1+0,2/V
1
1+2/V | 1+0,2/V
1
1+2/V | 1+0,2/V
1
1+2/V | D | При измерении на переменном токе
FAST
MED/NORMAL
SLOW
SLOW2 | 8
4
2
1 | 8
4
2
1 | 8
4
2
1 | 8
4
2
1 | 8
4
2
1 | E | Длина кабеля, м
0 | 1 | 1 | 1 | 1 | 1 | F | DC bias в режиме OFF | 1 | G | При использовании от 18 ºС до 28 ºС | 1 |
Таблица 15 – Значения коэффициентов C, D, E, F и G измерителей 3535, 3532-50, 3522-50, 3511-50, 3506-10, 3505, 3504-60, 3504-50, 3504-40
Наименование коэффи-циента | Дополнительные условия | Обозначение приборов | С | 5 мВ – 1 В
10 мВ - 200 мВ
201 мВ - 500 мВ
501 мВ - 0,9 В
1 В - 5 В | 10-3·logV | - | -
3
2
1,5
1 | - | - | - | D | FAST
NORMAL
SLOW
SLOW2 | 5+150/V
3+100/V
1,5+30/V
1 | 5
2
1,5
1 | 5
2
1,5
1 | 3
1,5
1
- | 1,5
1,2
1
- | 1,5
1,0 (f=1 кГц, V=1 В)
1,2 (f = 120 Гц, V=100 и 500 мВ)
1
- | E | Длина кабеля, м
0 | 1 | 1 | | 1 | 1 | 1 | F | | (при f ≤ 10 МГц) log f + 2;
(при f> 10 МГц) 10×log f - 7 | - | - | - | - | - | G | При использовании от 18 ºС до 28 ºС | 1 | | |
|