home > Wissen > data-formats

zurück

Datenformat, Auflösung vs. Meßgenauigkeit

Die EHS- und VHS-Vielkanalmodule sind mit 24 bit ADC- und 20 bit DAC- Schaltkreisen bestückt. Damit ist eine hohe Präzision und hohe Auflösung der Set- und Messwerte von Spannung und Strom gewährleistet. Für den Datenaustausch kommt das Floating Point Single Precision Format nach IEEE 754 (23 bit Mantisse und 8 bit Exponent) zur Anwendung. Die Sample Rate des ADC und der Digitalfilter der Messwertverarbeitung des internen Controllers sind innerhalb gewisser Grenzen programmierbar. Damit lassen sich die Auflösung der Messwerte und die Abtastgeschwindigkeit verändern. Eine hohe Sample Rate ergibt eine schnelle Messwertaufnahme, verringert aber die Auflösung der Messwerte. Mit dem Digitalfilter kann die Messwertauflösung wieder verbessert werden.

Messwertauflösung und Messgenauigkeit sind zwei unterschiedliche Parameter. Die Messwertauflösung ist meist deutlich höher als die absolute Messgenauigkeit. Das nachfolgende Beispiel soll dies verdeutlichen:

  • EHS 82 40p (High Precision 4 kV / 2 mA)
  • Messung im Strommessbereich < 20 μA, Messfehler ±(0,01% Iout + 4 nA), Messwertausgabe: 5,02045 μA
  • der wahre Wert des Stromes liegt zwischen 5,01595 μA und 5,02495 μA.

Erhöht sich der Strom um 50 pA, so ändert sich die Messwertausgabe auf 5,02050 μA. Diese Stromänderung kann erkannt werden, auch wenn der Absolutwert deutlich ungenauer ist.

Bei Änderungen der Modultemperatur kann es zu einer Drift der angezeigten Werte von < 50 ppm/K kommen. Die absolute Messgenauigkeit gilt infolge von Alterungseffekten nur für ein Jahr. Deshalb sollten die Geräte in regelmäßigen Abständen nachkalibriert werden.