Dalle specifiche risulta che per una misura di resistenza con valore
di fondo scala (nel seguito abbreviato con FS)
,
l'incertezza è pari a
. Questa specifica è da
interpretarsi nel modo seguente:
dove
essendo il multimetro HP974A uno
strumento a 4½ cifre (
).
Nel programma si è scelto di inserire il valore di
nella posizione di
, per evidenziare il fatto che ora
l'errore di offset non può più essere semplificato nelle misure di
differenza.