При измерениях исследуемый диапазон разбивается на 101 часть, ну и скорее всего калибруется так же. Следовательно чем уже тем точнее.