Если у Вас стоит DDS AD9851, то в ней происходит умножение опорной частоты в 6 раз. Так что 20 МГц поставить можно, будет опорная частота 120МГц, это значение и установите в Сетапе программы. 39,8МГц будет слишком много, DDS не потянет.
Юрий.
P.S. C DDS получается достаточно качественный сигнал с частотой в 3 раза ниже опорной, поэтому если поставите генератор на 20МГц, Ваш прибор будет работать до 40МГц.