Судя по информации с разных форумов, в синтезах на SI5351 есть какие-то ньюансы с программированием, с выбором множителей или что-то в этом роде, сам пока не разбирался. В итоге, возможны режимы, сильно ухудшающие качество сигнала.
Я сделал клон синтезатора описанного тут: http://dspview.com/viewtopic.php?f=22&t=202
Как я понял, в описанном неудачном эксперименте, был другой.