Вы же изначально задали не правильный вопрос, "какой используется синтезатор", а потом понеслась амплитуда по кочкам. А нужно то было испросить, сколько мол Вольт на 50 Омах, на выходе синтезатора. И уже имея чёткий ответ, так мол и так, вольтметра нет, хз его сколько там на выходе и чего там на входе.
В дата шите же указано, что на нагрузке, активное 50 Ом при входной ёмкости не более 5 пФ, сишка выдаст 0,6 от VDD. А чего там припаяно у ТС на выход синтезатора? Фторопластовый коаксиал 1 мм диаметром или просто витая пара см. 20 длинной? и как это будет гулять по частотам? И что значит разное? 0,9 В и 0,85 В сильно разное? Конечно разное, но это же не 1,2 и 0,4.
Не имея чёткой картины проблемы, нельзя дать исчерпывающий ответ. У меня есть трансивер Радион( С.Беленецкого), с синтезатором UR3ILF с прошивкой только на 4 диапазона(TNX Андрею), а ведь в Радионе используется именно такой же смеситель как в Клопике, и амплитуды для него хватает, и уровень её стабилен по частотам.