На сколько увеличение кабеля в два раза испортит картину?
Задача решается составлением энергетического баланса линии связи. В вашей ситуации берём текущие условия, т.е. коэффициент усиления антенны, погонное затухание в кабеле, уровень в модеме после 10 м кабеля.
Далее вычисляем уровень сигнала у антенны за минусом затухания в 10 м кабеля (ваш частный случай).
После этого подбираем кабель с таким погонным затуханием на рабочей частоте, чтобы уровень сигнала не был меньше минимально допустимого для того или иного качества связи.
Если не удаётся добиться приемлемого уровня - повышаем коэффициент усиления антенны для полной или частичной компенсации погонного затухания в кабеле.
Это всё обычная арифметика, расчётная единица dB.
P.S. ответить на вышепроцитированный вопрос можно ещё проще. Уровень сигнала станет хуже на величину, равную погонному затуханию добавленного куска кабеля плюс до 1 dB на разъёме/счалке между двумя кусками кабелей.