Что я знаю, так это то, что если у вас есть два модема, один из которых задает клок, другой берет клок от первого из линии, то оба порта адаптера будут прать клок от модемов, по этой причине на том и другом должно быть extclock.
Перед тем как включить loop включите внутреннюю (задайте скорость) синхронизацию на этом порту.
Что касается параметров модемов, то тут я ничего сказать не могу. Я с ними на столько не знаком.