с той разницей

с той разницей, что союз

Употребляется при присоединении придаточной части сложноподчиненного предложения, в которой указывается на различие с тем, о чём идет речь в главной части (при этом вычленяется наиболее существенная сторона различия).

Источник: Современный толковый словарь русского языка на Gufo.me