Добрый день. Если очень хочется, то использовать кабель XLR-RCA, конечно же, можно, но не вижу в этом особого смысла, т.к. нет по сути полностью балансной схемы при этом.
Я бы рекомендовал классическое подключение RCA-RCA.