Есть ли отдельный символ, для следующей операции? Пусть А и В множества. [latex](A\cup B)/(A\cap B)[/latex]

Да, есть.  Эта операция называется "симметрическая разность множеств" и обозначается треугольничком: A Δ B=(A∪B)\(A∩B).