Можно ли в этой дроби сократить х-5? [latex] \frac{(x-5)^2-20}{x-5} [/latex]

нет, нельзя. в числителе находится разница выражений, (х-5) является уменьшаемым. а сокращать можно множители.

Сокращение дроби возможно только при условии, если сокращаются множители числителя и знаменателя. В данном случае то, что Вы хотите сократить, является уменьшаемым, значит, сокращать х-5 нельзя.