Нужно вынести множитель из-под знака корня: √9*х^3*у^5 (это все под корнем, а не только 9) Если х меньше 0 и у меньше 0.

[latex] \sqrt{x^2} =|x|= \left \{ {{x,\; esli\; x \geq 0} \atop {-x,\; esli\; x\ \textless \ 0}} \right. \\\\x\ \textless \ 0 \; , y\ \textless \ 0\; \; \Rightarrow \; \; \sqrt{x^2}=|x|=-x\; ,\\\\ \sqrt{y^2}=|y|=-y\; \; \to \; \; \sqrt{y^4} =\sqrt{y^2\cdot y^2} =|y|\cdot |y|=|y|^2=(-y)^2=y^2[/latex]  [latex]\sqrt{9x^3y^5}= 3\cdot \sqrt{x^2\cdot x\cdot y^4\cdot y} =3\cdot |x|\cdot |y|^2\sqrt{xy} =[/latex] [latex]=3\cdot (-x)\cdot y^2\sqrt{xy}=-3xy^2\sqrt{xy}[/latex]