2cos^2*3x-5cos*3x-3=0

2*cos^2(3x)-5cos3x-3=0 Делаем замену: cos3x=t,тогда: 2t^2-5t-3=0 t=-1/2 t=3 не подходит, так как косинус принимает значения от -1 до 1 включительно. cos3x=-1/2 3x=+-2П/3+2Пn x=+-2П/9+2Пn/3,n принадлежит Z.