Знаменатель всегда положительный, а вот что делать с числителем? Пытался идти через квадратное уравнение и относительно a и cos(2x), но дискриминант получался отвратительным)

Так как знаменатель всегда положительный, то можно на него домножить. Получится квадратный трехчлен относительно а.  Промежуток для корней означает, что косинус(2х) изменяется в пределах от 1/2 (это косинус(-7пи на 3) ) до 1 (это косинус(-4пи) ). Попробуй обозначить этот косинус буквой зю, выразить косинус(4х) через зю. И дальше решать квадратное уравнение относительно а с параметром зю в пределах от 1/2 до 1.