-x^4+3x^2-11 как это сделать?

если это уравнение, и выражение=0, то t=x^2 -t^2+3t-11=0 D=9-44<0 => решения нет

Биквадратное уравнение. Для простоты домножить на -1 и приравнять к нулю. Затем переводим в квадратное уравнение при помощи параметра t => x^2 = t. Вот, что получится: t^2 - 3t + 11 = 0. Далее, решаем через дискриминант, т.к. через теорему Виета корни подобрать не получится. D = b2 - 4ac. D = 9 - 44 = -35. D < 0 => корней нет. Ответ: (-∞; ∞).