И тут я в тупике, либо я неправильно начал, либо нестыковка где-то, помогите с этим ?

Перед тем, как решать уравнение (пример), нужно увидеть формулу (разность квадратов, квадрат разности и т.д.).