Какой формулой воспользовались в этом решении уравнения. 7-я строчка где прибавили и вычли 40x

Нет никакой формулы.Чтобы разложить на множители, добавили и вычитали 40 х.Чтобы можно было группировать.