Какие значения M квадратичных двух корней равна нулю? 3x^2+(5m+3m^2)x-25+9m^2=0

Корни будут противоположными если их сумма равна 0, т.е. по теореме Виета, второй коэффициент должен быть равен 0. Т.е. 3m-15=0. Т.е. m=5. Но надо еще проверить, чтобы корни существовали, т.е. дискриминант был неотрицательным, что очевидно выполняется.