Учебное пособие: Численные методы для решения нелинейных уравнений
Методы простой итерации, Зейделя, модифицированный метод Ньютона, метод наискорейшего спуска (см. [1] , [2] , [3] , [4] ) являются методами первого порядка – это значит, что имеет место неравенство 
, k =1, 2, . . . , где 
– константа, своя у каждого метода, зависящая от выбора начального приближения 
, функции fi , i = 1, 2, . . . , n , и их частных производных первого и второго порядков – точнее их оценок в некоторой окрестности искомого решения, которой принадлежит начальное приближение.
Метод Ньютона является методом второго порядка, то есть для него имеет место неравенство 
, k =1, 2, . . . , где 
– константа, зависящая от тех же величин, что и константа 
.
А теперь рассмотрим достаточные условия сходимости метода простой итерации и метода Ньютона.
Сходимость процесса простой итерации зависит от двух условий. Первое условие состоит в том, что какая-нибудь точка 
должна оказаться близкой к исходному решению 
. Степень необходимой близости зависит от функций j 1 , j 2 , . . . , j n . Это требование не относится к системам линейных уравнений, для которых сходимость процесса простой итерации зависит только от второго условия.
Второе условие связано с матрицей, составленной из частных производных первого порядка функций j 1 , j 2 , . . . , j n – матрицей Якоби
,
вычисленных в точке .
В случае, когда рассматривается система линейных алгебраических уравнений, матрица M состоит из постоянных чисел – коэффициентов, стоящих при неизвестных в правой части уравнения (3) . В случае нелинейных уравнений элементы 
матрицы M зависят, вообще говоря, от 
. Для сходимости процесса простой итерации достаточно, чтобы выполнялось неравенство: 
для 
из некоторой окрестности точного решения , которой должно принадлежать начальное приближение .
Приведем также достаточные условия сходимости метода Ньютона для системы уравнений вида (2) по норме 
.
Предположим, что имеется начальное приближение 
к искомому решению системы (2) 
, функции 
непрерывны и имеют непрерывные частные производные до второго порядка в шаре 
, тогда, если выполнены условия:
1) Матрица Якоби 
системы (2) на начальном приближении имеет обратную 
и известна оценка нормы обратной матрицы 
,
2) Для всех точек шара выполнено неравенство
при i , j = 1, 2, . . . , n ,
3) Выполнено неравенство
,
где L – постоянная 0 £ L £ 1,
4) Числа b , N , r подчинены условию a = nbNr < 0,4, тогда система уравнений (2) в шаре 
имеет единственное решение, к которому сходятся последовательные приближения (8) или (7’) , (9’) .
Для других методов условия сходимости имеют сложный вид, и мы отсылаем читателя к специальной литературе [1] , [2] , [3] , [4] .
6. Примерный перечень возможных исследований
1) Сравнение различных методов на экономичность при решении конкретной задачи:
· по числу операций на одной итерации;
· по числу итераций, необходимых для достижения заданной точности;
2) Зависимость числа итераций для достижения заданной точности:
· от выбора вида нормы;
· от выбора критерия окончания итерационного процесса по 
или по невязке 
;
· от выбора начального приближения;
· от погрешности задания коэффициентов в уравнении.
7. Контрольные вопросы
1) Понятие о нелинейных системах уравнений в Rn .
2) Понятие приближенного и точного решения нелинейной системы уравнений.
3) Сущность графического метода отделения решения для системы двух нелинейных уравнений, каковы его преимущества и недостатки?