В теории, локальная скорость сходимости метода Ньютона квадратичная. С другой стороны скорость сходимости алгоритма Гаусса-Ньютона зависит от нелинейности задачи. Для линейной модели  метод Гаусса-Ньютона имеет высокую скорость сходимости. Детальное сравнение методов можно найти, например, в [6].
Понятно, что от методов, использующих полный гессиан, ожидают более высокую скорость сходимости, чем от методов использующих неполный, из-за того, что первые используют более точное квадратичное приближение. Однако было показано (например, в [7]), что матрица Гаусса-Ньютона предпочтительнее матрицы Ньютона в приложениях, если данные сильно зашумлены. Дополнительным плюсом использования неполного гессиана является быстрота его построения, его структура и большая разреженность (см. Рисунок и Рисунок ), что приводит к более простому виду системы \* MERGEFORMAT (.) (см. Рисунок и Рисунок ), а, следовательно, к более быстрому способу её решения.
Основываясь, на результатах работы [7] было решено замерить времена работы двух методов для нескольких тестовых задач и выбрать наиболее быстрый из них.
Рисунок . Время работы SQP для полного и неполного гессиана (тестовая задача 4)
Рисунок . Время работы SQP для полного и неполного гессиана (тестовая задача 5)
В результате численных экспериментов в качестве гессиана было решено выбрать матрицу Гаусса-Ньютона, как показавшую меньшее время работы алгоритма.
Поделитесь с Вашими друзьями: |
