📈 Матанализ

Метод множителей Лагранжа

Q: Что делать, если связей несколько?

Каждой связи — свой множитель: $L = f + \lambda_1 g_1 + \lambda_2 g_2$, а система дополняется уравнениями всех связей. Геометрически градиент целиком раскладывается по нормалям ограничений. Следите за совместностью: несколько связей в плоскости легко вырезают пустое множество или единственную точку, и тогда искать кандидатов уже не требуется — задача решается раньше метода.

англ. Lagrange multipliers

Приём поиска условного экстремума: к целевой функции добавляется связь с коэффициентом λ, и стационарные точки функции Лагранжа дают и точку оптимума, и чувствительность оптимума к ограничению.

Метод множителей Лагранжа — стандартный инструмент условного экстремума: вместо разрешения связи к функции добавляют её с коэффициентом. Функция Лагранжа $L (x, y, λ) = f (x, y) + λ g (x, y)$ превращает задачу с ограничением в систему $L_{x}^{'} = 0$ , $L_{y}^{'} = 0$ , $g = 0$ — три уравнения на три неизвестных, включая множитель $λ$ . Идея видна из геометрии: в оптимуме градиент $f$ коллинеарен градиенту $g$ , иначе вдоль кривой связи оставалось бы направление роста — см. термины градиент и экстремум.

Полный пример: максимум $f = x y$ при связи $x + y = 10$ . Строим $L = x y + λ (x + y - 10)$ ; условия: $y + λ = 0$ , $x + λ = 0$ , $x + y = 10$ . Из первых двух $x = y = - λ$ , подстановка даёт $x = y = 5$ и $λ = - 5$ . Максимум $f = 25$ — и он настоящий: произведение двух чисел с фиксированной суммой максимально при равенстве сомножителей, что подтверждает неравенство о средних. Множитель $λ = - 5$ не мусор: увеличение суммы до $11$ поднимает максимум до $30, 25$ — сдвиг примерно на $5$ за единицу, как и обещает $∣ λ ∣$ .

Расширения идут по прямой: несколько связей — по множителю на каждую $g_{k} = 0$ ; неравенства добавляют условия дополнительной нежёсткости; в трёх и более переменных механика та же, растёт лишь система. Практические советы: всегда включать связь в систему — кандидат без проверки $g = 0$ фиктивен; сравнивать кандидатов между собой, ведь Лагранж находит кандидатов, но не выбирает лучший. Тёзка из другого раздела — функция Лагранжа в механике — наследует идею, но живёт в задаче о движении. Постановки задач с ограничениями — в теме линейное программирование.

L (x, y, λ) = f (x, y) + λ g (x, y), L_{x}^{'} = 0, L_{y}^{'} = 0, g (x, y) = 0

стационарные точки функции Лагранжа дают кандидатов в условный экстремум вместе с множителем λ

Частые вопросы

Почему градиенты коллинеарны в условном экстремуме?

Двигаясь вдоль кривой связи, функция растёт, пока проекция градиента на кривую ненулевая. В оптимуме роста вдоль связи нет ни в одну сторону — проекция $\nabla f$ на касательную нулевая, и вектор смотрит чисто по нормали. Но нормаль к кривой $g = 0$ — это и есть $\nabla g$ ; два вектора на одной нормали обязаны быть коллинеарными, коэффициент пропорциональности и есть множитель.

Что делать, если связей несколько?

Каждой связи — свой множитель: $L = f + λ_{1} g_{1} + λ_{2} g_{2}$ , а система дополняется уравнениями всех связей. Геометрически градиент целиком раскладывается по нормалям ограничений. Следите за совместностью: несколько связей в плоскости легко вырезают пустое множество или единственную точку, и тогда искать кандидатов уже не требуется — задача решается раньше метода.