Оптимизация (математический анализ)

Оптимизация — это поиск максимальных или минимальных значений функции. Стандартная процедура:

1. Составьте функцию $f(x)$, которую нужно максимизировать/минимизировать, по условию задачи.
2. Продифференцируйте, чтобы получить $f'(x)$.
3. Найдите критические точки: решите $f'(x) = 0$ (и определите, где $f'$ не существует).
4. Классифицируйте каждую: признак второй производной ($f''(c) > 0$ → минимум; $< 0$ → максимум) или смена знака первой производной.
5. Сравните с концами отрезка, если задача задана на замкнутом промежутке (теорема об экстремальных значениях).

Классические задачи: наибольший прямоугольник, вписанный в круг; самая дешёвая цилиндрическая банка фиксированного объёма; коробка наибольшего объёма из квадратного листа.

Многомерная оптимизация использует градиент ($\nabla f = \vec{0}$) и матрицу Гессе. Оптимизация с ограничениями использует множители Лагранжа. Этот приём лежит в основе инженерного проектирования, экономики и обучения моделей машинного обучения.