Optimierung ist das Verfahren, Maximal- oder Minimalwerte einer Funktion zu finden. Standardvorgehen:
- Aufstellen der zu maximierenden/minimierenden Funktion aus der Aufgabenstellung.
- Ableiten, um zu erhalten.
- Kritische Stellen finden: lösen (und Stellen bestimmen, an denen nicht existiert).
- Klassifizieren jeder Stelle: Test mit der zweiten Ableitung ( → Minimum; → Maximum) oder Vorzeichenwechsel der ersten Ableitung.
- Vergleichen mit den Randpunkten auf einem abgeschlossenen Intervall (Satz vom Maximum und Minimum).
Klassische Aufgaben: das größte einem Kreis einbeschriebene Rechteck, die billigste zylindrische Dose mit festem Volumen, die volumenmaximale Schachtel aus einem quadratischen Blatt.
Mehrdimensionale Optimierung verwendet den Gradienten () und die Hesse-Matrix. Optimierung unter Nebenbedingungen verwendet Lagrange-Multiplikatoren. Die Technik liegt dem Ingenieurentwurf, der Volkswirtschaftslehre und dem Training von ML-Modellen zugrunde.