Gradien dari adalah vektor semua turunan parsial: .
Tafsir geometris: pada titik mana pun, menunjuk ke arah pendakian tercuram, dengan besar yang sama dengan laju perubahan pada arah tersebut.
Untuk menemukan maksimum/minimum lokal, atur dan periksa syarat orde kedua. Untuk meminimumkan (mis. rugi ML), bergerak ke arah — inilah penurunan gradien, tulang punggung pembelajaran mesin modern. Variannya (momentum, Adam, RMSprop) semuanya dibangun di atas gagasan ini.
Gradien tegak lurus terhadap kurva ketinggian fungsi. Turunan berarah pada arah (vektor satuan) adalah .