Basi del Gradient Descent

Ho già organizzato questo argomento su Notion diverse volte, ma ecco un’altra passata incentrata su ciò che ho imparato al Boostcamp.

Differenziazione

1
import sympy as sym
2
from sympy.abc import x
3

4
sym.diff(sym.poly(x**2 + 2*x + 3), x)

Gradient Ascent (salita del gradiente)

f(x) Si aggiunge la derivata a x per trovare la posizione del massimo locale della funzione. Usato quando la funzione obiettivo deve essere massimizzata.

Gradient Descent (discesa del gradiente)

f(x) Si sottrae la derivata da x per trovare la posizione del minimo locale della funzione. Usato quando la funzione obiettivo deve essere minimizzata.

Algoritmo

1
# gradient: funzione che calcola la derivata
2
# init: punto di partenza
3
# lr: learning rate
4
# eps: epsilon
5

6
var = init
7
grad = gradient(var)
8
while (abs(grad) > eps):
9
  var = var - lr * grad
10
    grad = gradient(var)

L’obiettivo è che la derivata raggiunga 0, ma i computer non possono rappresentarlo esattamente. Quindi un valore reale molto piccolo, epsilon, viene usato come condizione di terminazione.

Derivata parziale

Le variabili nel ML sono solitamente vettori, quindi servono le derivate parziali invece delle derivate ordinarie per stabilire la direzionalità. Come si farebbe in un corso di analisi.

undefined

Qui, ei è un vettore unitario con 1 nella posizione i-esima e 0 altrove. Filtra solo la componente desiderata per la differenziazione.

Vettore gradiente

Nabla

Quando la funzione prende un vettore come input, bisogna usare le derivate parziali, e il numero di variabili può diventare molto grande.

Quindi si raccolgono i risultati delle derivate parziali di tutte le variabili in un vettore e lo si usa per il gradient descent. Questo è chiamato vettore gradiente, e il suo vantaggio è permettere aggiornamenti simultanei su tutte le variabili.

undefined

Questo simbolo si chiama nabla.

Visualizzazione del vettore gradiente

 

Le curve di livello rendono questo concetto facile da capire. Rispetto alle curve di livello, la direzione del vettore punta verso la diminuzione più rapida verso l’origine.

Algoritmo con vettore gradiente

1
# gradient: funzione che calcola il vettore gradiente
2
# init: punto di partenza
3
# lr: learning rate
4
# eps: epsilon
5

6
var = init
7
grad = gradient(var)
8
while (norm(grad) > eps):
9
  var = var - lr * grad
10
    grad = gradient(var)

Le differenze sono la definizione di gradient e l’uso di norm invece di abs nella condizione di terminazione.