03 - Conv2D (2)

Avendo espresso la convoluzione in forma compatta:

$$\boxed{{\mathbf{A}}_j^{\text{out}}=f(b_j+\sum _{k=0}^{C_{\text{in}}-1}{W}_{jk}\ast {\mathbf{A}}_k^{\text{in}})}$$

tale formula si può declinare elemento per elemento, tenendo conto che:

• l’asse $x$ cresce verso destra,
• l’asse $y$ cresce verso il basso,
• l’indice $\ell$ corrisponde allo spostamento orizzontale ($x$),
• l’indice $i$ corrisponde allo spostamento verticale ($y$).

Dunque, fissata la posizione $(x,y)$, si ottiene la forma locale:

$$\boxed{A_j^{\text{out}}[x,y]=f(b_j+\sum _{k=0}^{C_{\text{in}}-1}\sum _{i=0}^{K-1}\sum _{\ell =0}^{K-1}{W}_{jk}[i,\ell ]\cdot A_k^{\text{in}}[x+\ell -P,y+i-P\left]\right)}$$

Dettaglio: risultato delle convoluzioni 2D per canale

Per ciascun canale di input $k$, l’operazione

$$(W_{jk}\ast A_k^{\text{in}})[x,y]=\sum _{i=0}^{K-1}\sum _{\ell =0}^{K-1}{W}_{jk}[i,\ell ]\cdot A_k^{\text{in}}[x+\ell -P,y+i-P]$$

restituisce uno scalare: il valore in $(x,y)$ ottenuto dalla convoluzione 2D del kernel $W_{jk}$ sul canale $k$.

• $\ell$ è lo spostamento orizzontale (asse $x$), $i$ è lo spostamento verticale (asse $y$).
• Il padding $P$ garantisce che anche ai bordi siano disponibili tutte le $K^2$ posizioni del kernel.

Ripetendo questo calcolo per tutti i $k=0,\dots ,C_{\text{in}}-1$, si ottengono $C_{\text{in}}$ scalari.

Tali scalari vengono poi sommati elemento per elemento:

$$S[x,y]=\sum _{k=0}^{C_{\text{in}}-1}(W_{jk}\ast A_k^{\text{in}})[x,y],$$

e infine si applica bias e attivazione:

$$A_j^{\text{out}}[x,y]=f(b_j+S[x,y]).$$

📊 Riepilogo passo‑passo per posizione $(x,y)$

Passo	Descrizione
1	Per ogni $k$: calcola $(W_{jk}\ast A_k^{\text{in}})[x,y]$ sommando i prodotti su tutti gli offset $(i,\ell )$.
2	Somma i risultati: $S[x,y]={\sum }_k(W_{jk}\ast A_k^{\text{in}})[x,y]$.
3	Aggiungi il bias: $S[x,y]+b_j$.
4	Applica la funzione di attivazione: $A_j^{\text{out}}[x,y]=f(S[x,y]+b_j)$.

---

Esempio

Per ogni canale di uscita $j=0,\dots ,127$ e per ogni posizione $(x,y)\in \{\mathrm{0..4}{\}}^2$, si calcola:

$$\boxed{A_j^{\text{out}}[x,y]=f(b_j+\sum _{k=0}^2\sum _{i=0}^2\sum _{\ell =0}^2{W}_{jk}[i,\ell ]\cdot A_k^{\text{in}}[x+\ell -P,y+i-P])}$$

• la sommatoria su $k$ itera su ciascun canale di input $k$
• la tripla sommatoria ${\sum }_{k,i,\ell }$ accumula i contributi dei $3$ kernel $2D$
• il risultato in $(x,y)$ è un singolo valore che, a valle dell’applicazione di $f$, diventa l’entry $[x,y]$ della feature map $j$

	Dimensioni
Input dims	$7\times 7\times 3$	immagine RGB
Filtro per canale out $j$	$3\times 3\times 3$	$3$ kernel $2D$ da $3\times 3$
Patch spaziale valida	$5\times 5$	$(7-3)+1=5$
# output channels	$128$	quante feature map vogliamo
Output dims	$5\times 5\times 128$	$128$ patch $5\times 5$ impilate
Parametri per filtro	$3\times 3\times 3=27$	pesi di un singolo filtro
Parametri totali layer	$27\times 128=3,456$	pesi del layer