Reti Neurali

(Corso di Laurea in Informatica (quinquennale))

Codice:

4I070

Crediti:

Semestre:

Sigla:

Docente

Antonina Starita

Programma

Introduzione alle reti neurali e loro sognificato; modelli di neuroni naturali e artificiali; architettura di reti neurali ; rappresentazione della conoscenza nelle reti neurali.
Processi di apprendimento: apprendimento con correzione dell'errore; apprendimento Hebbiano; apprendimento competitivo; apprendimento di Boltzmann; assegnamento del credito; apprendimento supervisionato; apprendimento con rinforzo; apprendimento non supervisionato; natura statistica dell'apprendimento; teoria dell'apprendimento.
Il perceptron: considerazioni di base; torema di convergenza; misura di performance; algoritmo di apprendimento standard; algoritmo di apprendimento pocket.
Algoritmo dei Minimi Quadrati (LMS): Equazione di Wiener-Hopf; metodo della discesa del gradiente; algoritmo dei minimi quadrati ; convergenza.
Perceptron multistrato: Considerazioni preliminari; derivazione dell'algoritmo di Back-propagation; inizializzazione ; generalizzazione; metodi per migliorare la performance dell'algoritmo; approssimazioni di funzioni ; learning rate; momentum; pregi e difetti della Back-propagation.
Algoritmi costruttivi: algoritmi Tower e Pyramid; algoritmo Cascade-Correlation; algoritmo Tiling; algoritmo Upstart. Memoria ad indirizzi e memoria distribuita; memorie associative: autoassociative ed eteroassociative; memoria OLAM (Optimal Linear Associative Memory); memorie MAK, MAO, MdW, BAM, MAH; relazione tra BAM e MAH; memoria TAMBA (Memoria associativa per affinità); MAIL ( Memoria associativa ad inibizione laterale); MmC (Memoria mediante Counterpropagation); Capacità di una memoria; misure di capacità.

Ore lezione:

Ore esercitazione:

Bibliografia

Testi consigliati:

D.E. Rumelhart, J.L. McClelland: Parallel Distributed Processing, vol.1, MIT Press, 1986.
D. Patterson: Introduction to Neural Networks,
S. Haykin: Neural Networks: a comprehensive foundation, IEEE Press, 1998.
Appunti del corso

Modalità di esame

Scritto e orale