Apprendimento Automatico: Reti Neurali e Metodi Avanzati

Il corso di AA2 si colloca tra i corsi avanzati per la specializzazione in Machine Learning e Computational Intelligence.
Lo scopo principale riguarda:
  - il trattamento di dati e problemi complessi.
  - l'analisi di strumenti e modelli di apprendimento automatico e reti neurali non tradizionali considerando l'estensione a dati non vettoriali, inclusi  sequenze e strutture (alberi e grafi) a dimensione variabile.
  - l'introduzione a modeli ricorrenti in ambito neurale (RNN) e generativo e a modelli avanzati basati su kernel.
  - il design di modelli avanzati di Machine Learning (con enfasi alla sinergia tra lo sviluppo di nuovi strumenti e il modellamento di applicazioni interdisciplinari innovative).

Una particolare enfasi verra' posta sull'applicazione di tali modelli a problemi reali nelle Scienze Naturali cosi come all'introduzione di temi di ricerca.

I contenuti intendono fornire una base metodologica e strumenti adattivi per il trattamento di dati complessi tipici (a titolo di esempio) delle aree dell'elaborazione del linguaggio, della visione, dell'elaborazione di segnali, della robotica e del controllo, della bioinformatica, della cheminformatica, dell'analisi di testi e documenti web, del trattamento di processi dinamici in sistemi interattivi.
Sono di particolare interesse per una specializzazione nelle tematiche del Machine Learning volta alla costruzione di nuovi modelli e applicazioni interdisciplinari innovative.

Si osservi che il corso *non  reintroduce*  paradigmi specifici (gia trattati nel corso di AA1) ma ne riprende alcuni di base del Machine Learning (tra  cui i neurali, a kernel, e probabilistici) per studiare  nel loro ambito, in modo paradigmatico, il design di modelli avanzati.

Il PROGRAMMA includera' (ma non e' ristretto a) le seguenti classi di metodologie:

- Modelli e teoria delle reti neurali ricorrenti (dinamiche)

     Algoritmi di apprendimento: BPTT, RTRL.

- Reservoir computing (analisi critica)

- Hidden Markov Models

- Metodi basati su Kernel per non-vectorial data

- Unsupervised learning per dati complessi

- Cenni di approcci sintattici e simbolici

- Applicazioni interdisciplinari con enfasi a Bioinformatics e Cheminformatics

Seguiremo un approccio incrementale che a partire da modeli per il trattamento di strutture sequenziali  (e.g. serie temporali e sequenze discrete) mostera' l'estensione dei metodi a domini piu' complessi.

I casi di studio applicativi mostreranno in modo paradigmatico la creazione di modelli funzionali ai problemi in analisi.