elenco    
        corso    

Apprendimento Automatico: Reti Neurali e Metodi Avanzati

Codice: 321AACrediti: 6Semestre: 2Sigla: AA2 
 
Settore disciplinare: INF/01 - Informatica

Docente

Alessio Micheli   micheli@di.unipi.it  Stanza 358  Tel. 0502212798

Prerequisiti

Corso di AA1 (o RN1) , con specifica attenzione a :

    - Reti Neurali Feedforward e algoritmo di Back-propagation, Self-Organizing Map.

    Support Vector Machines e modelli a Kernel

    - Teoria Statistica dell'Apprendimento.

    Validazione (principi e tecniche).

    - Modelli Bayesiani e Grafici.

    E' possibile acquisire parallelamente al corso le nozioni sulle basi di apprendimento automatico/RN

Elementi di algoritmi di ricerca, probabilita', statistica, calcolo differenziale.

In ENGLISH: The course requires the knowledge of the program of AA1 (Machine Learning: Fundamentals). 

Obiettivi di apprendimento

L’obiettivo del corso è di fornire le metodologie per specializzarsi nel campo della costruzione di nuovi modelli di apprendimento automatico, comprendenti reti neurali allo stato dell’arte, nell’ambito del trattamento di domini complessi e dati non-vettoriali. Il paradigma delle reti neurali dinamiche costituisce la base per l’introduzione di metodi per il trattamento adattivo di sequenze e strutture a dimensione variabile. Una particolare enfasi è data all'analisi critica della sinergia tra lo sviluppo di modelli avanzati e il modellamento di applicazioni interdisciplinari innovative per domini complessi nelle Scienze Naturali, e all’introduzione di temi di ricerca.

English Description

Machine Learning: Neural Networks and Advanced Models (AA2):

The course introduces advanced machine learning  models and interdisciplinary applications, with a focus on dynamical/recurrent neural networks and structured data adaptive processing.

Objective of the course:

The course provide the methodologies needed to specialize in the area of design of new advanced machine learning models, including state-of-the-art neural networks, considering the processing of complex domains and non-vectorial data. The paradigm of dynamical neural networks is the ground to introduce the adaptive processing of sequences and variable-size structures. The course focuses also on the critical analysis of the synergy between methodological developments and the design of innovative interdisciplinary applications on Natural Science complex domains, and on the introduction to research topics.

 

Indicazioni metodologiche

Seguiremo un approccio incrementale che a partire da modeli per il trattamento di strutture sequenziali (e.g. serie temporali e sequenze discrete) mostera' l'estensione dei metodi a domini piu' complessi.

I casi di studio applicativi mostreranno in modo paradigmatico la creazione di modelli funzionali ai problemi in analisi.

Programma

Il corso di AA2 si colloca tra i corsi avanzati per la specializzazione in Machine Learning e Computational Intelligence.
Lo scopo principale riguarda:
  - il trattamento di dati e problemi complessi.
  - l'analisi di strumenti e modelli di apprendimento automatico e reti neurali non tradizionali considerando l'estensione a dati non vettoriali, inclusi  sequenze e strutture (alberi e grafi) a dimensione variabile.
  - l'introduzione a modeli ricorrenti in ambito neurale (RNN) e generativo e a modelli avanzati basati su kernel.
  - il design di modelli avanzati di Machine Learning (con enfasi alla sinergia tra lo sviluppo di nuovi strumenti e il modellamento di applicazioni interdisciplinari innovative).

Una particolare enfasi verra' posta sull'applicazione di tali modelli a problemi reali nelle Scienze Naturali cosi come all'introduzione di temi di ricerca.

I contenuti intendono fornire una base metodologica e strumenti adattivi per il trattamento di dati complessi tipici (a titolo di esempio) delle aree dell'elaborazione del linguaggio, della visione, dell'elaborazione di segnali, della robotica e del controllo, della bioinformatica, della cheminformatica, dell'analisi di testi e documenti web, del trattamento di processi dinamici in sistemi interattivi.
Sono di particolare interesse per una specializzazione nelle tematiche del Machine Learning volta alla costruzione di nuovi modelli e applicazioni interdisciplinari innovative.

Si osservi che il corso *non  reintroduce*  paradigmi specifici (gia trattati nel corso di AA1) ma ne riprende alcuni di base del Machine Learning (tra  cui i neurali, a kernel, e probabilistici) per studiare  nel loro ambito, in modo paradigmatico, il design di modelli avanzati.

Il PROGRAMMA includera' (ma non e' ristretto a) le seguenti classi di metodologie:

- Modelli e teoria delle reti neurali ricorrenti (dinamiche)

     Algoritmi di apprendimento: BPTT, RTRL.

- Reservoir computing (analisi critica)

- Hidden Markov Models

- Metodi basati su Kernel per non-vectorial data

- Unsupervised learning per dati complessi

- Cenni di approcci sintattici e simbolici

- Applicazioni interdisciplinari con enfasi a Bioinformatics e Cheminformatics.

Seguiremo un approccio incrementale che a partire da modeli per il trattamento di strutture sequenziali (e.g. serie temporali e sequenze discrete) mostera' l'estensione dei metodi a domini piu' complessi.

I casi di studio applicativi mostreranno in modo paradigmatico la creazione di modelli funzionali ai problemi in analisi.

---

ENGLISH:

 - Structured domains and learning tasks for sequences and graphs.

 - Dynamical Recurrent Neural Networks: architectures, learning algorithm, properties.

 - Resevoir Computing (critical analysis).

 - Generative approaches: Hidden Markov Models.

 - Recursive models.

 - Unsupervised learning for complex data.

 - Kernel-based approaches for complex (non-vectorial) data.

 - Emerging approaches for structured domains and relational learning.

 - Applications for applicative and interdisciplinary science: Case-studies  in Bioinformatics and   Cheminformatics.

 - Emerging topics in the machine learning research area.

 

 

Ore lezione: 48    


Ulteriore pagina web del corso: http://www.di.unipi.it/~micheli/DID/


home


email