Apprendimento automatico: fondamenti

Analisi matematica: funzioni, calcolo differenziale; algoritmica, elementi di probabilità e statistica.

Gli obiettivi del corso sono di introdurre i principi e i metodi dell'apprendimento da insiemi di dati, con particolare attenzione alle reti neurali e alle loro evoluzioni, oggi alla base della costruzione di sistemi intelligenti e sistemi adattivi in molti domini applicativi innovativi in informatica e in settori interdisciplinari.
Il corso si focalizza in particolare sull'analisi critica delle caratteristiche per la realizzazione e l'uso appropriato di algoritmi di apprendimento di funzioni da esempi e per la modellazione e valutazione sperimentale.

Principali modelli e algoritmi di apprendimento, con enfasi al paradigma delle reti neurali
Inquadramento critico delle caratteristiche e limitazioni delle metodologie di apprendimento.
Fondamenti teorici: principi induttivi alla base dei processi di apprendimento.
Tecniche di validazione.
Domini applicativi.

Capacità di progettare soluzioni a problemi con metodi di reti neurali e apprendimento automatico.
Capacità di analisi e sviluppo di modelli come strumento per problemi complessi e/o per l’avanzamento metodologico.
Capacità di applicazione rigorosa e valutazione sperimentale dei metodi di apprendimento.

Consapevolezza dei limiti attuali e delle potenzialità dei sistemi di apprendimento; uso critico dei modelli per problemi reali.

The course introduces the machine learning principles and models, with a focus on neural networks methods,  basic theory of learning and support vector machines.

I concetti sono introdotti progressivamente a partire dagli approcci più semplici di apprendimento automatico fino ai modelli allo stato dell'arte, sia neurali che ad essi complementari, nell'ambito dell'inquadramento concettuale generale e moderno del machine learning (apprendimento di funzioni da esempi e ricerca in spazi di ipotesi).

Si intende incoraggiare l’utilizzo di una formulazione computazionale dei problemi e dei sistemi di apprendimento.

Il nuovo programma dettagliato per AA1 dell'anno in corso sarà rilasciato a lezione.

Programma indicativo e sintetico:

• Introduzione: Compiti computazionali nell'apprendimento predittivo e concetto di generalizzazione.
• Modelli e concetti di base: Struttura dello spazio delle ipotesi, spazi discreti e continui, bias induttivo, modelli lineari  (algoritmi di apprendimento e proprietà), nearest neighbor (algoritmi di apprendimento e proprietà), modelli proposizionali e basati su regole.
• Modelli a Reti Neurali: Perceptron e proprietà computazionali. Reti Neurali multistrato feedforward: architetture e algoritmi di apprendimento. Reti ricorrenti.
• Principi dell'apprendimento, aspetti pratici generali e valutazione: Teoria Statistica dell'Apprendimento.  Validazione: model selection e model assessment. Analisi Bias-Variance.
• Support Vector Machines e modelli a Kernel.
• Modelli Bayesiani e Grafici.
• Unsupervised learning: vector quantization, self-organizing map.
• Introduzione alle Applicazioni e all'apprendimento in domini strutturati.

Breve presentazione di AA1 con slide: http://www.di.unipi.it/~micheli/DID/AA1-13-IT.pdf

Alcune letture introduttive sull'apprendimento automatico e l'intelligenza artificiale (IA) moderna si possono trovare nella sezione "What is Machine Learning" del sito:  http://www.di.unipi.it/~micheli/DID/