Currículo

Fundamentos Matemáticos para Aprendizagem Profunda FMAP

Contextos

ECTS

6.0 (para cálculo da média)

Objectivos

OA1: Reconhecer as várias componentes dum modelo de aprendizagem profunda com redes neuronais. OA2: Implementar, em versão stand-alone, usando python, versões simplificadas das componentes implícitas em OA1. OA3. Relacionar diferentes arquiteturas com a resolução de diferentes problemas. OA4. Aplicar técnicas de regularização para melhorar a performance de modelos de aprendizagem profunda. OA5. Conhecer em detalhe e aplicar o algoritmo DQN no contexto de aprendizagem por reforço. OA6. Utilizar a biblioteca Keras na implementação de modelos de aprendizagem profunda com vista à resolução de problemas em reconhecimento de imagem, processamento de linguagem natural e aprendizagem por reforço. OA7. Conhecer teoremas fundamentais sobre redes neuronais assimptóticas e aplicar esses resultados na análise crítica de modelos.

Programa

1. Regressão linear. 2. Classificadores lineares. 3. Redes neuronais densas e backprop. 4. Teoremas de aproximação universal e análise assimptótica. 5. Diferenciação automática. 6. Introdução ao TensorFlow e ao Keras 7. Técnicas de regularização. 8. Redes de convolução. 9. Data augmentation e fine-tuning. 10. Introdução à aprendizagem por reforço profunda

Método de Avaliação

Os alunos deverão escolher entre dois modelos de avaliação: Modelo 1 (Avaliação Regular): Composto por 2 momentos de avaliação prática presencial e individual (50 % cada). Nestas avaliações, será pedido aos alunos para adaptarem e modificarem os códigos desenvolvidos em aula, devidamente complementados pelo trabalho autónomo dos alunos. Esse trabalho autónomo, de preparação para a avaliação, é organizado em fichas de trabalho semanais. Modelo 2 (Melhoria de Nota): Caso os alunos não estejam satisfeitos com o resultado da avaliação no Modelo 1, podem realizar um trabalho de grupo (grupos de até 4 elementos) que terá um peso de 30% na avaliação, sendo os restantes 70% determinados pelo resultado na Avaliação Regular. Observação: Todos os momentos de avaliação estão sujeitos a uma eventual discussão oral.

Carga Horária

Bibliografia

Principal

• - François Chollet, “Deep Learning with Python”, Manning, Second Edition 2021. - Maxim Lapan, “Deep Reinforcement Learning Hands On”, Packt, Second Edition 2020.:

Secundária

• - Ian Goodfellow and Yoshua Bengio, and Aaron Courville, "Deep Learning", MIT press, 2016:

Disciplinas de Execução