Currículo

Fundamentos Matemáticos para Aprendizagem Profunda FMAP

Contextos

ECTS

6.0 (para cálculo da média)

Objectivos

OA1: Reconhecer as várias componentes dum modelo de aprendizagem profunda com redes neuronais. OA2: Implementar em versão stand-alone, usando python, versões simplificadas das componentes implícitas em OA1. OA3. Relacionar diferentes arquiteturas com a resolução de diferentes problemas. OA4. Aplicar técnicas de regularização para melhorar a performance de modelos de aprendizagem profunda. OA5. Conhecer em detalhe e aplicar o algoritmo DQN no contexto de aprendizagem por reforço. OA6. Utilizar a biblioteca Keras na implementação de modelos de aprendizagem profunda com vista à resolução de problemas em reconhecimento de imagem, processamento de linguagem natural e aprendizagem por reforço. OA7. Conhecer teoremas fundamentais sobre redes neuronais assimptóticas e aplicar esses resultados na análise crítica de modelos.

Programa

1. Modelos matemáticos de neurónios e funções de ativação. 2. (Aula Convidada) Hardware: Aceleradores de IA para aprendizagem profunda. 3. Algoritmos eficientes para operações matriciais e álgebra tensorial. 4. Backpropagation e diferenciação automática. 5. Problemas de classificação e de regressão com redes neuronais feedforward. 6. Teoremas de aproximação universal e análise assimptótica. 7. Redes de convolução e reconhecimento de imagem. 8. Técnicas de regularização. 9. Introdução à aprendizagem por reforço profunda

Método de Avaliação

Aprovação com classificação não inferior a 10 valores numa das modalidades: - Avaliação ao longo do semestre v1: fichas de exercícios (70% no total) realizadas individualmente + trabalho de grupo (30%). - Avaliação ao longo do semestre v2: exame (70 %), realizado numa das épocas de exame + trabalho de grupo (30 %). - Avaliação por exame: exame (100 %), realizado numa das épocas de exame. > Cada ficha de exercícios terá uma componente escrita e uma componente de implementação em python. As resoluções apresentadas estão sujeitos a discussão. > Os trabalhos de grupo deverão ser realizados em grupos de até 4 elementos e estão sujeitos a discussão. Consistem no desenvolvimento duma aplicação de aprendizagem profunda.

Carga Horária

Bibliografia

Principal

• - François Chollet, “Deep Learning with Python”, Manning, Second Edition 2021. - Simon J. D. Prince, "Understanding Deep Learning", MIT press, 2023.:

Secundária

• - Ian Goodfellow and Yoshua Bengio, and Aaron Courville, "Deep Learning", MIT press, 2016 - Maxim Lapan, “Deep Reinforcement Learning Hands On”, Packt, Second Edition 2020.:

Disciplinas de Execução

2024/2025 - 2º Semestre