Ficha Unidade Curricular (FUC)

Informação Geral / General Information

Código :

04667

Acrónimo :

AAA

Ciclo :

2.º ciclo

Línguas de Ensino :

Português (pt)

Língua(s) amigável(eis) :

Carga Horária / Course Load

Semestre :

Créditos ECTS :

6.0

Aula Teórica (T) :

18.0h/sem

Aula Teórico-Prática (TP) :

12.0h/sem

Aula Prática e Laboratorial (PL) :

0.0h/sem

Trabalho de Campo (TC) :

0.0h/sem

Seminario (S) :

0.0h/sem

Estágio (E) :

0.0h/sem

Orientação Tutorial (OT) :

1.0h/sem

Outras (O) :

0.0h/sem

Horas de Contacto :

31.0h/sem

Trabalho Autónomo :

119.0

Horas de Trabalho Total :

150.0h/sem

Área científica / Scientific area

Inteligência Artificial

Departamento / Department

Departamento de Ciências e Tecnologias da Informação

Ano letivo / Execution Year

2024/2025

Pré-requisitos / Pre-Requisites

Objetivos Gerais / Objectives

Objetivos de Aprendizagem e a sua compatibilidade com o método de ensino (conhecimentos, aptidões e competências a desenvolver pelos estudantes) / Learning outcomes

OA1: Conhecer as principais arquiteturas de redes neuronais para o processamento de dados sequenciais OA2: Aplicar versões simplificadas de algumas das arquiteturas de processamento de dados sequenciais a problemas concretos OA3: Descrever o funcionamento de modelos generativos, tais como as Generative Adversarial Networks, Variational Autoencoders e modelos baseados em Fluxo e modelos autoregressivos OA4: Descrever a arquitetura de modelos baseados em transformadores e auto-atenção, tais como BERT, GPT-2 e GPT-3, bem como variantes destes modelos OA5: Aplicar modelos pré-treinados baseados em transformadores a casos de estudo, fazendo uso de transferência de apendizagem OA6: Conhecer as atuais tendências na aplicação de modelos de língua a problemas reais

Conteúdos Programáticos / Syllabus

Introduction, Revisiting Neural Networks (Feed Forward networks, Backpropagation) P1: Sequential data - Recurrent Neural Networks - Learning challenges and solutions - Conditional sequence models - LSTMs - CNNs for sequential data - Learning with attention- ELMO as a case study P2: Generative Modeling - GANs - Variational autoencoders (VAE) - Flow-based models - Autoregressive models P3: Transformers & self-attention - BERT, GPT2 and GPT-3, and BART - Transfer learningP4: Recent Trends: - LaMDA: Language Models for Dialog Applications- Responsibility first

Demonstração da coerência dos conteúdos programáticos com os objetivos de aprendizagem da UC / Evidence that the curricular units content dovetails with the specified learning outcomes

OA1: P1 OA2: P1 OA3: P2 OA4: P3 OA5: P3 OA6: P4

Avaliação / Assessment

Avaliação periódica: Teste Intermédio (25%) + PROJETO (35%) + Teste Final (40%). Os alunos vão a exame final caso tenham optado por este regime, ou não tenham obtido nota positiva na avaliação periódica. O exame final é composto por um teste individual que cobre toda a matéria. A assiduidade não é requisito essencial de aprovação.

Metodologias de Ensino / Teaching methodologies

Esta unidade curricular está estruturada em aulas teóricas para exposição da matéria e em aulas teórico-práticas para resolução de problemas e utilização prática de ferramentas. Além da assiduidade às aulas espera-se do aluno um tempo de trabalho autónomo para consulta da bibliografia, revisão de matéria dada, resolução de exercícios propostos e resposta a problemas para avaliação.

Demonstração da coerência das metodologias de ensino e avaliação com os objetivos de aprendizagem da UC / Evidence that the teaching and assessment methodologies are appropriate for the learning outcomes

O alinhamento entre cada componente de avaliação e os objetivos definidos para a UC é feito da seguinte forma: - Teste Intermédio: OA1, OA2, OA3 - PROJETO: OA3, OA4, OA5 - Teste Final: OA1, OA2, OA3, OA4, OA5, OA6

Observações / Observations

Bibliografia Principal / Main Bibliography

Bibliografia Secundária / Secondary Bibliography

Data da última atualização / Last Update Date

2024-02-16