{"id":7811,"date":"2026-06-24T16:33:17","date_gmt":"2026-06-24T19:33:17","guid":{"rendered":"https:\/\/www.inf.ufrgs.br\/ppgc\/?page_id=7811"},"modified":"2026-06-24T16:33:17","modified_gmt":"2026-06-24T19:33:17","slug":"cmp633","status":"publish","type":"page","link":"https:\/\/www.inf.ufrgs.br\/ppgc\/disciplinas\/lista-de-disciplinas\/cmp633\/","title":{"rendered":"CMP633"},"content":{"rendered":"

CMP633 \u2014 Interpretabilidade de Aprendizado de M\u00e1quina<\/h1>\n\n\n\n\n\n\n\n\n\n
C\u00f3digo da disciplina<\/strong><\/td>\nCMP633<\/td>\n<\/tr>\n
Respons\u00e1vel<\/strong><\/td>\nBruno Iochins Grisci<\/td>\n<\/tr>\n
Pr\u00e9-requisitos<\/strong><\/td>\nN\u00e3o<\/td>\n<\/tr>\n
Carga hor\u00e1ria<\/strong><\/td>\n60h<\/td>\n<\/tr>\n
Cr\u00e9ditos<\/strong><\/td>\n4 CR<\/td>\n<\/tr>\n
Semestres oferecidos<\/strong><\/td>\n2026\/2<\/td>\n<\/tr>\n
Matr\u00edcula de graduandos<\/strong><\/td>\nSim<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

S\u00famula<\/h2>\n

Fundamentos da interpreta\u00e7\u00e3o de modelos de aprendizado de m\u00e1quina. Sele\u00e7\u00e3o de atributos. Modelos naturalmente interpret\u00e1veis. T\u00e9cnicas de interpreta\u00e7\u00e3o post-hoc<\/em>. T\u00e9cnicas modernas de explica\u00e7\u00e3o aplic\u00e1veis a modelos complexos. M\u00e9todos de interpreta\u00e7\u00e3o globais e locais. M\u00e9todos de interpreta\u00e7\u00e3o agn\u00f3sticos ou espec\u00edficos ao modelo. Ataques adversariais. Interpretabilidade mecanicista. AI Fairness e AI Safety. Reflex\u00f5es cr\u00edticas sobre limita\u00e7\u00f5es e boas pr\u00e1ticas no uso dessas ferramentas.<\/p>\n

Objetivos<\/h2>\n

Desenvolver os seguintes t\u00f3picos: Transpar\u00eancia e Explicabilidade em sistemas de IA. Redu\u00e7\u00e3o de dimensionalidade. Aspectos \u00e9ticos em IA. M\u00e9todos de aprendizado supervisionado. Redes neurais. Avalia\u00e7\u00e3o de modelos. Conceitos de Filosofia em IA.<\/p>\n

Capacitar o estudante a compreender os fundamentos da interpretabilidade em aprendizado de m\u00e1quina, incluindo seus aspectos conceituais, filos\u00f3ficos, \u00e9ticos e pr\u00e1ticos, bem como sua relev\u00e2ncia para a transpar\u00eancia, a confiabilidade e o uso respons\u00e1vel de sistemas de intelig\u00eancia artificial. Desenvolver habilidades para analisar modelos supervisionados e redes neurais sob a perspectiva da interpretabilidade, relacionando desempenho preditivo, avalia\u00e7\u00e3o de modelos, redu\u00e7\u00e3o de dimensionalidade e extra\u00e7\u00e3o de conhecimento.<\/p>\n

Habilitar o aluno a conhecer, comparar e aplicar m\u00e9todos de sele\u00e7\u00e3o de atributos, modelos naturalmente interpret\u00e1veis e t\u00e9cnicas de interpreta\u00e7\u00e3o post-hoc<\/em>, tanto globais quanto locais, agn\u00f3sticas ou espec\u00edficas ao modelo, com \u00eanfase em explica\u00e7\u00f5es aplic\u00e1veis a modelos complexos. Promover a reflex\u00e3o cr\u00edtica sobre limita\u00e7\u00f5es, riscos e boas pr\u00e1ticas no uso de ferramentas de explicabilidade, incluindo quest\u00f5es de vieses, justi\u00e7a, seguran\u00e7a, ataques adversariais e interpretabilidade mecanicista.<\/p>\n

Ao final, espera-se que o estudante seja capaz de selecionar, empregar e avaliar criticamente diferentes abordagens de interpretabilidade em problemas reais de aprendizado de m\u00e1quina, de forma tecnicamente fundamentada, eticamente respons\u00e1vel e cientificamente rigorosa.<\/p>\n

Programa (Conte\u00fado)<\/h2>\n
\n\n\n\n\n\n\n\n\n\n\n\n\n
Semana<\/th>\nT\u00edtulo<\/th>\nConte\u00fado<\/th>\n<\/tr>\n<\/thead>\n
1 a 2<\/td>\nIntrodu\u00e7\u00e3o \u00e0 Interpretabilidade<\/td>\nIntrodu\u00e7\u00e3o \u00e0 disciplina. Sele\u00e7\u00e3o de atributos e an\u00e1lise de dados. Interpretabilidade e explicabilidade (shortcut learning<\/em>, Clever Hans effect, Rashomon effect).<\/td>\n<\/tr>\n
3 a 4<\/td>\nM\u00e9todos interpret\u00e1veis<\/td>\nRegress\u00e3o linear. Regress\u00e3o log\u00edstica. Modelos baseados em \u00e1rvores e decision rules<\/em>.<\/td>\n<\/tr>\n
5 a 7<\/td>\nInterpretabilidade post-hoc<\/em><\/td>\nModelos agn\u00f3sticos locais (CP, ICE, LIME, counterfactual explanations<\/em>, Shapley Values, SHAP). Modelos agn\u00f3sticos globais (PDP, ALE, feature interaction<\/em>, Permutation Feature Importance, LOFO, surrogate models<\/em>, prototypes and criticisms<\/em>).<\/td>\n<\/tr>\n
8 a 10<\/td>\nInterpretando redes neurais<\/td>\nLearned Features. Saliency Maps. Detecting Concepts. Ataques adversariais. Influential Instances.<\/td>\n<\/tr>\n
11 a 12<\/td>\nInterpretabilidade mecanicista<\/td>\nFeatures, circuits, universality. Sparse Autoencoder (SAE).<\/td>\n<\/tr>\n
13 a 14<\/td>\nAI Fairness e AI Safety<\/td>\nAI Fairness. AI Safety. Vieses em aprendizado de m\u00e1quina. \u00c9tica em IA.<\/td>\n<\/tr>\n
15<\/td>\nApresenta\u00e7\u00f5es dos projetos<\/td>\nApresenta\u00e7\u00e3o dos projetos avaliados desenvolvidos pelos alunos.<\/td>\n<\/tr>\n
16<\/td>\nRecupera\u00e7\u00e3o<\/td>\nExame de recupera\u00e7\u00e3o.<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n

M\u00e9todo de Trabalho (Principais Atividades)<\/h2>\n

A disciplina poder\u00e1 utilizar o sistema Moodle\/UFRGS ou similares para distribui\u00e7\u00e3o de material, entrega de trabalhos, organiza\u00e7\u00e3o de grupos de discuss\u00e3o e acompanhamento geral da disciplina, como informado pelo professor ministrante ao in\u00edcio do semestre.<\/p>\n

A disciplina poder\u00e1 usar ferramentas como o Moodle\/UFRGS, sistemas de submiss\u00e3o de problemas de programa\u00e7\u00e3o online<\/em> (como online judges<\/em>) ou similares para avalia\u00e7\u00f5es e atividades did\u00e1ticas.<\/p>\n

Em caso de nova disciplina, a secretaria do PPGC preenche com o c\u00f3digo e o nome da
\ndisciplina segue esse padr\u00e3o \u201cT\u00f3picos Especiais em Computa\u00e7\u00e3o + n\u00famero (secretaria) + descri\u00e7\u00e3o
\n(professor\/a)<\/p>\n

N\u00e3o podem ser atualizados ap\u00f3s a cria\u00e7\u00e3o.<\/p>\n

A disciplina \u00e9 apresentada em aulas te\u00f3rico-pr\u00e1ticas, em que se combina a apresenta\u00e7\u00e3o dos conceitos e t\u00e9cnicas com o desenvolvimento de eventuais exerc\u00edcios e discuss\u00f5es. Algumas das aulas podem ser realizadas em laborat\u00f3rios, para a implementa\u00e7\u00e3o e visualiza\u00e7\u00e3o dos conceitos vistos em aula. Em algumas das aulas, poder\u00e3o ser feitas demonstra\u00e7\u00f5es de ferramentas e c\u00f3digos ou exibi\u00e7\u00e3o de v\u00eddeos ou filmes pertinentes ao conte\u00fado.<\/p>\n

As 60 horas previstas para atividades te\u00f3ricas e pr\u00e1ticas indicadas neste Plano de Ensino incluem 30 encontros de 100 minutos de dura\u00e7\u00e3o, correspondentes a dois per\u00edodos de 50 minutos por encontro e dois encontros por semana, durante 15 semanas, em um total de 3.000 minutos. Incluem, ainda, 10 horas (600 minutos) de atividades aut\u00f4nomas, realizadas sem contato direto com o professor, correspondentes a exerc\u00edcios, trabalhos ou projetos extraclasse a serem avaliados.<\/p>\n

Experi\u00eancias de Aprendizagem<\/h3>\n