Publicado em: 19/05/2023
CEI Talks + SemINF
Série de Seminários do Instituto de Informática da UFRGS
* Título:
As Duas Faces da IA: Quando Confiar e Quando Questionar
* Resumo:
Nos últimos 10 anos, a Inteligência Artificial (IA) deixou de ser uma curiosidade acadêmica e passou a ser uma das ferramentas mais utilizadas na indústria. Alguns exemplos de aplicações envolvem sistemas de busca, sistemas bancários para análise de investimentos e de concessão de crédito, algoritmos para avaliação automática de currículos e auxílio à contratação de empregados, até softwares que influenciam decisões legais e médicas. Embora sistemas de IA tenham trazido inúmeros benefícios em diversas áreas, recentemente foram observados casos em que eles não se comportam como esperaríamos. Muitas vezes, embora pareçam confiáveis, IAs acabam produzindo respostas incorretas ou com erros graves. Isso pode resultar em sistemas que discriminam ou disseminam desinformação, até softwares que podem causar riscos financeiros ou mesmo à saúde pública—como no caso de IAs usadas no apoio a decisões médicas. Nessa palestra, iremos discutir algumas das causas desses problemas, assim como possíveis soluções para aprimorar a confiabilidade de sistemas baseados em IA. Iremos apresentar exemplos de aplicações reais nas quais tais problemas ocorrem e, posteriormente, discutir maneiras práticas que podem ser utilizadas para identificar e quantificar até que ponto soluções existentes podem ser consideradas confiáveis. Por fim, iremos apresentar e discutir técnicas e ferramentas diversas que podem ser usadas na prática para auxiliar o desenvolvimento de sistemas baseados em IA que sejam seguros e confiáveis.
* Mini-Bio
Bruno Castro da Silva é professor na Universidade do Massachusetts, na qual desenvolve pesquisa nas áreas de aprendizado de máquina, aprendizado por reforço e robótica, tendo interesse mais recente em algoritmos de IA que não discriminem e que sejam seguros e confiáveis. Antes disso, Bruno trabalhou, por cinco anos, como professor no Instituto de Informática da UFRGS. Sua trajetória acadêmica e profissional inclui um período de pós-doutorado no MIT e de doutorado, nos Estados Unidos, sob orientação do professor Andrew Barto – um dos fundadores da área de aprendizado por reforço. Bruno concluiu o seu mestrado e graduação com láurea na Universidade Federal do Rio Grande do Sul e também trabalhou, entre os anos de 2011 e 2018, como pesquisador convidado no Laboratório de Neurociência Computacional, em Roma, desenvolvendo algoritmos para robôs humanoides. Os seus interesses de pesquisa incluem as áreas de aprendizado de máquina, aprendizado por reforço e robótica, e envolvem também o desenvolvimento de técnicas de inteligência artificial com garantias teóricas e práticas de que serão confiáveis e seguras.