Português English
Contato
Publicado em: 04/12/2019

Artigo do Prof. Bruno Castro na Revista Science

"Preventing Undesirable Behavior of Intelligent Machines" foi publicado na Revista Science.

science

O artigo intitulado “Preventing Undesirable Behavior of Intelligent Machines”, do Professor do INF Bruno Castro em colaboração com colegas da Universidade de Massachusetts e de Stanford, foi publicado na Revista Science e vem se destacando. A Science é uma revista científica publicada pela American Association for the Advancement of Science — AAAS, e considerada uma das revistas acadêmicas mais prestigiadas do mundo.

Segundo Bruno, o estudo apresenta um novo framework matemático para o desenvolvimento de métodos de aprendizado de máquina com garantias probabilísticas de que irão produzir resultados seguros e justos. O trabalho foi iniciado em 2016 em colaboração com Phil Thomas, da Universidade do Massachusetts. “Nós inicialmente obtivemos dados do vestibular da UFRGS e mostramos que quase todas as técnicas tradicionais de ML, quando utilizadas de forma descuidada, poderiam gerar predições que discriminam – para inúmeras métricas e definições de discriminação”, segundo o Prof. Castro. A pesquisa é relevante, por exemplo, em problemas nos quais é preciso controlar carros autônomos ou em aplicações de ML na área médica, nas quais o tratamento dado a um paciente é guiado por técnicas de IA.

Abaixo, um vídeo produzido pela equipe de pesquisa para que todos entendam o processo.

 

Resumo do artigo: Intelligent machines using machine learning algorithms are ubiquitous, ranging from simple data analysis and pattern recognition tools to complex systems that achieve superhuman performance on various tasks. Ensuring that they do not exhibit undesirable behavior—that they do not, for example, cause harm to humans—is therefore a pressing problem. We propose a general and flexible framework for designing machine learning algorithms. This framework simplifies the problem of specifying and regulating undesirable behavior. To show the viability of this framework, we used it to create machine learning algorithms that precluded the dangerous behavior caused by standard machine learning algorithms in our experiments. Our framework for designing machine learning algorithms simplifies the safe and responsible application of machine learning.

Confira aqui na íntegra.