Investigadores do Porto vão colocar humanos e inteligência artificial a trabalhar em conjunto

O Instituto de Engenharia de Sistemas e Computadores, Tecnologia e Ciência (INESC TEC) é a entidade responsável pela coordenação do TRUST-AI, um projeto que procura colocar humanos e sistemas de inteligência artificial a trabalhar em conjunto. O resultado deverá ser uma ferramenta “confiável e compreensível”.

No que toca à inteligência artificial ainda é possível que haja mais questões do que respostas. O INESC TEC destaca algumas pertinentes: “Será que podemos confiar naquilo que os modelos matemáticos nos estão a dizer para fazer? Porque é que um médico pode confiar num sistema que lhe indica a altura certa para operar um tumor raro? Como é que um retalhista pode ter a certeza de que o algoritmo não favoreceu um fornecedor em detrimento de um concorrente?”.

Ao apresentar-se como uma forma “transparente, inteligente, confiável e imparcial” de explicar os sistemas de inteligência artificial, o TRUST-AI vai colocar estes sistemas a trabalhar com humanos na procura de “melhores soluções”, de modelos eficazes e compreensíveis.

E as áreas de aplicabilidade são várias: a saúde, no tratamento de tumores; o retalho online, na seleção de horários de entrega de encomendas; e a energia, no apoio a previsões de procura em edifícios são certas. Mas é possível, avança o INESC TEC, prever a sua pertinência também na indústria, na administração pública, no setor bancário ou no dos seguros.

Para Gonçalo Figueira, coordenador do TRUST-AI, é necessário “entender o porquê de determinada escolha” do sistema, o que transmite “confiança e ajuda a melhorar o processo de decisão”.

“À medida que as técnicas de inteligência artificial influenciam cada vez mais as decisões, o seu raciocínio passa por etapas demasiado abstratas e complexas para serem compreendidas pelos utilizadores. Estamos a falar de ‘caixas pretas’, que encontram soluções factualmente excelentes, sem saberem explicar como as conseguem. Isso levanta questões éticas à medida que a IA orienta mais e mais escolhas”, acrescenta o investigador.

O projeto é financiado em quatro milhões de euros pelo programa Horizonte 2020 da União Europeia e, além do INESC TEC e da sua empresa spin-off, a LTPlabs - Advanced Analytics & Business Consultancy, conta com contributos de instituições da Estónia, França, Holanda, Chipre e Turquia.