IA em empréstimos:mitigando preconceitos e garantindo acesso justo ao crédito

A inteligência artificial (IA) revolucionou muitos campos nos últimos anos, incluindo o setor bancário. Houve aspectos positivos e negativos da sua implementação, em particular a questão da discriminação algorítmica nos empréstimos.

No Canadá e de forma mais ampla em todo o mundo, a implementação da IA nos principais bancos levou a um aumento da produtividade, ao mesmo tempo que oferece uma maior personalização dos serviços.

De acordo com a Pesquisa Global IEEE, espera-se que a adoção de soluções baseadas em IA duplique globalmente até 2025, atingindo 80% das instituições financeiras.

Alguns bancos estão mais avançados, como o BMO Financial Group, que criou cargos específicos para supervisionar a integração da IA nos seus serviços digitais, a fim de se manterem competitivos. Como resultado, graças à IA, os lucros da indústria bancária global poderão ultrapassar os 2 biliões de dólares até 2028, representando um crescimento de quase nove por cento entre 2024 e 2028.

Como professor de gestão do conhecimento e inovação na Universidade Laval e comunicador científico, fui auxiliado na redação desta análise por Kandet Oumar Bah, autor de um projeto de pesquisa sobre discriminação algorítmica, e Aziza Halilem, especialista em governança e risco cibernético na Autoridade Francesa de Supervisão e Resolução Prudencial.

Como a IA melhora o desempenho dos bancos?

A integração da IA no setor bancário já otimizou significativamente os processos financeiros, com um ganho de 25 a 40 por cento na eficiência operacional. Combinada com as capacidades crescentes dos grandes volumes de dados (por exemplo, a recolha massiva de dados), a IA oferece análises poderosas que já podem reduzir as margens de erro dos sistemas financeiros entre 18 a 30 por cento.

Também permite monitorar milhões de transações em tempo real, detectar comportamentos suspeitos e até bloquear preventivamente determinadas transações fraudulentas. Este é um dos usos implementados pelo J.P. Morgan.

Além disso, plataformas como a FICO, especializadas em análise de decisões baseadas em IA, ajudam as instituições financeiras a aproveitar uma variedade de dados de clientes, refinando as suas decisões de crédito através de modelos preditivos avançados.

Vários bancos em todo o mundo contam agora com algoritmos de classificação automatizados que podem analisar vários parâmetros, incluindo rendimento, histórico de crédito e rácios de dívida, numa questão de segundos. No mercado de crédito, estas ferramentas melhoram significativamente o processamento dos pedidos, especialmente para casos “padrão”, como aqueles com garantias de empréstimo explícitas.

Mas e os outros casos?

Formalizando a injustiça?

Como salientam os investigadores americanos Tambari Nuka e Amos Ogunola, a ilusão de que os algoritmos produzem previsões justas e objectivas representa um grande risco para o sector bancário.

Revendo a literatura científica, alertam contra a tentação de delegar cegamente a avaliação do comportamento humano complexo a sistemas automatizados. Vários bancos centrais, incluindo o do Canadá, também expressaram fortes reservas sobre esta questão, alertando para os riscos operacionais associados à dependência excessiva da IA, particularmente na avaliação da solvabilidade e da solvabilidade.

Embora os algoritmos sejam tecnicamente neutros, podem amplificar as desigualdades existentes quando os dados de formação estão contaminados por preconceitos históricos, especialmente aqueles herdados da discriminação sistémica contra determinados grupos. Estes preconceitos não resultam apenas de variáveis ​​explícitas, como o género ou a origem étnica, mas também de correlações indirectas com factores como o local de residência ou o tipo de emprego.


Estudos mostram que a IA pode contribuir para a reprodução de desigualdades. (Shutterstock)
Por exemplo, os sistemas de classificação podem atribuir limites de crédito mais baixos às mulheres, mesmo em situações em que sejam financeiramente equivalentes aos homens. A análise de variáveis ​​como códigos postais e histórico de emprego também pode levar à exclusão de membros de grupos marginalizados, como indivíduos racializados, trabalhadores com rendimentos irregulares e imigrantes recentes.

Virginia Eubanks, professora nos Estados Unidos e especialista em justiça social, ilustra bem este fenómeno, mostrando como as pessoas que vivem em bairros historicamente desfavorecidos ou com percursos profissionais atípicos são penalizadas por decisões financeiras automatizadas baseadas em dados tendenciosos.

Isto levanta uma questão crucial:como podemos garantir que a automatização das decisões financeiras ajuda a reduzir as disparidades no acesso aos serviços bancários?

Mitigação de erros por meio de financiamento inclusivo

Vários caminhos estão sendo explorados na literatura científica em resposta a esses riscos de discriminação. Nuka e Ogunola, por exemplo, sugerem uma abordagem de inclusão financeira. Isto envolve a melhoria contínua dos modelos estatísticos, identificando e corrigindo distorções nos dados de formação, a fim de reduzir as disparidades de tratamento entre grupos sociais.

Para além das soluções técnicas, foram recentemente criados quadros regulamentares para garantir a transparência e a equidade dos algoritmos em sectores sensíveis como o financeiro. A Lei de Inteligência Artificial e Dados do Canadá e a Lei de Inteligência Artificial da UE na Europa são exemplos disso. Este último, adotado em 2024 e implementado gradualmente, impõe requisitos rigorosos aos sistemas de IA de alto risco, como os utilizados para a concessão de crédito.

O artigo 13.º estabelece requisitos de transparência para garantir que os sistemas sejam auditáveis e que as suas decisões possam ser compreendidas por todas as partes interessadas. O objetivo é prevenir a discriminação algorítmica e garantir o uso ético e justo. Os reguladores financeiros também têm um papel crucial a desempenhar na garantia do cumprimento das regras de concorrência leal e na garantia de práticas prudentes e transparentes no interesse da estabilidade financeira e da protecção dos clientes.

No entanto, a pressão de certos lobbies tecnológicos e financeiros para abrandar a adopção de normas rigorosas representa um risco significativo:a falta de regulamentação em alguns países e as dificuldades na aplicação noutros podem encorajar a opacidade, em detrimento dos cidadãos mais vulneráveis.