O impacto potencial da IA no setor bancário:um mergulho profundo no novo modelo da Anthropic

O lendário ladrão de bancos americano Willie Sutton passou 40 anos roubando bancos porque, como afirmou em sua autobiografia, adorava fazer isso. E quando questionado sobre por que escolheu bancos de todos os lugares para roubar, ele supostamente respondeu:“Porque é onde está o dinheiro”.

Em 2017, escrevi um livro prevendo que não seriam apenas bandidos adoráveis como Sutton que em breve estariam roubando bancos, mas também a inteligência artificial (IA).

Esse dia, ao que parece, pode estar prestes a chegar. Os bancos em todo o mundo estão seriamente preocupados que os cibercriminosos possam em breve aproveitar os mais recentes avanços na IA para tentar roubá-los.

A porta digital do cofre

A preocupação do mundo financeiro reside nas impressionantes capacidades cibernéticas de um produto chamado “Mythos”. Este é o modelo de IA mais recente e mais capaz da Anthropic, a empresa por trás do popular chatbot Claude.

Como membro do público, você não pode acessar ou usar este modelo – por enquanto. Isso porque a Anthropic (e muitos outros) acreditam que o Mythos é muito capaz de se lançar em um mundo desavisado.

Os testes internos do Mythos revelaram milhares de vulnerabilidades graves de segurança em todos os principais sistemas operacionais e navegadores da web.

Algumas dessas vulnerabilidades passaram despercebidas durante décadas. Muitas são o que os especialistas em tecnologia chamam de vulnerabilidades de “dia zero” – ataques que são tão perigosos que os desenvolvedores precisam corrigi-los no prazo de zero dias.


Dario Amodei, executivo-chefe da Anthropic, que afirma que seu novo modelo é poderoso demais para ser divulgado ao público nesta fase. Markus Schreiber/AP

Não é para uso público

Para combater esta ameaça emergente, a Anthropic disponibilizou o modelo a uma dúzia de parceiros de uma coligação defensiva que inclui Microsoft, Amazon Web Services, Apple, Cisco e Linux Foundation.

A empresa também comprometeu US$ 100 milhões (cerca de A$ 140 milhões) em créditos de uso e US$ 4 milhões (cerca de A$ 5,6 milhões) em doações de código aberto para começar a encontrar e corrigir esses bugs.

Além disso, mais de 40 organizações adicionais – incluindo vários bancos dos EUA – também receberam acesso. Mas é preocupante que, tanto quanto sabemos, a Anthropic ainda não concedeu acesso a nenhum banco na Austrália, no Reino Unido ou na Europa.

Para aumentar as preocupações, na quarta-feira, a Anthropic confirmou que estava investigando as alegações em um relatório da Bloomberg de que um pequeno grupo de usuários não autorizados obteve acesso ao Mythos. No entanto, nesta fase, não há qualquer sugestão de que este alegado acesso tenha sido para fins maliciosos.

Leia mais:Claude Mythos e Projeto Glasswing:por que um superhacker de IA deixou o mundo da tecnologia em alerta

Você deveria estar preocupado?

Na semana passada, reguladores e decisores políticos de todo o mundo reuniram-se na reunião de primavera do Fundo Monetário Internacional, em Washington. A guerra do Irão foi um foco importante. Mas os participantes também emitiram uma série de avisos sobre esta ameaça emergente à segurança cibernética para o setor bancário.

Não só os bancos são um alvo atraente, por estarem onde está o dinheiro, mas a indústria funciona com muitos sistemas legados, tecnologia com décadas de existência que pode ser especialmente vulnerável a este tipo de ataques.

Você pessoalmente não precisa ficar muito preocupado. Muitos países têm fortes proteções para clientes bancários. Na Austrália, por exemplo, os primeiros 250.000 dólares australianos dos depósitos de um cliente são segurados através do Esquema de Reivindicações Financeiras apoiado pelo governo.

E a Comissão Australiana de Valores Mobiliários e Investimentos garante que os bancos investiguem e reembolsem transações fraudulentas quando o cliente não é culpado.

Portanto, provavelmente não é uma boa ideia sacar seu dinheiro e colocá-lo debaixo do colchão. Mas os bancos deveriam (e estão) apressar-se para colmatar estas vulnerabilidades.

Eu recomendo que você atualize regularmente seu computador e smartphone para ter o sistema operacional e os aplicativos bancários mais recentes. É provável que haja muito mais atualizações em um futuro próximo, à medida que novas vulnerabilidades forem descobertas e corrigidas.

E, como tenho certeza que você está, você precisa estar sempre atento a ataques de phishing por e-mail e SMS que tentam obter suas credenciais bancárias.


O presidente da Reserva Federal dos EUA, Jerome Powell, esteve entre os participantes na reunião de primavera do Fundo Monetário Internacional, em Washington. Shawn Thew/EPA

O cenário de ameaças em evolução

No longo prazo, Mythos expõe o desafio de que a defesa é muito mais difícil do que o ataque. O software é um dos produtos mais complexos que a humanidade constrói. Portanto, é quase impossível garantir que esteja livre de erros.

Isso nos coloca numa corrida interminável contra os “bandidos” para descobrir e corrigir falhas antes que sejam exploradas.

Por exemplo, com grande alarde, a União Europeia acaba de lançar a sua aplicação de verificação de idade, concebida para ser uma pedra angular das leis emergentes sobre o acesso às redes sociais, à pornografia e a outros conteúdos com restrição de idade. No entanto, em poucas horas, especialistas em segurança encontraram vulnerabilidades cibernéticas que usuários menores de idade poderiam explorar facilmente.

Nas configurações mais críticas, podemos tentar provar matematicamente que nosso software está livre de bugs. Por exemplo, a Beneficial AI Foundation acaba de anunciar um ambicioso projeto “moonshot” para provar que o popular aplicativo de mensagens Signal está livre de bugs e protege a privacidade conforme alegado.

Mas tais esforços são hoje a excepção e não a norma. Talvez novos avanços na IA possam em breve ajudar a reverter esta situação.