Pedro Machado: “A IA não dilui a responsabilidade. Pelo contrário, aumenta o nível de exigência”

Já não é um desafio. É uma realidade que se propaga rapidamente. A utilização da Inteligência Artificial (IA), nas suas mais variadas formas, é hoje comum na maioria dos bancos europeus. No entanto, o Banco Central Europeu (BCE) está preocupado com a falta de responsabilização dos Conselhos de Administração na utilização destas ferramentas digitais. Essa preocupação foi expressa nesta terça-feira por Pedro Machado, membro do Conselho de Supervisão do BCE, durante a sua intervenção numa conferência da KPMG, realizada em Frankfurt.

O responsável afirmou que “do ponto de vista da supervisão, há uma mensagem muito clara: o uso da IA no setor bancário deixou de ser marginal”. Segundo explicou, “a nossa recolha anual de dados sobre tecnologias inovadoras em grandes bancos sob supervisão europeia mostra que mais de 85% já utilizam IA de alguma forma, e as taxas de adoção continuam a aumentar ano após ano. Esta tendência não está a abrandar; pelo contrário, está a acelerar, sobretudo com o rápido desenvolvimento da IA generativa e da IA agêntica”.

“Hoje, a IA — e, em particular, a IA generativa — está a ser cada vez mais utilizada em três áreas principais: primeiro, operações de TI, por exemplo, no apoio à gestão de incidentes, programação ou manutenção de sistemas; segundo, análise jurídica e documental, incluindo revisão de contratos, interpretação de regulamentação e elaboração de políticas internas; e terceiro, aplicações de linha da frente, como apoio ao cliente, gestão de relacionamento e ferramentas internas de conhecimento”, referiu Pedro Machado.

O BCE visitou recentemente vários bancos para observar in loco a forma como as instituições financeiras utilizam IA na avaliação do risco de crédito e na deteção de fraude.

Na sequência dessas visitas, o BCE identificou algumas falhas. A primeira prende-se com a governação. Segundo Pedro Machado, “os bancos ainda precisam de evoluir em três áreas principais. Primeiro, devem assegurar uma responsabilização clara e inequívoca pelas decisões baseadas em IA. Segundo, é necessária uma supervisão eficaz por parte da gestão de topo, que reflita a importância estratégica da IA. E terceiro, é fundamental implementar mecanismos robustos de controlo, envolvendo gestão de risco, compliance e auditoria interna”.

Outra das preocupações da supervisão é a “fragmentação da responsabilidade, com competências repartidas entre equipas de TI, ciência de dados, áreas de negócio e funções de controlo, sem uma estrutura clara de responsabilização”, salientou.

Estas preocupações são consistentes com os princípios das orientações da Autoridade Bancária Europeia (EBA) sobre governação interna, nomeadamente no que respeita à responsabilidade última do órgão de gestão, à clareza das funções nas três linhas de defesa, à supervisão independente eficaz e à adequada cobertura, por parte da auditoria interna, dos riscos materiais.

• Banca reforça vigilância às Tecnologias de Informação

“Do ponto de vista da supervisão, isto é problemático. A IA não dilui a responsabilidade. Pelo contrário, aumenta o nível de exigência”, afirmou.

Segundo Pedro Machado, “os supervisores reconhecem os esforços que estão a ser feitos pelos bancos. No entanto, observamos que as estruturas existentes nem sempre respondem plenamente aos desafios específicos da IA. Há três áreas que merecem atenção especial. Em primeiro lugar, a compreensão. Os bancos estão a implementar cada vez mais ferramentas que promovem a explicabilidade dos modelos, o que é positivo. Mas essa compreensão tem de ser devidamente assegurada. Não basta disponibilizar explicações técnicas ou documentação. É necessário garantir que os decisores compreendem o que está na base dos resultados dos modelos, que os gestores de risco conseguem questioná-los, que os auditores internos os revêem de forma independente e que a gestão de topo assume a responsabilidade”.

De acordo com o responsável, a IA generativa introduz desafios adicionais no setor financeiro. Um dos principais prende-se com o facto de, “ao contrário de muitos modelos tradicionais, os sistemas de IA generativa serem frequentemente fornecidos por um número reduzido de grandes prestadores externos e dependerem fortemente de infraestruturas em nuvem, assentando em modelos de propósito geral que não são totalmente transparentes para os utilizadores”.

“Do ponto de vista da supervisão, isto levanta várias preocupações relacionadas com o risco de concentração, dependência de fornecedores, confidencialidade e segurança dos dados, resiliência operacional e estratégias de saída, bem como riscos legais e reputacionais”, acrescentou.

Para Pedro Machado, “os bancos devem ser capazes de demonstrar onde a IA cria valor, como apoia o modelo de negócio e de que forma os riscos associados são identificados, avaliados e geridos”. E sublinhou: “Ganhos de eficiência e inovação são objetivos legítimos, mas devem ser enquadrados numa estrutura sólida de controlo e responsabilização”.

No futuro, a supervisão bancária do BCE “continuará a monitorizar a utilização geral de IA nos bancos, adotando uma abordagem mais direcionada e aprofundada no que respeita às aplicações de IA generativa e à sua evolução”. O responsável acrescentou que a instituição permanecerá ativamente envolvida nas discussões sobre a implementação e revisão da Lei da IA, inclusive através da sua participação no subgrupo do Conselho de IA dedicado aos serviços financeiros.

“A nossa abordagem é neutra do ponto de vista tecnológico. Não supervisionamos tecnologias. Supervisionamos a forma como os bancos utilizam as tecnologias e asseguram uma boa governação, e como isso afeta os seus perfis de risco — independentemente de os riscos decorrerem da IA, de iniciativas de tokenização ou de outras formas de inovação”, concluiu Pedro Machado.