IA generativa exige vigilância constante e políticas claras por parte dos bancos

Bancos brasileiros estão reforçando as práticas de governança e segurança no uso da inteligência artificial generativa. Durante painel promovido pela EY na Febraban Tech, executivos destacaram a necessidade de vigilância contínua e de políticas claras para mitigar riscos financeiros, reputacionais e éticos associados à tecnologia.

“Há muita preocupação com o pré-desenvolvimento e o desenvolvimento em si, mas pouco olhar para o pós, que se trata dessa verificação permanente dos sistemas para analisar, por exemplo, se as respostas dadas ao cliente continuam adequadas”, disse a head de Cultura, Governança e Estratégia de Dados e IA do Banco do Brasil, Giuliane Paulista, que participou do painel da EY na Febraban Tech, realizado no dia 11 de junho.

Na avaliação dela, esse trabalho de conformidade não se encerra na criação da IA generativa, sendo imprescindível contestar essa tecnologia a todo momento, já que está em sua essência a possibilidade de inovar nas interações, o que pode resultar em alucinação (erro ou criatividade não desejada dos sistemas de IA). “A governança não pode prejudicar a implementação da IA generativa, devendo atuar como habilitadora de sua evolução. Há necessidade de uma governança adaptativa, que se ajuste conforme a criticidade do seu uso. Uma IA que vai servir ao cliente é totalmente diferente daquela usada pelos colaboradores no dia a dia em suas funções”, completou.

Para fazer essa confrontação, são usados agentes de IA, sob supervisão humana, chamados de red teaming, que verificam possíveis vulnerabilidades do sistema. “Esses testes permitem que as organizações possam corrigir os problemas a fim de evitar exposição a qualquer risco que possa trazer prejuízos financeiros e reputacionais”, afirmou, sócia-líder da EY em Generative AI, Data e Analytics Latam, Telma Luchetta, que também participou do painel.

O red teaming provoca o modelo de IA generativa a dizer ou fazer coisas diferentes das que ele foi treinado para fornecer, o que pode incluir respostas inadequadas, trazendo discurso de ódio, pornografia, material protegido por direitos autorais ou envolvendo dados pessoais, como número de telefone e documentos. “Depois que esses problemas são expostos pelo red teaming, novos comandos de instrução são criados para a IA generativa, realinhando assim o modelo”, finalizou Telma Luchetta.

Esforços de governança

“Adotamos um framework de risco que nos ajuda na governança e na integração das áreas, com simulações de ataque para identificar essas vulnerabilidades da IA”, destacou o superintendente de Data & AI do Bradesco, Henrique Arutin, também palestrante no painel promovido pela EY. O executivo contou que o banco começou sua jornada de IA há dez anos e tem como principal case a BIA, que nasceu para ajudar os colaboradores na agência e se expandiu depois para o atendimento aos clientes. “Funcionou muito bem para nós a criação de uma plataforma central que reúne todas as aplicações de IA que estão ou foram criadas pela organização. Isso facilita a governança e a integração dessas soluções”, disse.

Para Marco Aurélio Pereira, superintendente de Auditoria de Tecnologia e Cyber do banco BV, é fundamental já começar a implementar a IA generativa com políticas claras de governança, considerando principalmente os aspectos de segurança e éticos. “Ainda vemos no mercado muitas empresas usando a IA de forma não governada e não declarada, sem que todos da organização tenham ciência sobre isso”, disse. “Isso não pode acontecer, considerando que essa jornada deve envolver a organização como um todo, com a capacitação adequada de todo o time. No BV, conseguimos, dentro das ferramentas homologadas pelo banco, capacitar todos os auditores para usar essas soluções de IA, o que tem se mostrado acertado no ganho de produtividade com segurança no dia a dia”, finalizou.

Integração impulsiona uso no setor

Unir profissionais de diferentes áreas é fundamental para garantir transparência e inovação no uso da inteligência artificial generativa e do machine learning. No Bradesco Seguros, essa integração é promovida por meio de uma comunidade de IA que estimula a troca de experiências entre cientistas de dados, engenheiros e profissionais de negócio. “Para cada unidade de negócio, definimos um owner ou dono, a fim de facilitar a comunicação e a inovação em cada uma das áreas”, explica o superintendente executivo de Inovação da empresa, Guilherme Haraguchi.

Por fim o superintendente de Tecnologia da Informação do Banco do Nordeste, Luiz Humberto Sucupira, que detém um dos maiores programas de microcrédito da América Latina, contribuindo assim para o sucesso da jornada de empreendedorismo, relembrou que, sem dados estruturados, não há como ter uma IA generativa robusta.

“Estamos reforçando nossa área de governança de dados nesse movimento de viabilizar uma IA responsável, transparente e segura”, disse. Além disso, o executivo ressaltou que não dá para armazenar os dados em uma nuvem qualquer, já que são informações estratégicas para o banco, parte delas, inclusive, de caráter pessoal. (Agência EY)