O AI Act da União Europeia, aprovado em julho de 2024 e com implementação completa ao longo de 2025, classifica os sistemas de IA em quatro níveis de risco. No setor bancário, várias interações entram no risco alto: exigem gestão de riscos, governança de dados, supervisão humana e auditoria. Será a referência para LATAM e EUA.
Introdução e oportunidades da inteligência artificial De forma inevitável, assim como nas demais indústrias, o setor bancário não está alheio à aceleração da adoção da inteligência artificial generativa nos últimos anos. Essa tecnologia traz consigo grandes promessas de oportunidades a aproveitar, sendo uma delas as aplicações potenciais no atendimento ao cliente, em que se destacam três pontos principais: Eficiência de custos e escalabilidade Inovação e aceleração de processos de transformação digital Melhoria do nível de serviço, retenção de clientes e transações A inteligência artificial como ferramenta e a metodologia como diferencial Ao longo do tempo, as soluções que oferecem esse tipo de serviço foram evoluindo, adotando diferentes formas de trabalho e alcançando maior ou menor sucesso ao enfrentar diferentes cenários. Por exemplo, a abordagem da Delto, com sua metodologia “Skill Growth Strategy”, parte da premissa de obter um controle limitante sobre o que a IA generativa pode (e o que não pode) resolver, construindo de menos para mais, e se destaca ao enfrentar casos complexos ou de informação sensível. Da mesma forma, existem outras soluções que partem de uma base com menos restrições, mais adequadas para casos em que se pode dar mais liberdade (ou isso é até um requisito) para que a IA possa interagir, criar ou errar sem maiores consequências. Portanto, como podemos deduzir, diferentes indústrias têm diferentes complexidades, diferentes margens de erro e diferentes consequências, que devem ser tratadas de forma diferente, mesmo usando a mesma ferramenta. A regulação sobre a inteligência artificial está se atualizando Recapitulando os parágrafos anteriores: inicialmente encontramos uma ferramenta que nos abriu um mundo de possibilidades; em segundo lugar, entendemos que essa ferramenta precisa ser adaptada com consciência dependendo das características do problema a resolver. Em terceiro lugar, adaptando-se por sua vez a essa disrupção tecnológica, chegam a regulação e as leis que vão marcar as diretrizes e os requisitos dos próximos anos no uso desse tipo de solução. Hoje, a referência mundial—ou ao menos para o mundo ocidental—em relação à regulação governamental é o AI Act elaborado pela Comissão Europeia da União Europeia, que foi aprovado em julho de 2024 e será implementado em sua totalidade ao longo de 2025. Embora nos Estados Unidos também exista um comunicado com recomendações de 2023 e uma ordem executiva emitida pela Casa Branca , são bem mais restritos e primitivos do que o elaborado pela União Europeia. Em resumo, o AI Act possivelmente será, nos próximos anos, a fonte de inspiração e referência para as regulações de todos os países da América Latina e dos Estados Unidos. A modo de resumo, o AI Act tem uma abordagem de regulação dos sistemas com componentes de IA baseada no risco que interagir com ela representa para o usuário final. Essa classificação é composta pelos seguintes níveis: Risco inaceitável Risco alto Risco baixo Risco mínimo Os critérios de classificação da escala estão detalhados no documento e não os aprofundamos nesta nota; deixaremos recursos adicionais mais adiante. O importante em relação a este artigo é entender que, além da classificação de risco, isso implica muito trabalho ao redor do sistema, que aumenta em complexidade à medida que o risco aumenta, obviamente. Isso é importante pela natureza da informação e das interações que fazem parte da atividade bancária, algumas das quais podem ser consideradas de potencial risco alto. É fundamental entender que a classificação de risco alto não busca limitar o uso de sistemas de IA para o que se queira fazer (para isso existe a categoria de inaceitável); o que ocorre é que é preciso cercar o sistema de certos requisitos, padrões e protocolos que o apoiem de forma adequada para atuar minimizando o risco potencial. A modo de referência, no AI Act, em nível regulatório para os casos de risco alto, destacam-se os seguintes requisitos: Estabelecer um sistema de gestão de riscos e mitigação de falhas Realizar governança dos dados, garantindo que os conjuntos de dados de treinamento, validação e teste sejam pertinentes, suficientemente representativos e, na medida do possível, livres de erros e completos de acordo com a finalidade prevista. Elaborar documentação técnica para demonstrar o bom funcionamento e fornecer às autoridades as informações necessárias para avaliar o sistema. Projetar o sistema para que registre a atividade dos usuários e possa rastrear as interações quando necessário. Fornecer instruções de uso aos responsáveis pela implementação para permitir o cumprimento por parte destes. Projetar o sistema para que pessoas possam realizar atividades de supervisão e executar protocolos de mitigação. Projetar e testar o sistema para alcançar níveis adequados de precisão, solidez e cibersegurança. Estabelecer um sistema de gestão da qualidade para garantir que tudo o anterior seja cumprido. No caso da União Europeia, tudo isso é auditado pelas autoridades para comprovar que de fato está sendo cumprido. Conclusão: como isso pode impactar o setor bancário no futuro? Como tudo o que se relaciona a regulações e leis, esses movimentos nos diferentes países são lentos, mas sem dúvida podemos pensar que é questão de tempo até que legislações semelhantes sejam aplicadas na LATAM e nos EUA. Pela natureza do setor bancário, seria prudente ir adaptando as soluções implementadas para cumprir esses requisitos, além de que também são práticas que nos aproximam de oferecer uma solução melhor aos clientes finais e cuidar mais da experiência. Da nossa parte, na Delto estamos combinando todos esses requisitos com nossa metodologia de trabalho para atender a esse tipo de exigência desde o início, buscando oferecer o melhor serviço possível e também nos antecipar a essas regulações. Dessa forma, além de garantir uma solução robusta, evitamos a possibilidade de, no futuro, ter que substituir, descontinuar ou refazer do zero uma solução por causa de uma atualização regulatória no horizonte. Recomendamos fortemente analisar esse aspecto em detalhe na hora de escolher embarcar em um projeto de incorporação de inteligência artificial generativa para atendimento ao cliente. São perguntas que, se nos fizermos hoje, possivelmente nos pouparão muitas dores e muito dinheiro no futuro próximo. Caso queira conhecer a Delto e nossa solução, você pode agendar uma reunião conosco clicando aqui
O que é o AI Act e por que ele importa para os bancos? É a regulação de IA da União Europeia, aprovada em julho de 2024 e implementada na totalidade ao longo de 2025. Classifica os sistemas pelo risco que representam para o usuário final. Importa porque várias interações bancárias podem entrar na categoria de risco alto, e porque será a referência para futuras regulações na LATAM e nos Estados Unidos.
O que o AI Act exige de um sistema de IA de risco alto? Oito requisitos: sistema de gestão de riscos e mitigação de falhas, governança de dados, documentação técnica, registro de atividade dos usuários, instruções de uso, supervisão humana, níveis adequados de precisão e cibersegurança, e um sistema de gestão da qualidade. Na UE, as autoridades auditam tudo isso.
Como os bancos da LATAM devem se preparar antes de a regulação chegar? Adaptando hoje as soluções de IA para cumprir esses requisitos desde o início. Isso evita ter que substituir ou refazer o sistema diante de uma atualização regulatória e melhora a experiência do cliente. Na Delto combinamos esses requisitos com nossa metodologia Skill Growth Strategy para nos antecipar.