O Impacto do AI Act em Fintechs Brasileiras: Scoring de Crédito, Detecção de Fraude e Explicabilidade

Se a sua fintech opera modelos de scoring de crédito, detecção de fraude ou decisões automatizadas de concessão, 2026 marca o ano em que a palavra “explicabilidade” deixou de ser um diferencial técnico para se tornar uma obrigação regulatória — tanto no Brasil quanto na Europa. O AI Act da União Europeia, o PL 2.338/2023 no Congresso brasileiro e as novas resoluções do Banco Central convergem em uma mesma direção: modelos de “caixa-preta” enfrentam restrições crescentes, e fintechs que não adaptarem sua arquitetura de IA correm risco de multas milionárias, perda de licença e exclusão de mercados internacionais.

Este artigo analisa o cenário regulatório cruzado que afeta fintechs brasileiras em 2026, detalha as obrigações específicas de cada marco legal, apresenta a arquitetura técnica necessária para construir modelos explicáveis e mostra como uma software house especializada pode acelerar essa adequação sem comprometer a performance dos modelos.

O cenário regulatório em 2026: três frentes simultâneas

Fintechs brasileiras de crédito digital vivem um momento de consolidação e ajuste. A pesquisa PwC Fintechs de Crédito Digital 2026 confirma o que o mercado já sentia: após anos de crescimento acelerado, o setor entra em fase de maturação, com novos requisitos de capital, governança mais rígida e supervisão digital intensificada pelo Banco Central. Ao mesmo tempo, a regulamentação de inteligência artificial avança em duas jurisdições que impactam diretamente o mercado brasileiro.

As três prioridades declaradas do Banco Central para 2026 — consolidar o perímetro regulado, aumentar a supervisão digital e fortalecer a resiliência do ecossistema — traduzem-se em exigências concretas para qualquer fintech que utilize IA em seus processos decisórios. O BCB e o CMN agora exigem que instituições demonstrem como seus modelos chegam a conclusões, especialmente quando envolvem inteligência artificial. Modelos “caixa-preta” enfrentam restrições crescentes e escrutínio regulatório sem precedentes.

AI Act da União Europeia: o que já está valendo

O AI Act (Regulamento (UE) 2024/1689) classifica sistemas de scoring de crédito como alto risco (Anexo III). As obrigações de transparência entraram em vigor em 2 de agosto de 2026, e embora as obrigações completas para sistemas de alto risco tenham prazo estendido até dezembro de 2027 e agosto de 2028, as regras de transparência e informação ao usuário já são aplicáveis.

As obrigações de alto risco incluem: sistema de gestão de riscos documentado, governança de dados de treinamento, documentação técnica detalhada, registro automático de logs (rastreabilidade), transparência e informação ao usuário, supervisão humana, e requisitos de acurácia, robustez e cibersegurança. Além disso, o AI Act exige avaliação de impacto em direitos fundamentais antes do deployment de sistemas de scoring.

O ponto mais crítico para fintechs brasileiras é a extraterritorialidade: uma fintech sediada em São Paulo que ofereça produtos de crédito a clientes em Portugal, por exemplo, está sujeita ao AI Act. Com o crescimento do Open Finance e a internacionalização de fintechs brasileiras para mercados lusófonos, essa regra de alcance territorial deixa de ser teórica e passa a afetar operações reais.

PL 2.338/2023: a regulamentação brasileira de IA

O Projeto de Lei 2.338/2023, em tramitação avançada no Congresso Nacional, segue arquitetura similar ao AI Act europeu ao classificar scoring de crédito como sistema de alto risco. As principais obrigações previstas incluem:

• Explicabilidade em linguagem acessível: a pessoa afetada pela decisão automatizada tem direito a receber explicação compreensível sobre como o modelo chegou àquela conclusão, não apenas uma notificação genérica
• Avaliação de impacto algorítmico: antes de colocar um sistema de scoring em produção, a fintech deve documentar riscos, medidas de mitigação e mecanismos de contestação
• Direito de contestação humana: decisões automatizadas de crédito devem permitir revisão por pessoa natural
• Registro e auditoria: manutenção de logs que permitam rastrear o processo decisório do modelo

As multas previstas no PL 2.338 chegam a R$ 50 milhões por infração ou 2% do faturamento bruto da empresa no Brasil, o que coloca a adequação regulatória como prioridade de negócio, não apenas de compliance.

LGPD e o direito já vigente

Enquanto o PL 2.338 tramita, a LGPD já oferece base legal para contestação de decisões automatizadas. O Artigo 20 da LGPD garante ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses — e isso inclui, sem qualquer dúvida, decisões de concessão ou recusa de crédito.

Na prática, isso significa que qualquer consumidor que tenha crédito negado por um modelo de scoring pode, hoje, solicitar que a fintech explique como a decisão foi tomada. Se o modelo é uma rede neural profunda sem mecanismos de explicabilidade, a fintech terá dificuldade em cumprir essa obrigação legal já vigente.

Comparativo regulatório: o que cada marco exige das fintechs

Para facilitar o planejamento de adequação, consolidamos as exigências dos três marcos regulatórios mais relevantes para fintechs que operam com IA no Brasil:

Scoring de crédito com IA: por que a “caixa-preta” é um risco regulatório e de negócio

O modelo clássico de machine learning para scoring de crédito — treinar um gradient boosting ou rede neural em dados históricos, otimizar para AUC-ROC e colocar em produção — funcionou bem durante a fase de crescimento rápido das fintechs. Mas esse paradigma encontrou três limites simultâneos em 2026.

O primeiro é regulatório: como vimos, BCB, AI Act e PL 2.338 exigem que o modelo seja capaz de explicar suas decisões. O segundo é de negócio: consumidores que recebem apenas um “crédito negado” sem justificativa tendem a migrar para concorrentes que oferecem transparência, e reclamações no Procon e Banco Central geram custos operacionais crescentes. O terceiro é técnico: modelos opacos são mais difíceis de debugar, auditar e manter, o que aumenta o risco de drift e viés não detectado.

O paradoxo é que modelos mais complexos (deep learning, ensembles profundos) costumam performar melhor em métricas preditivas, mas são os mais difíceis de explicar. A boa notícia é que técnicas de Explainable AI (XAI) evoluíram significativamente e já permitem combinar alta performance com explicabilidade regulatória.

O desafio do Open Finance

O Open Finance brasileiro adiciona uma camada de complexidade ao cenário. Com o compartilhamento de dados entre instituições, modelos de scoring passam a consumir dados de múltiplas fontes — histórico bancário, investimentos, seguros, previdência — o que potencialmente melhora a capacidade preditiva, mas também multiplica os vetores de explicabilidade.

Quando um modelo nega crédito usando dados compartilhados via Open Finance, a fintech precisa ser capaz de explicar não apenas quais variáveis pesaram na decisão, mas também de qual fonte vieram esses dados. A interseção Open Finance + IA + regulação cria uma complexidade exponencial que exige arquitetura pensada desde o início para rastreabilidade e explicabilidade.

Detecção de fraude: entre falsos positivos e direitos do consumidor

Se o scoring de crédito é a aplicação mais visível de IA em fintechs, a detecção de fraude é a mais crítica em termos operacionais. Modelos antifraude operam em tempo real, processam milhões de transações por dia e precisam equilibrar dois objetivos conflitantes: minimizar fraudes reais (falsos negativos) sem bloquear transações legítimas (falsos positivos).

Do ponto de vista regulatório, a detecção de fraude apresenta desafios específicos. Um falso positivo — bloquear uma transação legítima — pode constituir uma decisão automatizada que afeta direitos do consumidor, especialmente se impedir acesso a recursos financeiros em momento crítico. Sob a LGPD, o consumidor tem direito de questionar essa decisão.

Além disso, modelos antifraude frequentemente utilizam dados sensíveis — geolocalização, padrões de consumo, dispositivos utilizados — que requerem tratamento especial sob a LGPD e, para fintechs que operam na Europa, sob o GDPR e o AI Act. A detecção de fraude financeira também aparece no Anexo III do AI Act como caso de uso que pode ser classificado como alto risco, dependendo da natureza da decisão automatizada.

Arquitetura técnica para modelos explicáveis: o estado da arte em 2026

Construir modelos de IA explicáveis para fintechs não é apenas uma questão de adicionar uma camada de interpretação pós-treinamento. A explicabilidade efetiva — aquela que satisfaz simultaneamente reguladores, auditores, operadores de negócio e consumidores — exige decisões arquiteturais desde a concepção do sistema.

Camada 1: Modelos inerentemente interpretáveis

A abordagem mais direta é utilizar modelos que sejam interpretáveis por design. Regressão logística, árvores de decisão com profundidade limitada e modelos aditivos generalizados (GAMs) oferecem explicações naturais: cada variável tem um coeficiente ou contribuição claramente identificável. O Explainable Boosting Machine (EBM), uma implementação moderna de GAM com interações aprendidas, demonstrou performance competitiva com gradient boosting em vários benchmarks de scoring de crédito, mantendo interpretabilidade completa.

Para fintechs que buscam adequação regulatória imediata, modelos inerentemente interpretáveis são o caminho de menor risco. A desvantagem é que, em datasets com padrões altamente não-lineares e interações complexas, esses modelos podem ter performance inferior a ensembles mais sofisticados.

Camada 2: Explicabilidade pós-hoc para modelos complexos

Quando a performance preditiva é prioritária e modelos mais complexos são necessários, técnicas de explicabilidade pós-hoc permitem gerar explicações para decisões individuais:

• SHAP (SHapley Additive exPlanations): baseado na teoria dos jogos cooperativos, calcula a contribuição marginal de cada variável para uma previsão específica. É o padrão de facto para explicabilidade em modelos tabulares e oferece tanto explicações locais (por decisão) quanto globais (comportamento geral do modelo)
• LIME (Local Interpretable Model-agnostic Explanations): cria um modelo linear local ao redor de cada previsão, identificando quais variáveis foram mais relevantes naquela região do espaço de features
• Counterfactual Explanations: respondem à pergunta “o que precisaria mudar para que a decisão fosse diferente?” — por exemplo, “se sua renda mensal fosse R$ 2.000 maior, o crédito seria aprovado”. Esta técnica é particularmente útil para atender o requisito de “explicação em linguagem acessível” do PL 2.338
• Anchors: identificam regras suficientes para a decisão — por exemplo, “se score Serasa > 700 E tempo de emprego > 2 anos, o crédito é aprovado independentemente das demais variáveis”

Camada 3: Infraestrutura de rastreabilidade

Além do modelo em si, a adequação regulatória exige infraestrutura que registre e preserve o contexto de cada decisão. Isso inclui:

• Feature store com versionamento: cada decisão deve ser vinculada à versão exata das features utilizadas, garantindo reprodutibilidade
• Model registry: registro de qual versão do modelo gerou cada decisão, incluindo hiperparâmetros, dados de treinamento e métricas de validação
• Decision log: armazenamento estruturado de cada decisão com timestamp, input features, output do modelo, explicação gerada e resultado da supervisão humana (quando aplicável)
• Bias monitoring: monitoramento contínuo de viés por variáveis sensíveis (gênero, raça, idade, região), com alertas automáticos quando desvios são detectados
• Drift detection: monitoramento de data drift e concept drift para identificar quando o modelo precisa ser retreinado

Essa infraestrutura não é trivial de construir. Envolve decisões sobre armazenamento (quanto tempo manter logs — o AI Act exige documentação por todo o ciclo de vida do sistema), formato de explicações (técnico para auditores, acessível para consumidores), integração com sistemas legados e performance em tempo real para detecção de fraude.

Os quatro níveis de explicabilidade que reguladores esperam

Um erro comum é tratar “explicabilidade” como requisito binário — o modelo explica ou não explica. Na prática, reguladores, auditores e consumidores precisam de níveis diferentes de explicação:

Nível 1 — Explicação ao consumidor: linguagem simples, sem jargão técnico. “Seu crédito foi recusado principalmente porque o comprometimento de renda mensal está acima de 40%. Se reduzir seus compromissos financeiros em R$ 800, a aprovação seria possível.” Esse é o nível exigido pelo PL 2.338 e já recomendado pela LGPD.

Nível 2 — Explicação operacional: para equipes de negócio e atendimento ao cliente. Inclui os principais fatores da decisão com pesos relativos, permitindo que operadores humanos validem ou contestem a decisão do modelo. Esse é o nível necessário para o requisito de supervisão humana do AI Act.

Nível 3 — Explicação para auditoria: documentação técnica completa incluindo versão do modelo, features utilizadas, SHAP values, dados de treinamento e validação, métricas de performance e análise de viés. Esse nível atende aos requisitos de documentação técnica do AI Act e de avaliação de impacto algorítmico do PL 2.338.

Nível 4 — Explicação para o regulador: visão sistêmica da governança de IA da instituição, incluindo políticas, processos, responsáveis, mecanismos de monitoramento e planos de contingência. Esse nível atende às exigências do BCB e do sistema de gestão de riscos do AI Act.

Estratégias práticas de adequação para fintechs em 2026

Dado o volume de requisitos e a convergência de três marcos regulatórios, como uma fintech brasileira pode se adequar de forma pragmática? A resposta depende da maturidade atual e do horizonte de exposição regulatória.

Para fintechs com operação apenas doméstica

A prioridade é a adequação ao BCB (já vigente) e preparação para o PL 2.338. A recomendação é começar pela implementação de SHAP values nos modelos existentes, criar uma camada de tradução de explicações técnicas para linguagem acessível, e implementar um decision log estruturado. Essa abordagem oferece conformidade com a LGPD Art. 20 hoje e prepara a fintech para o PL 2.338 quando aprovado.

Para fintechs com exposição europeia (Portugal, por exemplo)

A situação é mais urgente. Com as obrigações de transparência do AI Act valendo desde agosto de 2026, a fintech precisa, no mínimo: documentar tecnicamente todos os sistemas de IA que afetam consumidores europeus, implementar informação ao usuário sobre o uso de IA na decisão de crédito, e iniciar a avaliação de impacto em direitos fundamentais. A documentação técnica completa e os requisitos de alto risco têm prazo até dezembro de 2027, mas começar agora é uma decisão prudente dada a complexidade envolvida.

Para fintechs em fase de crescimento

A maior vantagem de fintechs que ainda estão construindo sua infraestrutura de IA é a possibilidade de incorporar explicabilidade e rastreabilidade desde o design. Isso é significativamente mais barato e eficiente do que retrofitting em modelos existentes. A recomendação é adotar a arquitetura de explicabilidade nativa — feature store versionado, model registry, decision log e monitoring — como parte do MVP, não como fase posterior.

O custo da inação: cenários de risco concretos

Para dimensionar o risco, considere três cenários que já são plausíveis em 2026:

Cenário 1 — Multa do AI Act: uma fintech brasileira que opera em Portugal via parceria com banco local utiliza modelo de scoring sem documentação técnica adequada. A autoridade de supervisão portuguesa identifica a não-conformidade. Multa potencial: até €35 milhões ou 7% do faturamento global, além da suspensão da operação no mercado europeu.

Cenário 2 — Ação coletiva sob a LGPD: consumidores que tiveram crédito negado sem explicação adequada ingressam com ação coletiva fundamentada no Art. 20 da LGPD. O custo inclui não apenas indenizações, mas dano reputacional e pressão regulatória do BCB.

Cenário 3 — Perda de competitividade: investidores e parceiros institucionais passam a exigir conformidade com padrões de IA responsável como pré-requisito para rodadas de investimento e parcerias. Fintechs sem governança de IA documentada perdem acesso a capital e mercados.

Nenhum desses cenários é hipotético. O AI Act já está em vigor, a LGPD já é aplicada pela ANPD, e investidores institucionais já incluem governança de IA em seus checklists de due diligence.

O papel de uma software house especializada na adequação regulatória

A adequação de modelos de IA a múltiplos marcos regulatórios simultâneos é um desafio que exige competência tanto em engenharia de software quanto em machine learning, compliance e arquitetura de dados. Poucas fintechs — especialmente as de menor porte — têm todas essas competências internamente.

É nesse contexto que a parceria com uma software house com experiência em fintechs e enterprise se torna estratégica. Uma software house experiente traz não apenas capacidade de desenvolvimento, mas conhecimento acumulado de projetos anteriores: quais padrões arquiteturais funcionam na prática, quais armadilhas de compliance devem ser evitadas, como integrar explicabilidade sem degradar a performance dos modelos.

A Mind Group atua como software house construindo soluções sob medida para clientes como XP e DASA, o que inclui experiência direta com os requisitos de compliance e governança de dados que instituições financeiras e de saúde exigem. Essa experiência em ambientes regulados é diretamente aplicável ao desafio de construir modelos de IA explicáveis para fintechs.

“A regulamentação de IA não é um obstáculo ao crescimento das fintechs — é uma oportunidade de diferenciação. As fintechs que construírem modelos transparentes e explicáveis vão conquistar a confiança de reguladores, investidores e consumidores. Na Mind Group, já ajudamos clientes do setor financeiro a implementar arquiteturas que combinam alta performance preditiva com rastreabilidade completa de decisões. Quem tratar compliance como investimento estratégico, não como custo, vai liderar o próximo ciclo.”

José Gonçalves, CEO da Mind Group

Projetos de adequação regulatória de IA tipicamente envolvem: auditoria dos modelos existentes e gap analysis regulatório, redesign arquitetural para incorporar explicabilidade (SHAP, counterfactuals), implementação de feature store, model registry e decision log, construção da camada de tradução de explicações técnicas para linguagem acessível, setup de monitoramento contínuo de viés e drift, e documentação técnica alinhada aos padrões exigidos pelo AI Act e PL 2.338.

A Mind Group constrói essas soluções como projetos sob medida, adaptados à realidade de cada cliente — stack tecnológico existente, volume de dados, complexidade dos modelos e horizonte regulatório. Cases internos como o LawrAI, sistema de IA jurídica que alcançou mais de 20.000 usuários, demonstram a capacidade da empresa de escalar soluções de IA em ambientes regulados onde transparência e rastreabilidade são requisitos inegociáveis.

Checklist de adequação: 12 itens para fintechs que operam com IA

Para fintechs que buscam um guia prático de adequação, consolidamos os requisitos cruzados em um checklist acionável:

1. Inventário de sistemas de IA: catalogar todos os modelos que tomam ou influenciam decisões sobre pessoas (scoring, fraude, pricing, cobrança)
2. Classificação de risco: mapear quais modelos se enquadram como alto risco no AI Act e PL 2.338
3. Gap analysis regulatório: para cada modelo de alto risco, identificar quais requisitos já são atendidos e quais exigem adequação
4. Implementação de explicabilidade: adicionar SHAP ou técnica equivalente para gerar explicações por decisão individual
5. Camada de tradução: construir sistema que converta explicações técnicas em linguagem acessível para consumidores
6. Decision log estruturado: implementar registro de cada decisão com features, versão do modelo, explicação e timestamp
7. Feature store versionado: garantir reprodutibilidade vinculando cada decisão à versão exata dos dados utilizados
8. Monitoramento de viés: implementar alertas automáticos para desvios por variáveis sensíveis
9. Drift detection: monitorar data drift e concept drift com retreinamento planejado
10. Supervisão humana: definir processos e responsáveis para revisão de decisões contestadas
11. Documentação técnica: preparar documentação alinhada aos padrões do AI Act (ciclo de vida completo do modelo)
12. Avaliação de impacto: conduzir avaliação de impacto algorítmico e de direitos fundamentais pré-deployment

O futuro: convergência regulatória e vantagem competitiva

O movimento regulatório global sobre IA é irreversível. Além do AI Act e do PL 2.338, jurisdições como Canadá, Reino Unido, Japão e Singapura estão desenvolvendo seus próprios frameworks. Para fintechs com ambições internacionais, construir uma arquitetura de IA que atenda ao denominador comum mais exigente (atualmente o AI Act) significa estar preparado para operar em qualquer mercado.

Mais do que compliance, a explicabilidade tende a se tornar um diferencial de mercado. Pesquisas consistentes mostram que consumidores confiam mais em instituições financeiras que explicam como decisões são tomadas. Em um mercado de crédito digital cada vez mais competitivo, a capacidade de dizer “seu crédito foi aprovado porque…” ou “para melhorar suas condições, você pode…” transforma um processo burocrático em experiência do cliente.

As fintechs que tratarem a regulamentação de IA como oportunidade estratégica — e não como custo de compliance — serão as vencedoras do próximo ciclo de consolidação do mercado brasileiro de crédito digital.

Conclusão

O ano de 2026 é um ponto de inflexão para fintechs brasileiras que operam com inteligência artificial. A convergência de três marcos regulatórios — BCB, AI Act e PL 2.338 — cria um cenário onde a explicabilidade deixa de ser opcional e se torna requisito de operação. Modelos de scoring de crédito e detecção de fraude que não incorporem transparência, rastreabilidade e supervisão humana enfrentam multas que podem chegar a dezenas de milhões, perda de acesso a mercados internacionais e erosão de confiança junto a consumidores e investidores.

A boa notícia é que a tecnologia de Explainable AI já é madura o suficiente para atender esses requisitos sem sacrificar a performance preditiva dos modelos. O desafio é mais de arquitetura e engenharia do que de ciência — e é exatamente o tipo de desafio que uma software house com experiência em ambientes regulados está equipada para resolver.

Se a sua fintech precisa adequar modelos de IA aos novos requisitos regulatórios, a Mind Group pode ajudar. Com experiência em projetos para clientes como XP e DASA, a empresa constrói soluções sob medida que combinam alta performance, explicabilidade regulatória e escalabilidade. Entre em contato para uma conversa sobre como preparar sua operação para o novo cenário regulatório.

Perguntas Frequentes (FAQ)

O AI Act europeu se aplica a fintechs brasileiras?

Sim, por conta da regra de extraterritorialidade. Se uma fintech brasileira oferece produtos ou serviços cujos outputs (decisões de crédito, por exemplo) afetem pessoas localizadas na União Europeia, ela está sujeita ao AI Act. Isso é particularmente relevante para fintechs que atendem clientes em Portugal ou que operam via parcerias com instituições financeiras europeias. As obrigações de transparência do AI Act já estão em vigor desde agosto de 2026, e as obrigações completas para sistemas de alto risco (como scoring de crédito) entram em vigor entre dezembro de 2027 e agosto de 2028.

Quais são as multas por não adequação dos modelos de IA?

As penalidades variam conforme o marco regulatório. O AI Act prevê multas de até 35 milhões de euros ou 7% do faturamento global anual da empresa, o que for maior. O PL 2.338 brasileiro prevê multas de até R$ 50 milhões ou 2% do faturamento bruto no Brasil. Além das multas diretas, o BCB pode aplicar sanções administrativas que incluem restrições operacionais e, em casos extremos, cancelamento de licença. A LGPD, por sua vez, permite multas de até R$ 50 milhões por infração via ANPD. É importante notar que essas multas podem ser cumulativas se a infração violar múltiplos marcos legais simultaneamente.

É possível manter a performance do modelo de scoring e adicionar explicabilidade?

Sim. As técnicas modernas de Explainable AI (XAI), como SHAP e Counterfactual Explanations, podem ser aplicadas a modelos complexos (gradient boosting, deep learning) sem alterar sua performance preditiva, pois funcionam como camada de interpretação pós-hoc. Além disso, modelos inerentemente interpretáveis como Explainable Boosting Machines (EBM) demonstram performance competitiva com modelos opacos em benchmarks de scoring de crédito. A escolha depende do trade-off específico de cada fintech entre complexidade do modelo, volume de dados e nível de explicabilidade exigido.

Quanto tempo leva para adequar uma fintech aos novos requisitos de IA?

O prazo depende da maturidade atual da infraestrutura de IA da fintech. Para fintechs que já possuem MLOps estruturado e feature stores, a adequação pode ser feita em 3 a 6 meses, focando na implementação de camadas de explicabilidade e documentação. Para fintechs com infraestrutura menos madura, o projeto pode levar de 6 a 12 meses, pois envolve redesign arquitetural mais profundo. O mais importante é começar imediatamente: as obrigações do BCB já estão vigentes, as de transparência do AI Act entraram em vigor em agosto de 2026, e o PL 2.338 pode ser aprovado a qualquer momento.

Fontes

• Regulamento (UE) 2024/1689 — Artificial Intelligence Act. Parlamento Europeu e Conselho da União Europeia, 2024. Anexo III — Sistemas de IA de alto risco.
• PL 2.338/2023 — Marco Legal da Inteligência Artificial no Brasil. Senado Federal.
• Lei 13.709/2018 — Lei Geral de Proteção de Dados (LGPD). Art. 20 — Revisão de decisões automatizadas.
• Banco Central do Brasil — Agenda regulatória e prioridades para 2026. BCB, 2026.
• PwC — Pesquisa Fintechs de Crédito Digital 2026: consolidação e ajuste do setor.
• Lundberg, S. M. & Lee, S. I. — A Unified Approach to Interpreting Model Predictions (SHAP). NeurIPS 2017.
• Ribeiro, M. T.; Singh, S.; Guestrin, C. — “Why Should I Trust You?”: Explaining the Predictions of Any Classifier (LIME). KDD 2016.
• Conselho Monetário Nacional — Resolução sobre requisitos de governança e transparência para modelos decisórios com IA em instituições financeiras.

Escrito por José Gonçalves

CEO e fundador da Mind Group (fundada em 2016), software house brasileira sediada em Sorocaba/SP. Lidera o desenvolvimento de sistemas, aplicativos, IA e automações para clientes como Itaipu Binacional, Fisk, Lojas Torra, Febracis e Vertuz. Especialista em arquitetura de software, squads ágeis e integração de Inteligência Artificial em operações B2B.

LinkedIn →