Inteligência artificial e compliance: 7 controles

O uso corporativo de inteligência artificial exige governança porque pode expor dados pessoais, produzir decisões discriminatórias, violar direitos autorais e gerar respostas incorretas com impacto jurídico e financeiro.

• Mapear todas as ferramentas de IA usadas por empregados, fornecedores e sistemas integrados.
• Impedir o envio de dados pessoais, segredos comerciais e documentos confidenciais para serviços não autorizados.
• Classificar cada aplicação conforme o impacto sobre pessoas, operações e obrigações legais.
• Exigir revisão humana antes de decisões sobre contratação, crédito, saúde, atendimento ou medidas disciplinares.
• Registrar comandos, versões, fontes, responsáveis e resultados para permitir auditoria.
• Avaliar fornecedores, contratos, localização dos dados e práticas de treinamento dos modelos.
• Monitorar erros, vieses, incidentes e mudanças relevantes durante todo o uso da solução.

Uma política curta pode falhar se ninguém souber quais ferramentas estão em uso. Os controles abaixo ajudam a localizar a IA invisível, evitar dados sem base legal e definir quando a supervisão humana deve interromper uma decisão automatizada.

Os riscos corporativos começam antes da contratação

A IA informal escapa dos controles quando empregados usam contas pessoais, extensões de navegador ou recursos integrados a outros softwares. Embora a ferramenta pareça gratuita, ela pode armazenar comandos, anexos e respostas em ambientes externos.

O AI Index Report 2025, da Universidade Stanford, registrou que 78% das organizações pesquisadas relataram usar IA em 2024, contra 55% em 2023. Como a adoção cresce rapidamente, o inventário anual costuma ficar desatualizado antes da próxima revisão.

Uma varredura inicial deve combinar questionários internos, análise de contratos, registros de acesso e entrevistas com áreas críticas. Se a empresa perguntar apenas quais sistemas comprou, ela deixará de identificar ferramentas gratuitas e funções de IA ativadas dentro de plataformas já contratadas.

Um inventário útil registra contexto e responsabilidade

O cadastro precisa indicar a finalidade, o proprietário interno, o fornecedor, os usuários autorizados e os tipos de dados processados. Além disso, a equipe deve registrar se o sistema recomenda, redige, classifica ou decide, porque cada função produz um nível diferente de risco.

• Nome do sistema, versão do modelo e data de aprovação interna.
• Finalidade específica, área responsável e público afetado.
• Categorias de dados recebidas, geradas e armazenadas.
• Integrações com e mail, CRM, prontuário, folha de pagamento ou bancos de dados.
• Grau de autonomia e ponto obrigatório de revisão humana.
• Prazo de retenção, localização do processamento e mecanismo de exclusão.

Uma empresa de recrutamento, por exemplo, pode usar IA para resumir currículos sem permitir que o modelo elimine candidatos. Nesse caso, a ferramenta apoia o trabalho, enquanto o recrutador mantém a decisão e documenta os critérios aplicados.

Dados pessoais e informações confidenciais exigem limites

A LGPD alcança o uso de IA quando a operação trata dados pessoais em território brasileiro ou oferece bens e serviços a pessoas localizadas no Brasil. Por isso, a empresa precisa identificar finalidade, base legal, necessidade e transparência antes de enviar informações ao modelo.

Dados de saúde, biometria, religião e origem racial recebem proteção reforçada como dados pessoais sensíveis. Se uma equipe copiar prontuários para um assistente público sem autorização, poderá expor pacientes e descumprir princípios da LGPD, mesmo que busque apenas resumir documentos.

O artigo 52 da LGPD permite multa de até 2% do faturamento da pessoa jurídica no Brasil, limitada a R$ 50 milhões por infração. Contudo, a sanção financeira não elimina custos de investigação, interrupção operacional, defesa e comunicação aos titulares.

A Resolução CD/ANPD nº 15 de 2024 estabelece 3 dias úteis para comunicar à ANPD e aos titulares um incidente que possa causar risco ou dano relevante. Como sistemas de IA podem replicar dados em registros e integrações, o plano de resposta deve identificar rapidamente onde a informação circulou.

A governança de dados reduz essa exposição, e a análise sobre como a LGPD reforça a governança de dados ajuda a conectar controles de acesso, qualidade e responsabilidade.

Dados sem base legal bloqueiam o projeto

Dados sem base legal não devem entrar no treinamento, no ajuste ou na operação de um modelo. Embora o interesse legítimo possa sustentar certas atividades, a organização precisa testar finalidade, necessidade, balanceamento e salvaguardas.

A anonimização pode reduzir riscos, mas a simples remoção do nome não garante anonimato. Quando outro conjunto permite reidentificar a pessoa por matrícula, localização ou combinação de atributos, a LGPD ainda pode alcançar a operação.

• Substituir dados reais por dados sintéticos durante testes sempre que a fidelidade estatística permitir.
• Aplicar mascaramento antes de enviar documentos a ambientes de desenvolvimento.
• Bloquear comandos com CPF, credenciais, números de cartão ou segredos comerciais.
• Separar dados usados para operar o serviço daqueles usados pelo fornecedor para treinar modelos.

Erros, vieses e decisões automatizadas afetam pessoas

Modelos generativos podem apresentar informações falsas com linguagem convincente porque calculam sequências prováveis, em vez de verificar automaticamente cada fato. Esse erro, conhecido como alucinação, ganha gravidade quando a resposta orienta um contrato, um diagnóstico ou uma obrigação regulatória.

Um departamento jurídico pode receber uma decisão judicial inexistente, enquanto uma central de atendimento pode informar um benefício sem previsão contratual. Portanto, o usuário deve consultar a fonte primária antes de aceitar datas, valores, citações ou requisitos produzidos pela IA.

O viés também pode surgir nos dados históricos, nas variáveis escolhidas ou no limite usado para classificar pessoas. Se um modelo aprende com contratações anteriores marcadas por desigualdade, ele pode reproduzir o padrão mesmo sem usar diretamente sexo, idade ou raça.

Revisão humana precisa alterar o resultado

O artigo 20 da LGPD assegura ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Além disso, o controlador deve fornecer informações claras sobre os critérios e procedimentos, respeitados os segredos comercial e industrial.

A revisão humana só funciona quando o responsável possui autoridade, tempo e informações para discordar do sistema. Se o analista apenas confirma recomendações para cumprir uma etapa, a empresa mantém o risco e cria uma falsa aparência de controle.

1. Apresente ao revisor os dados relevantes e a justificativa gerada pelo sistema.
2. Permita que ele corrija entradas, solicite evidências e rejeite a recomendação.
3. Registre a decisão final, o motivo da divergência e o responsável.
4. Analise periodicamente as taxas de confirmação, alteração e erro por grupo afetado.

Uma taxa de confirmação humana próxima de 100% merece investigação, pois pode indicar automação por complacência. Entretanto, a taxa isolada não prova falha, porque processos simples podem realmente produzir alta concordância.

Segurança, propriedade intelectual e terceiros ampliam a exposição

A injeção de comandos pode induzir um sistema a ignorar instruções, revelar dados ou executar ações indevidas. A OWASP inclui prompt injection entre os principais riscos para aplicações baseadas em grandes modelos de linguagem.

Filtros de entrada ajudam, mas não eliminam o ataque porque o comando malicioso pode aparecer em páginas, arquivos e mensagens processadas pelo modelo. Por isso, a aplicação deve limitar permissões, isolar ferramentas e exigir confirmação antes de enviar e mails, alterar cadastros ou executar pagamentos.

Os direitos autorais também exigem análise específica. Embora um fornecedor permita uso comercial das saídas, essa permissão contratual não garante que todo resultado esteja livre de semelhança substancial com obra protegida ou marca de terceiro.

• Evitar comandos que peçam imitação direta de artistas, autores ou campanhas identificáveis.
• Pesquisar a origem de imagens, códigos e trechos relevantes antes da publicação ou distribuição.
• Exigir que fornecedores informem restrições de uso, garantias e procedimentos para reclamações.
• Manter registro das fontes humanas e dos materiais licenciados usados no projeto.

Contratos devem acompanhar o fluxo real dos dados

O contrato precisa esclarecer papéis de controlador e operador, suboperadores, retenção, transferência internacional e atendimento a titulares. Se o fornecedor alterar o modelo ou a política de uso, a empresa deve reavaliar o serviço antes de aceitar a mudança automaticamente.

Cláusulas de segurança devem prever notificação de incidentes em prazo compatível com os 3 dias úteis da comunicação regulatória. Além disso, auditoria, portabilidade e eliminação reduzem a dependência quando o serviço termina.

Sete controles transformam princípios em rotina

7 controles mínimos conectam inventário, revisão humana e logs à inteligência artificial e compliance. A empresa pode ampliar o conjunto conforme o setor, mas deve aplicar controles proporcionais antes de liberar a ferramenta.

1. Manter um inventário central e proibir ferramentas não avaliadas quando elas processarem informações corporativas.
2. Classificar o risco conforme finalidade, dados, autonomia, escala e gravidade do dano possível.
3. Documentar finalidade, base legal e teste de necessidade antes do tratamento de dados pessoais.
4. Avaliar fornecedor, contrato, segurança, propriedade intelectual e transferência internacional.
5. Definir revisão humana com autoridade real para aplicações de alto impacto.
6. Registrar comandos relevantes, fontes, versões, saídas, correções e responsáveis.
7. Monitorar desempenho, incidentes, reclamações e mudanças do modelo durante toda a operação.

Uma ferramenta que corrige gramática em textos públicos pode receber tratamento simplificado, enquanto um sistema que ordena candidatos exige avaliação detalhada. Assim, a governança evita tanto a liberação descuidada quanto a burocracia idêntica para usos muito diferentes.

Uma matriz determina o nível de aprovação

A matriz não substitui a análise do caso, embora acelere a triagem. Se a aplicação muda de finalidade ou recebe uma integração nova, a equipe deve classificá-la novamente porque o risco também mudou.

Política, responsáveis e registros sustentam a governança

Uma política eficaz define quem pode usar IA, com quais dados e sob qual aprovação. Embora o documento deva ser curto, ele precisa indicar proibições, exceções, canal de dúvidas e consequências para descumprimento.

O conselho ou a alta administração aprova o apetite a risco, enquanto um comitê multidisciplinar traduz esse limite em critérios. Jurídico, privacidade, segurança, tecnologia, recursos humanos e áreas de negócio devem assumir tarefas claras, sem transferir toda a responsabilidade ao encarregado de dados.

Os princípios de prestação de contas e transparência também aproximam a governança de IA da governança corporativa aplicada à tomada de decisão. Essa conexão evita que projetos tecnológicos escapem dos mesmos limites usados em investimentos, riscos e controles internos.

Os registros tornam decisões auditáveis

Decisões auditáveis permitem reconstruir quem aprovou o uso, qual versão operou e quais evidências sustentaram o resultado. Contudo, registrar tudo sem critério pode aumentar custos e armazenar dados pessoais desnecessários.

A política de logs deve definir finalidade, acesso, integridade e prazo de retenção. Para aplicações de alto impacto, o registro costuma incluir versão do modelo, entrada relevante, saída, revisão humana, correção e decisão final.

O Regulamento Europeu de IA prevê multas que podem chegar a € 35 milhões ou 7% do faturamento mundial anual, conforme a infração e as regras aplicáveis. Mesmo empresas brasileiras devem avaliar o regulamento quando oferecem sistemas ou resultados de IA no mercado europeu.

Um ciclo de 90 dias inicia o programa

Um ciclo de 90 dias permite implantar controles básicos sem esperar uma estrutura perfeita. A empresa deve priorizar aplicações que tratam dados sensíveis, influenciam direitos ou executam ações em sistemas críticos.

Primeiros 30 dias

A equipe identifica ferramentas, suspende usos evidentemente proibidos e nomeia responsáveis. Enquanto conduz o inventário, ela publica uma orientação provisória que bloqueia o envio de credenciais, prontuários, segredos comerciais e dados de clientes a serviços não aprovados.

De 31 a 60 dias

O comitê classifica riscos, revisa contratos e seleciona projetos prioritários. Além disso, cada proprietário define a base legal, a supervisão humana e os testes necessários antes de colocar o sistema em produção.

De 61 a 90 dias

A organização aprova a política, treina equipes e ativa monitoramento. Depois que os controles entram em operação, o comitê acompanha indicadores para corrigir desvios e decidir quais projetos podem avançar.

• Percentual de sistemas inventariados sobre o total identificado.
• Quantidade de usos bloqueados por dados sem base legal.
• Taxa de resultados alterados durante a revisão humana.
• Tempo médio entre detecção, contenção e registro de incidentes.
• Percentual de fornecedores críticos reavaliados após mudanças relevantes.

A organização deve revisar aplicações de alto risco ao menos a cada 12 meses e também após incidentes, troca de modelo ou mudança de finalidade. Assim, inteligência artificial e compliance permanecem ligados às condições reais de uso, em vez de dependerem apenas da aprovação inicial.

Perguntas frequentes sobre IA e conformidade