Decisão automatizada na LGPD: quando a revisão humana é obrigatória

Decisão automatizada é a que produz efeito sobre alguém sem intervenção humana efetiva, tomada por sistema a partir de critérios definidos. Bloqueio automático de conta após alerta de fraude, reprovação de crédito por pontuação algorítmica, precificação individualizada, triagem que elimina currículo sem leitura humana e suspensão de anúncio por regra de plataforma são exemplos que chegam ao dia a dia das empresas.

A LGPD dedica o art. 20 ao direito do titular de pedir revisão de decisões tomadas unicamente de forma automatizada que afetem seus interesses, como crédito, perfil de consumo e histórico. A régua ganha contorno próprio no art. 10, ao tratar da análise automatizada de perfil de crédito por controladora financeira, com exigência de informação clara e adequada sobre os critérios e procedimentos utilizados.

Nem toda automação é decisão automatizada para esse efeito. Sistema que apenas organiza informação, calcula sugestão que será verificada por pessoa com poder real de mudar o resultado ou produz efeito irrelevante sobre o titular não se enquadra no mesmo rigor. A fronteira está no efeito concreto sobre a pessoa e na existência de intervenção humana significativa.

O primeiro dever é informar. O titular precisa saber, de forma clara, quando a decisão sobre ele foi tomada de forma automatizada, quais critérios gerais foram usados e como pedir revisão. Esconder a automatização atrás de termo genérico fragiliza todo o resto e costuma ser o ponto mais criticado em fiscalização.

O segundo dever é manter revisão acessível e real. O art. 20 assegura ao titular o direito de pedir revisão de decisões tomadas unicamente de forma automatizada, e a lei prevê que a decisão seja revisada por pessoa natural nas hipóteses previstas no próprio artigo. Revisão que apenas replica o sistema e devolve o mesmo resultado, sem análise nova, não cumpre a função que a lei desenhou.

O terceiro dever é documentar. Critérios do modelo, variáveis utilizadas, versões, amostras de teste e evidência da revisão humana compõem o dossiê que permite explicar a decisão meses depois. Empresas que não conseguem explicar como o sistema decidiu ficam sem resposta para o titular, para a autoridade e para o próprio negócio, que perde a capacidade de ajustar o que está errado.

O risco operacional mais comum é transformar a revisão humana em formalidade: uma pessoa abre a fila, olha o placar do sistema e confirma tudo em sequência, sem material nem tempo para divergir. Em auditoria ou disputa, esse padrão aparece com facilidade, e o resultado é pior do que não haver revisão prevista, porque caracteriza intenção de contornar a regra.

Revisão com valor exige ao menos três coisas: acesso do revisor às informações relevantes do caso, autoridade para decidir diferente do sistema e registro do motivo quando decidir. O revisor não precisa reabrir a análise de cada item aprovado, e sim ter procedimento claro para os casos em que o titular pede revisão e para amostras de controle.

A composição da equipe importa: revisão feita por quem tem meta de produtividade amarrada ao volume aprovado tende a confirmar tudo. Separar quem opera o sistema de quem revisa, ainda que na mesma área, é ajuste barato que aumenta a qualidade da decisão e a força da prova.

A pergunta que organiza a documentação é simples: se um titular pedir revisão amanhã e a autoridade pedir esclarecimentos depois, o que a empresa consegue mostrar? Lista de decisões automatizadas em produção, descrição dos critérios, base legal de cada tratamento e fluxo de revisão são o núcleo. Sem essa lista, nem a própria empresa sabe onde a regra do art. 20 se aplica.

Versionamento é a parte que mais salva em disputa. Modelos mudam, variáveis entram e saem, e a decisão questionada foi tomada por uma versão específica. Guardar a configuração vigente a cada mudança relevante, com data, permite explicar a decisão no contexto da época, e não na versão atual conveniente.

Vale incluir o fluxo de correção: quando a revisão humana identifica erro do sistema, o episódio gera ajuste no modelo, comunicação ao titular afetado e registro. Esse circuito fecha o ciclo e demonstra conformidade contínua, e não conformidade de documento único.

O Brasil ainda não tem lei específica de IA em vigor. O projeto de lei que disciplina sistemas de inteligência artificial segue em discussão no Congresso, e enquanto isso não há norma dedicada que substitua ou amplie o desenho atual. A empresa opera, portanto, sob regras gerais: LGPD para decisão sobre dados pessoais, Código Civil para responsabilidade civil e regras setoriais quando existem.

Essa moldura é suficiente para gerar obrigação concreta, e não serve de justificativa de que o tema ainda não foi regulado. Decisão automatizada sobre crédito, consumo e histórico já tem tratamento expresso na LGPD, com direito de revisão e dever de informação sobre critérios. O risco de permanecer sem controle é resposta a titulares sem base, fiscalização e disputa contratual com clientes afetados.

O caminho prático começa pelo inventário: mapear onde a operação decide sozinha, classificar o efeito sobre pessoas e priorizar os fluxos com impacto relevante. Sobre cada fluxo prioritário, definir aviso, revisão e documentação. Esse trabalho também reduz a dependência de fornecedor opaco, porque contratar sistema de terceiros exige contrato que garanta acesso a critérios e apoio na revisão.

O inventário costuma começar pelo óbvio, o scoring de crédito, e parar antes de chegar ao que também decide: antifraude que bloqueia pagamento, plataforma de anúncio que suspende conta, ferramenta de RH que reprova currículo, cobrança que inscreve cliente em lista de inadimplentes, precificação dinâmica que trata cliente diferente pelo mesmo produto. Cada um desses fluxos tem titular afetado e critério que precisa ser explicável.

A tabela serve para uma decisão imediata: cada linha precisa ter dono na empresa. Fluxo sem responsável nomeado é fluxo que ninguém revisa, e é exatamente esse que aparece em reclamação de titular sem resposta ou em fiscalização sem dossiê.

Sistema de decisão automatizada contratado de terceiro transfere o problema, e não a responsabilidade. O contrato precisa garantir à empresa acesso à documentação de critérios e variáveis em nível suficiente para responder ao titular, apoio na análise de pedidos de revisão, aviso de mudança relevante de modelo com prazo para ajuste interno e cláusula de auditoria sobre os registros de decisão.

Fornecedores que operam em caixa preta, sem revelar sequer os fatores gerais de pontuação, criam risco que a empresa não consegue administrar: ela fica obrigada a informar critérios que não conhece. Nesses casos, o caminho é restringir o uso do sistema a decisões com intervenção humana significativa antes de afetar o titular, ou trocar de fornecedor.

O contrato com operador de dados completa o desenho, e o responsável pela decisão automatizada dentro da empresa precisa trabalhar junto com quem negocia esse instrumento. Revisão humana de terceiros também entra aqui: quem revisa precisa de acesso ao caso, prazo adequado e ausência de incentivo para confirmar o sistema.

A decisão automatizada não dispensa a escolha da base legal do tratamento: ela é um tratamento como outro, com exigência própria de fundamento, necessidade e transparência. O artigo sobre base legal de dados de lead mostra como essa escolha se documenta na prospecção, e a mesma lógica vale para quem alimenta o modelo de decisão com lista de clientes e histórico de consumo.

O conjunto fecha com o artigo sobre dados enviados a modelos de IA generativa, que trata do caminho inverso: quando a equipe usa IA como ferramenta de trabalho e envia dado de cliente ao modelo. Entre o dado que entra no sistema de decisão e o dado que entra no prompt, a empresa mantém o mesmo dever de fundamento, registro e contrato. A trilha de inteligência artificial na empresa reúne as análises das duas pontas.