REGISTRO DOI: 10.69849/revistaft/ma10202601161036
Juliana Colombelli Candido
Ravena de Oliveira e Almeida Silva
Rodrigo Lima Bandeira
RESUMO
A Administração Pública brasileira, buscando maior eficiência e probidade, encontra na Inteligência Artificial (IA) e na Governança Algorítmica uma ferramenta promissora para otimizar os processos de licitações e contratos. Não obstante o claro fomento legal à inovação presente na Constituição Federal (Art. 218) e na legislação infraconstitucional (Art. 11, Lei nº 14.133/2021), a delegação de poder decisório a algoritmos introduz novos desafios ético-jurídicos. O presente artigo analisa a dialética entre as oportunidades da IA – como a otimização de custos e a mitigação de fraudes – e os riscos inerentes à sua aplicação, com destaque para o viés (bias) em datasets de treinamento e a opacidade decisória (black box). A metodologia empregada é a dedutiva, baseada em pesquisa bibliográfica e análise do arcabouço normativo, incluindo a LGPD (Art. 20, Lei nº 13.709/2018) e a LAI (Lei nº 12.527/2011). Conclui-se que o avanço tecnológico só se harmonizará com os princípios constitucionais (eficiência, impessoalidade) mediante o estabelecimento de rigorosas diretrizes de governança, exigindo supervisão humana, auditabilidade dos algoritmos (XAI) e transparência para superar os riscos e garantir decisões públicas mais justas e fundamentadas.
Palavras-chave: Governança Algorítmica; Compras Públicas; Inteligência Artificial; Viés (Bias); Opacidade Decisória.
ABSTRACT
The Brazilian Public Administration, seeking greater efficiency and probity, finds in Artificial Intelligence (AI) and Algorithmic Governance a promising tool to optimize bidding and contracting processes. Despite the clear legal incentive for innovation present in the Federal Constitution (Art. 218) and infra-constitutional legislation (Art. 11, Law No. 14.133/2021), the delegation of decisional power to algorithms introduces new ethical and legal challenges. This article analyzes the dialectic between the opportunities of AI – such as cost optimization and fraud mitigation – and the inherent risks of its application, particularly the bias in training datasets and decisional opacity (black box). The methodology employed is deductive, based on bibliographic research and analysis of the normative framework, including the LGPD (Art. 20, Law No. 13.709/2018) and the LAI (Law No. 12.527/2011). It is concluded that technological advancement will only harmonize with constitutional principles (efficiency, impersonality) by establishing rigorous governance guidelines, requiring human oversight, algorithm auditability (XAI), and transparency to overcome risks and ensure fairer, more grounded public decisions.
Keywords: Algorithmic Governance; Public Procurement; Artificial Intelligence; Bias; Decisional Opacity.
Introdução
A Administração Pública brasileira, impulsionada pelo desafio de maximizar a eficiência e garantir a probidade na gestão de recursos, encontra na Inteligência Artificial (IA) e na Governança Algorítmica uma fronteira tecnológica capaz de transformar o modo como o Estado adquire bens e serviços. A crescente complexidade e o volume de informações nos processos de licitações e contratações públicas impõem a irreversível adoção de sistemas de IA para apoiar a tomada de decisões. Contudo, essa delegação de poder decisório a ferramentas algorítmicas, embora promissora, introduz novos e complexos riscos ético-jurídicos, como o viés (bias) em datasets de treinamento e a opacidade decisória (black box). O risco de opacidade compromete diretamente a transparência e a motivação do ato público (Art. 5º, caput, Lei nº 14.133/2021).
Nesse contexto, o presente artigo tem por objetivo analisar a dialética entre as oportunidades da IA para o fomento da inovação nas compras públicas e os riscos de viés e opacidade decisória inerentes à Governança Algorítmica. O tema se relaciona diretamente com o direito do cidadão de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado, conforme previsto na Lei Geral de Proteção de Dados (LGPD) (Art. 20, Lei nº 13.709/2018).
A metodologia empregada é a dedutiva, a partir da pesquisa bibliográfica e legal, com ênfase na análise da Constituição Federal de 1988 e da legislação infraconstitucional pertinente. O artigo está estruturado em três eixos de desenvolvimento: o fomento normativo à inovação no serviço público (Capítulo 1); os benefícios da IA nas compras públicas (Capítulo 2); e os riscos e desafios da Governança Algorítmica (Capítulo 3).
1. O Fomento Constitucional e Legal ao Uso da Inovação no Serviço Público
O marco legal brasileiro não apenas permite a adoção de tecnologias de Governança Algorítmica, mas ativamente a fomenta, estabelecendo a inovação como um princípio basilar e um objetivo da Administração Pública. Essa premissa tem seu alicerce na Constituição Federal de 1988 e é detalhada em legislações específicas.
1.1 O Imperativo Constitucional de Inovação e Eficiência
A Constituição Federal de 1988 (CF/88) legitima o uso de ferramentas inovadoras, como a IA, por meio de princípios e comandos programáticos. O Artigo 37, caput, ao incluir o princípio da Eficiência na Administração Pública, estabelece a base para a busca por soluções que permitam à gestão pública fazer mais com menos. A inovação algorítmica nas compras, ao reduzir custos operacionais e mitigar erros, é um instrumento direto para o cumprimento desse princípio constitucional da Eficiência (Art. 37, caput, CF/88).
O Estado possui o dever de promover a inovação, conforme disposto no Capítulo IV do Título VIII, da Ordem Social. O Artigo 218, caput, é categórico ao dispor que “O Estado promoverá e incentivará o desenvolvimento científico, a pesquisa, a capacitação científica e tecnológica e a inovação” (Art. 218, caput, CF/88). Este artigo é o sustentáculo legal para que a Administração Pública utilize e incentive soluções de IA em todos os seus setores.
Além deste comando geral, o constituinte estabeleceu diversos dispositivos de incentivo sistêmico que desburocratizam o uso de recursos e expandem o fomento à inovação para além da mera pesquisa. No âmbito orçamentário, a CF/88 institui um claro facilitador ao permitir a flexibilização do processo de alocação de verbas: a transposição, o remanejamento ou a transferência de recursos para as atividades de ciência, tecnologia e inovação podem ser admitidos mediante ato do Poder Executivo, sem a necessidade de prévia autorização legislativa (Art. 167, § 5º, CF/88).
A importância da inovação é reafirmada pela interpretação sistemática da Carta Magna, que estende o dever de fomentar C&T e a inovação a setores cruciais do serviço público. No campo da Saúde, por exemplo, compete ao Sistema Único de Saúde (SUS) “incrementar, em sua área de atuação, o desenvolvimento científico e tecnológico e a inovação” (Art. 200, V, CF/88). De forma análoga, na Educação, a Constituição prevê que atividades de pesquisa e fomento à inovação realizadas por universidades podem receber apoio financeiro do Poder Público (Art. 213, § 2º, CF/88).
Finalmente, a inovação, ao buscar a otimização de recursos e a economicidade nas compras, liga-se diretamente ao dever de defender e preservar o meio ambiente ecologicamente equilibrado (Art. 225, caput, CF/88). Dessa forma, as soluções de IA que tornam a gestão de compras mais eficiente e menos dispendiosa em recursos naturais cumprem o princípio do Desenvolvimento Sustentável.
A inclusão destes dispositivos demonstra que o constituinte não apenas permite, mas ativamente busca remover barreiras burocráticas e garantir o caráter transversal da inovação, validando o uso de tecnologias de ponta, como a Governança Algorítmica, como um meio necessário para a realização dos princípios da eficiência, do desenvolvimento e da boa governança em toda a máquina estatal.
1.2 O Fomento Legal da IA nas Compras Públicas e a Governança Infraconstitucional
Em nível infraconstitucional, o fomento ao uso da IA e a necessidade de sua governança são estabelecidos em um conjunto de normas que visam guiar a modernização da Administração Pública. A Lei nº 14.133/2021 (Nova Lei de Licitações e Contratos) consolida a política de inovação nos processos de aquisição, ao estabelecer, entre os objetivos da licitação, o “incentivo à inovação” e o “desenvolvimento nacional sustentável” (Art. 11, IV, Lei nº 14.133/2021).
Essa mesma Lei valida expressamente a utilização de “recursos de tecnologia da informação e comunicação” e “soluções de inteligência artificial” na fase preparatória das licitações (Art. 18, § 1º, VII, Lei nº 14.133/2021), como instrumentos essenciais para a avaliação da estimativa de valor da contratação e na gestão de riscos. Tal previsão é complementada pela Lei nº 10.973/2004 (Lei da Inovação), que estabelece um quadro legal mais amplo de incentivo à ciência e tecnologia.
O arcabouço de fomento é acompanhado, necessariamente, pelo pilar da Governança. O Decreto nº 9.203/2017 institui a Política de Governança da Administração Pública Federal, estabelecendo mecanismos para o exercício da boa governança que se aplicam a qualquer ferramenta de gestão, incluindo sistemas algorítmicos. O alinhamento com a Estratégia de Governança Digital – EGD (Decreto nº 10.332/2020) também fornece o suporte programático para o uso ético da tecnologia.
É crucial notar que os riscos de viés (bias) e opacidade decisória são diretamente confrontados por dispositivos legais focados na transparência. A Lei Geral de Proteção de Dados (LGPD), por exemplo, garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais (Art. 20, Lei nº 13.709/2018), o que representa um instrumento jurídico fundamental contra a opacidade do black box algorítmico. Da mesma forma, a Lei de Acesso à Informação (LAI) impõe a publicidade dos atos e dados governamentais (Lei nº 12.527/2011), exigindo transparência sobre os critérios e datasets utilizados pelos sistemas de IA.
Por fim, a Estratégia Brasileira de Inteligência Artificial (EBIA), embora seja uma política pública e não um decreto, serve como um guia ético essencial, definindo a necessidade de combater o viés e promover a transparência no desenvolvimento e uso da IA no setor público.
O arcabouço normativo brasileiro, portanto, estabelece um claro viés de fomento à inovação, consolidando a IA como um meio legítimo e incentivado para aprimorar o processo de Compras Públicas. Contudo, essa adoção é indissociável da obediência aos rigorosos padrões de governança, transparência e mitigação de riscos, que serão o foco do Capítulo 3.
2 Benefícios do Uso da IA nas Licitações e Contratações Públicas e Aplicações no Direito Comparado
A adoção da Inteligência Artificial (IA) nas licitações e contratações públicas simboliza uma profunda mudança de paradigma na Administração Pública. Trata-se da transição de um modelo burocrático, analógico e reativo para uma governança algorítmica proativa e baseada em dados. Essa transformação não apenas racionaliza procedimentos administrativos, mas ergue novas barreiras contra a corrupção e o desperdício de recursos.
Para compreender a magnitude dessa mudança, é necessário analisar primeiramente a ferramenta tecnológica que a viabiliza, para então detalhar seus três pilares de benefícios e sua aplicação no direito comparado e nacional.
2.1. O Motor da Mudança: O Processamento de Linguagem Natural (PLN)
No cerne dessa revolução está o Processamento de Linguagem Natural (PLN). Embora suas origens remontem à década de 1950 com foco em traduções básicas, o campo sofreu uma evolução drástica. Inicialmente dependente de regras gramaticais rígidas e incapazes de interpretar ironias ou jargões técnicos, o PLN saltou de patamar nos anos 2000 com o Machine Learning e, mais recentemente, com as Redes Neurais Profundas e os Grandes Modelos de Linguagem, tais como GPT e BERT.
Hoje, essas ferramentas não apenas “leem” palavras-chave; elas compreendem contexto, semântica e probabilidade. No universo das licitações, isso significa que a Administração dispõe de um “leitor virtual” capaz de processar volumes massivos de documentos (certidões, atestados, contratos sociais) em segundos, realizando uma triagem que nós humanos levaríamos dias para concluir.
2.2 Os Três Pilares dos Benefícios da IA
A aplicação dessa tecnologia fundamenta-se em três pilares essenciais que definem a eficiência da gestão pública.
O primeiro pilar é a eficiência operacional e a celeridade. Nesse contexto, a inteligência artificial automatiza praticamente todo o ciclo de vida das contratações.
Na fase interna, algoritmos padronizam a descrição de objetos com base em registros históricos. Isso reduz erros técnicos que, frequentemente, resultam em impugnações e atrasos.
Já na etapa de habilitação, o Processamento de Linguagem Natural assume um papel central. A ferramenta realiza varreduras automáticas em documentos, identificando rapidamente inconsistências, ausência de assinaturas ou manipulações digitais. O resultado é uma redução drástica no tempo de trâmite, garantindo decisões mais ágeis.
O segundo pilar diz respeito à integridade e ao combate à fraude. A capacidade de cruzar dados de múltiplas fontes permite ao Estado exercer uma fiscalização preditiva, e não apenas reativa.
Por meio de análise de redes, é possível mapear vínculos ocultos entre sócios de empresas concorrentes. O sistema identifica comportamentos típicos de cartéis, como o rodízio de vencedores ou a apresentação de propostas fictícias.
Além disso, a análise semântica dos editais detecta cláusulas restritivas inseridas para direcionar o certame. Assim, a lisura do processo é protegida antes mesmo da fase de adjudicação.
Por fim, o terceiro pilar refere-se à economicidade e à precificação inteligente. A definição do preço de referência, historicamente um ponto vulnerável, torna-se precisa com o uso da IA.
O sistema elimina a dependência de cotações manuais, que são sujeitas a distorções. Em vez disso, realiza varreduras em amplas bases de dados, como notas fiscais eletrônicas e compras governamentais anteriores.
Essa metodologia estabelece valores de mercado realistas. Consequentemente, reduz-se o risco de sobrepreço e assegura-se que o Estado pague o valor justo por suas contratações.
2.3 O Cenário Brasileiro: Inovação e Controle
O Brasil ocupa, hoje, um lugar peculiar no cenário global da transformação digital. Embora historicamente associado à burocracia pesada e a processos administrativos lentos, o país tem se destacado de maneira surpreendente no uso de tecnologias avançadas para fiscalização e controle do gasto público. Esse contraste revela um ambiente institucional em que órgãos de controle altamente sofisticados convivem com um marco legal que incentiva a inovação e impulsiona a digitalização.
O protagonismo brasileiro nesse campo é visível, sobretudo, na atuação dos Tribunais de Contas e demais órgãos de controle. Enquanto muitos países ainda caminham lentamente na adoção de tecnologias para auditoria, órgãos de controle brasileiro consolidaram ferramentas de Inteligência Artificial para monitorar as despesas públicas quase em tempo real.
A lógica tradicional, baseada na análise de contas anos após a execução da despesa, vem sendo substituída por mecanismos preventivos que permitem identificar irregularidades antes mesmo de a licitação ser concluída.
Entre esses instrumentos, destaca-se o sistema ALICE, ferramenta desenvolvida pela Controladoria-Geral da União – CGU que analisa diariamente, de forma automatizada, os processos de compras e contratações públicas. Diante de potenciais riscos e inconsistências, dispara alertas para que seja possível atuar de forma preventiva e tempestiva em processos licitatórios publicados.
Atualmente, a Alice realiza a análise a partir dos dados do Portal de Compras do Governo Federal (Compras.gov.br), do Portal de Compras do Banco do Brasil (Licitacoese), do Portal de Compras da Caixa Econômica Federal (Licitações Caixa), além das dispensas e inexigibilidades publicadas no Diário Oficial da União (DOU)1.
Em complemento, o sistema SOFIA funciona como um assistente virtual dos auditores do Tribunal de Contas da União – TCU, oferecendo análises, referências normativas e jurisprudências pertinentes. Já a ferramenta MONICA amplia a visão do controle externo ao monitorar de forma integrada todas as compras públicas federais.
No centro dessa arquitetura tecnológica encontra-se o Laboratório de Informações para o Controle, conhecido como LabContas e desenvolvido pelo Tribunal de Contas da União – TCU. Esse laboratório funciona como um grande repositório governamental de dados, equivalente a um Data Lake destinado à administração pública. Sua principal função é integrar informações provenientes de diferentes órgãos e sistemas, coletando, armazenando e estruturando grandes volumes de dados que, de forma isolada, teriam utilidade limitada.
É nesse ambiente unificado que se tornam possíveis análises avançadas, cruzamentos complexos e a identificação de padrões que podem revelar potenciais irregularidades.
A partir dessa base consolidada emergem as ferramentas mais sofisticadas utilizadas no controle externo, frequentemente chamadas de “robôs” de auditoria. Esses sistemas de inteligência artificial são alimentados diretamente pelo LabContas e colocam em prática uma fiscalização ativa e contínua
Em síntese, o LabContas funciona como o núcleo central que concentra e processa as informações mais estratégicas, enquanto ALICE, SOFIA e MONICA representam os instrumentos operacionais que utilizam essa base de dados para detectar fraudes, prevenir irregularidades e assegurar o uso adequado dos recursos públicos. Trata-se de uma estrutura que transforma dados em inteligência e inteligência em mecanismos efetivos de controle.
Com esse conjunto de ferramentas, o Brasil superou o modelo de fiscalização por amostragem e avançou para uma vigilância praticamente universal, em que a tecnologia permite escrutinar todas as fases das contratações.
Esse ambiente inovador encontrou respaldo jurídico com a aprovação da Nova Lei de Licitações e Contratos. A legislação não apenas atualizou os procedimentos administrativos como instituiu a digitalização como princípio central. O ponto mais relevante é a criação do Portal Nacional de Contratações Públicas, destinado a reunir, em um único espaço, os dados de compras dos diferentes entes da federação.
O Brasil passa a estruturar um dos maiores repositórios de informações de compras públicas do mundo, que servirá como base para sistemas cada vez mais sofisticados de detecção de irregularidades, comparação de preços e análise de riscos.
Apesar dos avanços, persistem desafios significativos. Ainda existe uma grande desigualdade tecnológica entre o governo federal e os municípios. Enquanto a União dispõe de sistemas preditivos avançados, muitas cidades enfrentam dificuldades até mesmo para digitalizar seus procedimentos. Assim, o desafio central deixa de ser apenas desenvolver tecnologia e passa a envolver a disseminação, integração e capacitação dos gestores públicos em todas as regiões do país.
O modelo brasileiro de contratações públicas vive um processo de transformação profunda. A tecnologia deixou de ocupar um papel secundário e passou a ser elemento central na garantia da eficiência administrativa e na proteção do patrimônio público. A tendência é que a administração pública se torne progressivamente mais preventiva, integrada e orientada por dados, fortalecendo, assim, a transparência e a integridade das instituições democráticas.
2.4. Cenário Brasileiro: Capacitação
Enquanto os órgãos de controle investem em infraestrutura de dados, o Poder Executivo Federal volta-se para a qualificação do capital humano, reconhecendo que a tecnologia mais avançada é inócua sem operadores aptos. Nesse contexto, destaca-se a atuação do Ministério da Gestão e da Inovação em Serviços Públicos (MGI) através do Programa AMPLIA.
O objetivo do programa é fomentar o uso responsável da IA no setor público. Um marco dessa estratégia ocorreu em outubro de 2025, com o lançamento do Guia de Prompt para IA Generativa, material que complementa a Cartilha de IA Generativa no Serviço Público (lançada no início do mesmo ano).
A relevância dessas publicações para a área de contratações é direta e multifacetada:
- Engenharia de Prompt na Elaboração de Editais: O guia ensina o servidor a criar instruções (prompts) claras e contextuais. Na prática das licitações, isso significa que um pregoeiro pode utilizar IAs generativas para auxiliar na redação de Termos de Referência ou Estudos Técnicos Preliminares com muito mais precisão, desde que saiba formular o pedido corretamente à máquina.
- Segurança da Informação e Sigilo: Um dos pontos mais críticos abordados pelo Secretário de Governo Digital, Rogério Mascarenhas, é a proteção de dados. O material orienta taxativamente que informações confidenciais e sigilosas da administração não devem ser inseridas em ferramentas de mercado. No ambiente de licitações, onde o sigilo das propostas é sagrado até a abertura do certame, essa diretriz de segurança é vital para evitar vazamentos que poderiam impugnar todo um processo licitatório.
Portanto, ao instrumentalizar o servidor com técnicas de prompt e diretrizes éticas, o governo federal atua na ponta final da modernização: a mudança cultural de quem opera o sistema2.
2.5. Aplicações do uso da IA às contratações públicas no Direito Comparado
A experiência internacional demonstra que o uso de tecnologias avançadas em contratações públicas já é uma realidade consolidada em diversos países, oferecendo referências importantes para o aperfeiçoamento do modelo brasileiro.
Na União Europeia, a plataforma Arachne concentra-se principalmente na preservação da integridade dos gastos públicos. O sistema realiza intensa mineração de dados, atribui pontuações de risco e identifica potenciais conflitos de interesse em projetos financiados pelos fundos estruturais do bloco.
A plataforma Arachne foi criada pela Comissão Europeia para identificar riscos de fraudes com o Fundo Social Europeu (FSE) e o Fundo Europeu de Desenvolvimento Regional (FEDER) , porém a supracitada plataforma não visa avaliar a conduta individual específica dos beneficiários do fundo e, como tal, não exclui automaticamente quaisquer beneficiários dos fundos. A ferramenta fornece alertas de risco altamente valiosos para enriquecer verificações gerenciais, mas não fornece nenhuma prova de erro, irregularidade ou fraude3.
Nos Estados Unidos, a General Services Administration (GSA) utiliza modelos preditivos para avaliar o desempenho histórico dos fornecedores. Essa abordagem permite antecipar riscos de atraso, problemas de conformidade ou falhas na execução dos contratos, fortalecendo a tomada de decisão e reduzindo a probabilidade de prejuízos ao erário.
O modelo americano é interessante, tendo em vista que, para evitar contratar empresas problemáticas, eles não olham apenas se a empresa “está limpa” no cadastro, mas sim como ela se comportou em contratos anteriores. O ponto central não é apenas a existência de um banco de dados, mas o uso de algoritmos que transformam textos de avaliações passadas em métricas de risco futuro.
Isso inverte a lógica: em vez de punir a empresa depois que ela falha (como é comum no Brasil com as multas e declarações de inidoneidade, por exemplo), o sistema americano tenta não contratar a empresa que apresenta alta probabilidade estatística de falhar.
Essas experiências demonstram que o uso da inteligência artificial nas compras públicas já é uma prática consolidada internacionalmente, reforçando sua eficácia e oferecendo caminhos valiosos para a evolução do sistema brasileiro.
3. Dos Riscos de Utilização da Inteligência Artificial (IA) nas Licitações e Contratações Públicas:
A crescente complexidade e o volume de informações na Administração Pública impõem a irreversível adoção de sistemas de Inteligência Artificial para apoiar decisões, especialmente nos processos de licitações e contratações públicas. Contudo, essa delegação de poder decisório a ferramentas algorítmicas, definidas como “conjunto finito de instruções que, seguidas, realizam uma tarefa específica”, introduz novos e complexos riscos. Os desafios decorrem da própria natureza do seu desenvolvimento e aplicação, destacando-se: a) o viés em datasets de treinamento (inputs viciados); b) a opacidade decisória (black box); c) a automação excessiva (sem curadoria); e d) a segurança e privacidade dos dados.
3.1. Do emprego de data sets (inputs) viciados:
A ação racional é um dogma da economia clássica que tem sido confrontado por diversos experimentos no campo da psicologia cognitiva4 e da economia comportamental5, que demonstram atalhos mentais ou estratégias inconscientes – heranças do processo evolutivo humano –, como meios utilizados na redução da complexidade das tarefas de conhecimento de situações e tomadas de decisões: são os chamados princípios heurísticos. Trata-se de processos inconscientes de categorização de objetos, pessoas e suas ocorrências em grupos ou tipos.
Não se nega que os princípios heurísticos sejam estratégias adaptativas úteis, que permitem maior eficiência nas decisões diárias, ao automatizar o processo de decisões simples. Apesar disso, eles podem resultar em erros severos e sistemáticos, conduzindo a falácias, vieses e ilusões. Cuida-se do “preço que pagamos para tamanha eficiência”6.
A maioria das pessoas desconhece os próprios vieses cognitivos, o que se torna especialmente preocupante quando se trata do Estado, detentor do monopólio da força e do poder de decisão sobre a vida dos cidadãos. Como os dados que alimentam a inteligência artificial são produzidos por seres humanos, eles inevitavelmente refletem estigmas, preconceitos e erros próprios da sociedade — e, em vez de eliminá-los, podem ampliá-los de forma exponencial.
O viés do dataset se materializa quando os dados históricos, carregados de estigmas e preconceitos sociais ou erros humanos, são usados para treinar a IA. O sistema, ao invés de corrigir, perpetua ou amplifica exponencialmente esse viés, ameaçando o princípio da igualdade de condições e a impessoalidade nas licitações (art. 5º, caput, Lei nº 14.133/21), por exemplo, ao penalizar a histórica baixa participação de grupos minoritários ou empresas de certas regiões.
O emblemático “Caso Amazon”, publicado na Revista Cadernos UNDB (v. 7, n. 1, 2024)7, retrata o episódio em que o sistema de recrutamento automatizado da Amazon revelou discriminação contra mulheres, ao priorizar currículos masculinos em processos seletivos. As autoras destacam que o algoritmo, treinado com currículos de dez anos anteriores — predominantemente masculinos —, passou a penalizar termos associados ao gênero feminino (como “women’s college” ou “women’s chess club”). Esse erro revelou como a IA pode replicar estruturas discriminatórias presentes no mercado de trabalho.
É precisamente por este risco inerente à decisão algorítmica — que pode resultar em discriminação, perda de autonomia e erros sistemáticos — que o legislador brasileiro, na Lei Geral de Proteção de Dados (LGPD), incluiu o Art. 20.8 Tal dispositivo garante ao titular o direito de solicitar a revisão de decisões automatizadas que afetem seus interesses. Conforme ensina a doutrina, a inclusão desse artigo revela a preocupação com a influência da decisão de uma máquina sobre as vidas das pessoas, pois muitas vezes a análise de dados de forma automatizada pode levar a premissas errôneas por parte do agente de tratamento9.
O receio fundamental na delegação de poder decisório às máquinas reside na possibilidade de o sistema algorítmico promover injustiças e ineficiências. Tais riscos manifestam-se na discriminação e na perpetuação de vieses, no deslocamento do núcleo decisório (perda de autonomia dos sujeitos), e em falhas técnicas decorrentes de erros na modelagem, cálculos estatísticos ou do uso de dados desatualizados e irrelevantes.
3.2. Da opacidade decisória e da automatização excessiva:
A opacidade decisória, conhecida como o problema da “Caixa Preta”, é um risco ético-jurídico fundamental dos sistemas de Machine Learning complexos. Ela surge da dificuldade inerente em explicar como um algoritmo chegou a uma decisão específica. No contexto licitatório, se a IA, v.g., exclui um licitante, a opacidade compromete diretamente a transparência, a motivação do ato público e o direito de defesa e recurso dos interessados (em violação ao art. 5º, caput, da Lei nº 14.133/21).
Esse problema é agravado pela automatização excessiva (automação sem curadoria), que se configura pela ausência de supervisão e análise humana adequada. A aplicação cega de algoritmos na subsunção de conceitos jurídicos a casos concretos corre o risco de gerar documentos (como editais, projetos básicos etc.) tecnicamente válidos, mas inadequados à necessidade específica da Administração, lesando o interesse público e a segurança jurídica.
3.3. Da segurança de dados:
Por fim, a segurança de dados diz respeito à possível exposição de informações sensíveis, já que a coleta e o processamento de grandes quantidades de dados para treinar a IA, incluindo informações confidenciais de empresas (capacidade técnica, demonstrações financeiras), exigem rigorosos padrões de segurança e conformidade com a Lei Geral de Proteção de Dados (LGPD).
Ainda, casos de vazamento de dados por parte de inteligência artificial são cada vez mais comuns, como reflete recente reportagem do canal G1:
“Em abril de 2023, um caso emblemático abalou o mercado: funcionários de uma grande companhia de tecnologia, ao utilizar uma plataforma de inteligência artificial para otimizar códigos confidenciais, inadvertidamente vazaram segredos industriais e os dados, armazenados nos servidores da ferramenta, foram expostos a terceiros. Dois meses depois, uma multinacional brasileira do agronegócio teve seus planos de expansão e valores de aquisição vazados após usar uma IA de análise de mercado não regulada. Casos como esses não são isolados e revelam um risco crescente para empresas que adotam soluções de IA genéricas sem controle”.10
Conclusão
A Governança Algorítmica nas Compras Públicas é o campo de tensão entre as oportunidades de eficiência administrativa e os riscos de distorções democráticas. Situações como essa evidenciam o principal desafio: harmonizar o fomento à inovação com a segurança democrática. É imperativo garantir o direito fundamental de acesso à informação a todos os cidadãos submetidos a tais sistemas e a obrigação do Estado de prevenir e corrigir distorções resultantes do desenvolvimento ou do uso inadequado dessas ferramentas, impedindo que as decisões geradas sejam tendenciosas ou discriminatórias. Tais cautelas são essenciais para evitar a formação do que a matemática Cathy O’Neil chamou de “Weapons of Math Destruction”11.
Não à toa, o Parlamento Europeu, em resolução de 16 de fevereiro de 2017, abordou um princípio ético essencial para orientar a regulação da robótica: o princípio da transparência. Segundo o documento, deve ser sempre possível fundamentar qualquer decisão tomada com o uso de inteligência artificial que tenha impacto significativo sobre a vida de uma ou mais pessoas, bem como traduzir os processos computacionais realizados por sistemas de IA em formas compreensíveis para os seres humanos. Além disso, recomenda-se que robôs avançados sejam equipados com uma “caixa preta”, contendo dados sobre todas as operações realizadas pela máquina, inclusive os passos lógicos que conduziram à formulação de suas decisões.12
Entretanto se, de um lado, a Inteligência Artificial representa um risco, de outro, pode servir justamente para mitigar as falhas decorrentes do raciocínio humano. LORDELO, em suas conclusões, afirma que ferramentas de inteligência artificial podem servir como forma de mitigar os vieses decorrentes da heurística de disponibilidade. Isso porque, ao contrário dos seres humanos, a memória das máquinas é “linear”. Enquanto seres humanos correm o risco de valorar excessivamente a probabilidade de um evento em função da facilidade que tenham para recordá-lo, as máquinas não se submetem a uma “memória emotiva”. Nas palavras do autor:
“Se, por um lado, o uso de ferramentas de inteligência artificial pode automatizar e intensificar, de forma fria e ainda mais opaca, os vieses implícitos, estudos sugerem que a sua adequada aplicação pode ensejar o efeito diametralmente oposto. Ao menos em tese, um programador sensível às variáveis inconscientemente incorporadas nos processos decisórios é capaz de adotar as cautelas necessárias para que os dados objetivamente irrelevantes não influenciem a sugestão apresentada por meio de algoritmos de inteligência artificial. Mesmo os dados supostamente relevantes, muitas vezes, são superdimensionados no processo de tomada de decisão, razão pela qual seria possível cogitar, para as tarefas mais simples, a adoção de uma tabela de valores disponível às pessoas em geral, mitigando-se os vieses da heurística de representatividade.”
Assim, “bem desenvolvido o seu algoritmo, cada dado introduzido na ferramenta será necessariamente considerado, sendo capaz de produzir resultados novos (novas “opiniões”), desprovidos do viés de ancoragem humano, que tende a dimensionar excessivamente um valor inicialmente sugerido ou desconsiderar variáveis relevantes, perpetuando uma ideia original (viés de confirmação). Consequentemente, é possível que a superação desse processo heurístico também passe pelo desenvolvimento de ferramentas de inteligência artificial. Para além disso, evidentemente, por serem desprovidas de emoções, as máquinas são capazes de abstrair por completo elementos que, conquanto aparentemente irrelevantes, influenciam o processo decisório: as vestimentas dos advogados, a fome, o tom de voz do interlocutor etc.”
O mesmo raciocínio aplica-se às contratações públicas: a utilização responsável e transparente da Inteligência Artificial pode ir além da eficiência administrativa, atuando como um poderoso mecanismo de mitigação dos vieses e falhas inerentes à tomada de decisão humana. O desenvolvimento de algoritmos desprovidos de “memória emotiva” e de vieses de ancoragem pode, paradoxalmente, produzir resultados mais objetivos e justos.
Portanto, o desafio central da Administração Pública, à luz do fomento legal (Art. 11, Lei nº 14.133/2021) e constitucional (Art. 218, CF/88), não reside em rejeitar a IA nas licitações e contratações, mas sim em moldar sua Governança. É imprescindível que o Estado estabeleça diretrizes éticas e jurídicas claras, assegurando a supervisão humana qualificada, a auditabilidade dos algoritmos (XAI) e a plena observância da LGPD (Art. 20, Lei nº 13.709/2018). Somente através de uma governança rigorosa, o avanço tecnológico se harmonizará com os princípios constitucionais da Eficiência, Impessoalidade e Moralidade (Art. 37, caput, CF/88), promovendo decisões mais justas, transparentes e acessíveis à sociedade, e superando a opacidade decisória e o viés algorítmico.
1https://www.gov.br/cgu/pt-br/assuntos/auditoria-e-fiscalizacao/alice
2https://www.gov.br/governodigital%3B/pt-br/noticias/publicacoes-sobre-o-uso-de-inteligenciaartificial-no-servico-publico-estao-disponiveis
3https://employment-social-affairs.ec.europa.eu/policies-and-activities/funding/european-socialfund-plus-esf/what-arachne_en#navItem-relatedLinks
4Como registram Dierle Nunes, Natanel Lud e Flávio Quinaud Pedron, “A crença em nossa absoluta racionalidade decisória foi extremamente enfraquecida pelos avanços da psicologia comportamental e por estudos empíricos que demonstram o impacto dos atalhos cognitivos (heurísticas) que nos fazem decidir com deturpações e sem levar em consideração toda a informação relevante” (NUNES, Dierle; LUD, Nathanael; PEDRON, Flávio. Desconfiando da imparcialidade dos sujeitos processuais. Salvador: Juspodivm, 2018, p. 10). No mesmo sentido: “Se ha dicho, no sin motivo, que los seres humanos no somos tan racionales como parecemos, en el sentido de que debiéramos ser siempre eficientes y consistentes, y sin embargo no lo somos, a diferencia de las máquinas, que ni se fatigan, ni se destraem o se aburren, ni tienen emociones” (FENOLL, Jordi Nieva. Inteligencia artificial y proceso judicial. Marcial Pons: Madrid, Barcelona, Buenos Aires, São Paulo, 2018, p. 43). Em outra passagem, Jordi Nieva Fenoll anota: “Tversky y Kahneman le hicieron um inmenso favor a la humanidad bajándola del pedestal y denunciando que nuestras decisiones no son demasiado complejas. Esto rompía una tendencia en la historia del pensamento, que, quizá partiendo de un cierto condicionamiento religioso, tendía a elevar al ser humano y sus capacidades intelectuales hasta cotas poco menos que paranormales” (FENOLL, Jordi Nieva. Transfondo psicológico de la independencia judicial. In: FENOLL, Jordi Nieva; OTEIZA, Eduardo (dirs.). La independência judicial: um constante asedio. Marcial Pons: Madri, Barcelona, Buenos Aires, São Paulo, 2019, p. 24), in TAVARES, João Paulo Lordelo Guimarães. Vieses implícitos e técnicas de automação decisória: riscos e benefícios. Civil Procedure Review, [S. l.], v. 12, n. 1, p. 105–132, 2021. Disponível em: https://www.civilprocedurereview.com/revista/article/view/225. Acesso em: 14 out. 2025.)
5Em resenha publicada por ocasião do lançamento da obra “Thinking, Fast and Slow”, de Daniel Kahneman, Freeman Dyson, matemático e físico inglês, registrou: “the experiment convincingly demolished the central dogma of classical economics” (DYSON, Freeman. How to Dispel Your Illusions. New York Review of Books, dez/2011. Disponível em: http://www.nybooks.com/articles/archives/2011/dec/22/how-dispel-your-illusions/. Acesso em: 23 ago. 2020), idem.
6NEGOWETTI, Nicole. E. Judicial Decisionmaking, Empathy and the Limits of Perception. Akron Law Review, v. 47, 2014, idem
7SALMORIA, C., Allessi Nicoletti Alves, D., & Antunes de Oliveira, M. (2024). VIÉS ALGORÍTMICO DE GÊNERO NO SISTEMA DE RECRUTAMENTO: : O CASO AMAZON. Cadernos UNDB – Estudos Jurídicos Interdisciplinares, 7(1).
8Art. 20. O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade. (Redação dada pela Lei nº 13.853, de 2019) § 1º O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial. § 2º Em caso de não oferecimento de informações de que trata o § 1º deste artigo baseado na observância de segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais.
9TEIXEIRA, Tarcísio. GUERREIRA, Ruth Maria. Lei Geral de Proteção de Dados Pessoais comentada artigo por artigo. Ed. Saraiva, 4ª ed., 2022.
10https://g1.globo.com/pr/parana/especial-publicitario/bw8/noticia/2025/03/14/vazamentos-de-dados-a- ameaca-silenciosa-das-ias-genericas-na-empresas.ghtml, acessado por último em 15 de outubro de 2025.
11O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. Nova York: Crown, 2016. In João Paulo Lordelo Guimarães. Vieses implícitos e técnicas de automação decisória: riscos e benefícios. Civil Procedure Review, [S. l.], v. 12, n. 1, p. 105–132, 2021. Disponível em: https://www.civilprocedurereview.com/revista/article/view/225. Acesso em: 14 out. 2025.)
12Parlamento Europeu, Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica, 2015/2103(INL).
BIBLIOGRAFIA
- TAVARES, João Paulo Lordelo Guimarães. Vieses implícitos e técnicas de automação decisória: riscos e benefícios. Civil Procedure Review, [S. l.], v. 12, n. 1, p. 105–132, 2021. Disponível em: https://www.civilprocedurereview.com/revista/article/view/225. Acesso em: 14 out. 2025.)
- SALMORIA, C., Allessi Nicoletti Alves, D., & Antunes de Oliveira, M. (2024). VIÉS ALGORÍTMICO DE GÊNERO NO SISTEMA DE RECRUTAMENTO: : O CASO AMAZON. Cadernos UNDB – Estudos Jurídicos Interdisciplinares, 7(1).
- TEIXEIRA, Tarcísio. GUERREIRA, Ruth Maria. Lei Geral de Proteção de Dados Pessoais comentada artigo por artigo. Ed. Saraiva, 4ª ed., 2022.