A adoção de sistemas de IA (inteligência artificial) pela administração pública, sobretudo em procedimentos de contratação, revela-se como uma resposta contemporânea à crescente complexidade institucional, às normativas densas, aos volumosos fluxos de dados e à exigência de eficiência, transparência e integridade institucional necessárias à atuação pública. Nesse cenário, a IA apresenta-se como instrumento apto a conferir agilidade, uniformidade técnica, padronização de critérios, controle documental e predição de riscos, abrindo caminho para uma administração pública mais dinâmica e adaptada às demandas modernas.
Em períodos de escassez orçamentária e pressões por economicidade e celeridade, a automação e a inteligência preditiva permitida pela IA podem representar significativa modernização administrativa e maior impessoalidade. Desde a fase preparatória da contratação através de pesquisa de mercado, definição de objeto, estimativas, elaboração de editais, até a fase de adjudicação, habilitação de fornecedores, análise documental e verificação de conformidade, a IA surge como um grande auxiliar dos gestores públicos pelo mundo. Não à toa, as possibilidades de uso da IA no procurement público têm sido documentadas em relatórios de organismos internacionais como a Organização para a Cooperação e o Desenvolvimento Econômico (OCDE), que aponta ganhos de eficiência, redução de fraudes e aceleração de processos como benefícios efetivos desse tipo de inovação institucional.
Contudo, a utilização da IA no ciclo de contratações públicas não pode prescindir do arcabouço regulatório e axiológico que estrutura a atividade estatal no Brasil; ao contrário, deve inserir-se dentro dele, respeitando seus fundamentos. Afinal, são valores, em sua maior parte, consagrados pelo artigo 37 da Constituição, pelo artigo 5º da Lei nº 14.133/2021 (Lei de Licitações) e pelo artigo 31 da Lei 13.303/2016 (Lei das Estatais), que consagram a legalidade, impessoalidade, moralidade, publicidade, eficiência, isonomia, motivação, segurança jurídica, interesse público e demais princípios da administração pública. A conjugação entre tecnologia e Estado impõe, portanto, reflexão jurídica e institucional aprofundada, sob pena de que a inovação comprometa princípios e, por consequência, a legitimidade dos atos administrativos.
Exercício de sistemas algorítmicos
Uma das principais problemáticas refere-se à delegação decisória a sistemas algorítmicos sem previsão normativa expressa. O regime licitatório brasileiro, conforme hoje instituído, não autoriza genericamente que algoritmos exerçam o juízo de conveniência, oportunidade ou mérito administrativo, competência naturalmente reservada ao agente público legalmente investido. A atribuição dessa competência decisória a uma IA, sem norma autorizadora, implicaria potencial usurpação de função administrativa, fragilizando a legalidade dos atos praticados e abrindo margem para nulidade de atos.
O desempenho da atividade pública relevante, habilitação, julgamento, adjudicação, formalização de contratos e outros processos exigem autoridade pública, motivação, fundamentação e responsabilidade, requisitos estes que não se coadunam com a automatização pura e simples. Aqui, vale salientar que o uso da IA, é claro, não se resume somente à automação. Afinal, se o fosse, não existiria discussão, porém, para explorar o potencial de forma completa, precisam existir diretrizes para guiar sua utilização.
Adicionalmente, a impessoalidade e a isonomia, pilares da justiça e da igualdade de oportunidades no acesso ao mercado público, correm sério risco quando a IA opera com base em dados históricos enviesados. Se as bases de dados, por exemplo, contêm concentração de contratos com grandes empresas, favorecimentos de perfis específicos, privilégios geográficos, práticas discriminatórias antigas ou disparidades estruturais, o algoritmo, ao replicar e aprender com tais históricos, muito provavelmente reforçará essas distorções.
A chamada “discriminação algorítmica”, mascarada por uma pretensa neutralidade técnica, seria capaz de pôr em xeque a legitimidade do processo licitatório e vulnerar a isonomia entre licitantes. A literatura especializada alerta precisamente para esse risco, apontando que a neutralidade algorítmica é ilusória: cada conjunto de informações escolhidas, cada modelo treinado, cada critério embutido, traduz decisões de valor que afetam a distribuição de oportunidades e resultados.
Moralidade administrativa
Por sua vez, o princípio da moralidade administrativa exige que os atos estatais se pautem pela boa-fé, pela lealdade institucional, pela equidade, pela proteção do interesse coletivo e pela coerência com valores éticos e democráticos. Entretanto, um sistema de IA não possui sensibilidade ética ou moral, consciência de valores, noção de justiça social, empatia ou compromisso com direitos fundamentais; ela opera por regras, dados e lógica algorítmica. A pretensão de que o algoritmo realize um “juízo moral” é juridicamente insustentável. Assim, o uso de IA na administração pública prescinde mecanismos de governança, supervisão humana, auditoria institucional e accountability, não apenas na prática, mas formalizados por norma e meta-regulação.
Da mesma forma, a publicidade e a transparência, ainda que consubstanciais à atividade estatal, também se encontram ameaçadas quando a IA é empregada como uma “caixa-preta”. Muitos modelos de machine learning, notadamente os baseados em redes neurais profundas, não oferecem explicabilidade clara ou compreensível a leigos, gestores, auditores ou usuários. A lógica decisória interna, os critérios utilizados, a ponderação de dados e a ordem de prioridades podem ser incompreensíveis sem documentação técnica, logs de operações, histórico de input/output ou relatórios de auditoria. Essa opacidade inviabiliza a motivação adequada dos atos administrativos, dificulta o controle social, a impugnação, a revisão ou responsabilização, em profundo contraste com os deveres de transparência, motivação, publicidade e controle social. Ademais, se a base de dados que alimenta o sistema for privada, proprietária ou inacessível, torna-se impossível exercer fiscalização pública, comprometendo o princípio da publicidade. A literatura de governança de IA no setor público recomenda a adoção de instrumentos de “algorithmic transparency”, com repositórios públicos de algoritmos, documentação dos critérios, auditoria e prestação de contas, conforme recomendado pela OCDE.
Não obstante os riscos, o princípio da eficiência, igualmente fundamental, encontra na IA um apoio técnico relevante. A automatização, a predição, a padronização e o processamento de grandes massas de dados reduzem custos de transação, aceleram decisões, melhoram o controle documental e permitem rastreabilidade, o que pode resultar em ganhos concretos de economicidade, celeridade e governança de contratos públicos. No cenário ideal, a IA pode contribuir decisivamente para a realização do interesse público por meio de decisões mais ágeis, fundamentadas e menos suscetíveis a erros ou fraudes.
Entretanto, neste ponto, importantíssimo salientar que eficiência técnica não é sinônimo de plena realização do interesse público. Se a busca por celeridade sacrifica valores como moralidade, isonomia, transparência, controle social ou justiça distributiva, a administração, ainda que eficiente, em um contexto de desrespeito claro à constituição, apesar de formalmente legítima, invalida seus próprios atos.
Regulação de IA na administração pública
Diante desse panorama conflitante entre a promessa tecnológica e as exigências jurídico-constitucionais, é imperativo instaurar sem demora um arcabouço regulatório e institucional específico para o uso da IA na administração pública e no processo de contratação. Esse arcabouço deve, obrigatoriamente, fixar normas expressas que delimitam finalidades, limites e responsabilidades, bem como impor obrigações de transparência e compliance, e instituir estruturas de governança algorítmica claras e vinculantes.
A supervisão humana não pode ser vista como uma mera recomendação eventual, mas como pressuposto inarredável: mesmo que a IA produza recomendações, alertas ou análises, a decisão final, especialmente nas etapas decisórias de habilitação, julgamento, adjudicação e formalização de contratos e licitações, por exemplo, deve permanecer sempre sob responsabilidade de autoridade pública legalmente competente, com fundamentação e motivação explícitas, sujeita a controle, fiscalização e responsabilização efetiva. Isso é essencial para preservar o mérito administrativo, a discricionariedade qualificada, o juízo de oportunidade e conveniência e a legitimidade institucional.
Os sistemas de IA empregados pela administração devem operar sob regimes invariáveis de transparência, explicabilidade e rastreabilidade: toda utilização deve ser tecnicamente documentada, manter histórico completo de dados de entrada e saída (input/output), registrar versões, decisões intermediárias e resultados do algoritmo, e permitir auditoria interna e externa. A publicação de repositórios públicos com os algoritmos utilizados pela própria administração não pode ser apenas recomendada, deve ser mandatória, conforme padrões internacionais de governança de IA. A implementação da tecnologia exige curadoria, padronização, proteção de dados sensíveis, mecanismos de mitigação de vieses e critérios de equidade claros. As bases de dados que alimentam os sistemas de IA devem ser equitativas, representativas e sujeitas a revisões periódicas, sob pena de a tecnologia reforçar desigualdades estruturais, discriminações históricas e privilégios injustificados.
Capacitação de agentes públicos
A capacitação institucional e técnica dos agentes públicos neste momento torna-se condição essencial de legitimidade. Sem treinamento, conhecimento jurídico-técnico e consciência crítica dos riscos inerentes ao uso da IA, os sistemas tenderão a operar como “caixa-preta” burocrática, aprofundando a opacidade, corroendo o controle e fragilizando a moralidade administrativa.
Por fim, é urgente o lançamento de programas-piloto com controle e monitoramento contínuo, antes da adoção generalizada da IA nas contratações públicas. Esses programas devem ser concebidos com métricas claras de avaliação de desempenho, impacto, transparência, equidade, controle social, responsabilidade institucional e mitigação de riscos, de modo a calibrar a tecnologia e a governança antes de sua expansão definitiva.
Em síntese: a IA só poderá ser aliada legítima da administração pública se for estruturada sob um regime jurídico-institucional sólido, com governança algorítmica, supervisão humana, transparência efetiva, rastreabilidade, responsabilidade e respeito incondicional aos valores públicos fundamentais. A inovação tecnológica, por si só, é insuficiente: é necessário submetê-la ao direito, à ética, à moralidade administrativa e à legitimidade democrática. A IA deve servir ao Estado — nunca substituí-lo.
Por Lucas Monet
__________________________
Referências
AYIBAM, Joanna Nyaposowo. Artificial Intelligence in Public Procurement: Legal Frameworks, Ethical Challenges, and Policy Solutions for Transparent and Efficient Governance. [S.l.], 2025. Disponível aqui.
GLOBAL PARTNERSHIP ON ARTIFICIAL INTELLIGENCE – GPAI. Algorithmic Transparency in the Public Sector: a state-of-the-art report of algorithmic transparency instruments. [S.l.], 2024. Disponível aqui.
ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT – OECD. AI in Public Procurement: Governing with Artificial Intelligence. Paris: OECD Publishing, 2025.
OECD. Advancing Accountability in AI: Governing and Managing Risks throughout the Lifecycle for Trustworthy AI. Paris: OECD Publishing, 2024.
VEALE, Michael; VAN KLEEK, Max; BINNS, Reuben. Fairness and accountability design needs for algorithmic support in high-stakes public sector decision-making. arXiv preprint, 2018. Disponível aqui.
BRASIL. Constituição da República Federativa do Brasil. Disponível aqui.
BRASIL. Lei n.º 14.133, de 1º de abril de 2021. Regulamenta as contratações públicas; institui normas para licitações e contratos. Disponível aqui.
Fonte: Consultor Jurídico
Foto: Canva
