Modelos de IA menores ganham espaço em governos

O boom da inteligência artificial tem transformado diversos setores, e agora as organizações públicas enfrentam pressões para acelerar a adoção de IA. No entanto, instituições governamentais lidam com restrições únicas relacionadas à segurança de dados, governança e operações, que as diferenciam completamente do setor privado. Nesse contexto, os modelos de linguagem pequenos (SLMs, na sigla em inglês) surgem como uma solução promissora para viabilizar a IA nesses ambientes complexos. Segundo estudo da Capgemini, 79% dos executivos do setor público global expressam preocupações com a segurança dos dados no contexto da IA, um percentual compreensível diante da sensibilidade extrema das informações governamentais e das obrigações legais envolvidas no uso desses dados. Como destaca Han Xiao, vice-presidente de IA da Elastic, “as agências governamentais precisam ser extremamente restritivas sobre que tipo de dados enviam para a rede, o que estabelece muitos limites para como pensam e gerenciam suas informações”.

A necessidade fundamental de controle sobre informações sensíveis é apenas um dos muitos fatores que tornam a implementação de IA no setor público mais complexa do que no setor privado. Enquanto empresas privadas podem contar com conectividade contínua à nuvem, infraestrutura centralizada e certa tolerância a modelos com transparência limitada, as instituições governamentais não podem correr esses riscos. O controle absoluto sobre os dados, a capacidade de verificar e validar informações e a manutenção de operações ininterruptas são requisitos não negociáveis. Além disso, muitas vezes precisam operar em ambientes com conectividade limitada, instável ou mesmo inexistente, o que impede que projetos piloto promissores avancem além da fase experimental.

Segundo pesquisa da Elastic com líderes do setor público, 65% deles enfrentam dificuldades para utilizar dados em tempo real e em grande escala de forma contínua. Essa realidade destaca um desafio operacional frequentemente subestimado: a IA no setor público precisa operar de forma confiável com todos os tipos de dados e crescer sem comprometer a estabilidade do sistema. “Muitas pessoas não valorizam adequadamente o desafio operacional da IA”, comenta Xiao. A continuidade das operações muitas vezes é negligenciada, mas é crucial para o sucesso dessas iniciativas.

Outro obstáculo significativo é a infraestrutura. Diferentemente do setor privado, que investe pesadamente em unidades de processamento gráfico (GPUs) para treinar e acessar modelos de IA complexos, as organizações governamentais geralmente não estão equipadas para isso. “O governo não costuma comprar GPUs como o setor privado faz; eles não estão acostumados a gerenciar essa infraestrutura”, explica Xiao. “Portanto, acessar uma GPU para rodar o modelo se torna um gargalo para grande parte do setor público”. Essa limitação tecnológica reforça a necessidade de soluções alternativas que não dependam de hardware de alto desempenho ou conectividade constante.

Os modelos de linguagem grandes (LLMs) tradicionais tornam-se inviáveis nesse cenário devido às suas exigências computacionais e operacionais. No entanto, os SLMs oferecem uma alternativa prática: eles podem ser implantados localmente, proporcionando maior segurança e controle. Esses modelos especializados geralmente utilizam bilhões, e não centenas de bilhões, de parâmetros, tornando-os muito menos exigentes computacionalmente do que os LLMs. Segundo estudo empírico, os SLMs apresentam desempenho igual ou superior aos LLMs em diversas tarefas, além de permitirem o uso eficiente de informações sensíveis sem a complexidade operacional de manter modelos gigantescos.

Han Xiao ilustra essa diferença com um exemplo simples: “É fácil usar o ChatGPT para revisão de textos, mas é extremamente desafiador rodar seus próprios modelos de linguagem grandes de forma suave em um ambiente sem acesso à internet”. Os SLMs são projetados sob medida para as necessidades específicas de cada departamento ou agência governamental. Os dados são armazenados de forma segura fora do modelo e acessados apenas quando necessário. Prompts bem elaborados garantem que somente informações relevantes sejam recuperadas, proporcionando respostas mais precisas. Técnicas como recuperação inteligente, busca vetorial e fundamentação em fontes verificáveis permitem construir sistemas de IA que atendam plenamente às demandas do setor público.

A próxima fase da adoção de IA no setor público pode envolver, justamente, levar a ferramenta até os dados, em vez de enviar os dados para a nuvem. Segundo projeções da Gartner, até 2027, modelos de IA pequenos e especializados serão usados três vezes mais do que os LLMs. Essa abordagem não só resolve problemas de conectividade e segurança, mas também permite que as instituições governamentais mantenham total autonomia sobre suas informações críticas.

Quando se fala em IA no setor público, muitas pessoas imediatamente pensam em chatbots como o ChatGPT. No entanto, as possibilidades são muito mais amplas, como destaca Han Xiao: “A IA pode revolucionar como o governo pesquisa e gerencia os grandes volumes de dados que possui”. Uma das oportunidades mais imediatas é a melhoria drástica na capacidade de busca. Assim como outras organizações, o setor público acumula montanhas de dados não estruturados, como relatórios técnicos, documentos de licitação, atas e faturas. A IA atual, no entanto, consegue processar resultados provenientes de mídias mistas, como PDFs legíveis, imagens escaneadas, planilhas e gravações, e em diversos idiomas. Todos esses dados podem ser indexados por sistemas baseados em SLMs para fornecer respostas personalizadas e redigir textos complexos em qualquer idioma, sempre garantindo conformidade legal.

“O setor público possui muitos dados, mas nem sempre sabe como utilizá-los ou quais são as possibilidades”, observa Xiao. Além disso, a IA pode ajudar os funcionários governamentais a interpretar as informações que acessam. “A IA de hoje pode oferecer uma visão completamente nova sobre como aproveitar esses dados”, afirma. Um SLM bem treinado pode interpretar normas legais, extrair insights de consultas públicas, apoiar a tomada de decisões executivas baseadas em dados e melhorar o acesso do público a serviços e informações administrativas. Isso contribui para melhorias significativas na forma como o setor público conduz suas operações diárias.

Focar nos SLMs transfere a conversa da abrangência do modelo para sua eficiência. Os LLMs incorrem em custos elevados de desempenho e computação, além de exigirem hardware especializado que muitas entidades públicas não podem arcar. Embora exijam algum investimento inicial, os SLMs são menos intensivos em recursos do que os LLMs, tornando-se mais econômicos e reduzindo o impacto ambiental. As agências governamentais frequentemente enfrentam requisitos rigorosos de auditoria, e os algoritmos dos SLMs podem ser documentados e certificados como transparentes. Em países como os da União Europeia, regulamentações rígidas de privacidade, como o GDPR, podem ser atendidas com mais facilidade por meio de SLMs projetados para esse fim.

A utilização de dados de treinamento personalizados produz resultados mais direcionados, reduzindo erros, vieses e “alucinações” — fenômeno comum em IA quando o modelo gera informações incorretas ou inventadas. Como explica Xiao, “os modelos de linguagem grandes geram texto com base no que foram treinados, então existe uma data limite após a qual eles não têm informações. Se você perguntar algo após essa data, eles vão alucinar. Podemos resolver isso forçando o modelo a trabalhar apenas com fontes verificadas”. Os riscos também são minimizados ao manter os dados em servidores locais ou até mesmo em dispositivos específicos, não como uma medida de isolamento, mas como uma estratégia de autonomia para garantir confiança, resiliência e relevância.

Ao priorizar modelos específicos para tarefas projetados para ambientes que processam dados localmente e monitorar continuamente o desempenho e o impacto, as organizações do setor público podem construir capacidades duradouras de IA que apoiem decisões do mundo real. “Não comece com um chatbot; comece com busca”, aconselha Xiao. “Grande parte do que consideramos inteligência em IA é, na verdade, sobre encontrar a informação certa”. Essa abordagem pragmática permite que o setor público aproveite os benefícios da IA sem comprometer a segurança, a privacidade ou a estabilidade operacional.

A adoção de SLMs no setor público representa uma mudança de paradigma. Em vez de buscar modelos cada vez maiores e mais poderosos, a prioridade passa a ser a eficiência, a segurança e a aplicabilidade prática. Essa transição não apenas resolve problemas imediatos de infraestrutura e conformidade, mas também abre caminho para inovações que realmente atendam às necessidades da população. A IA no governo não precisa ser sobre criar sistemas superinteligentes; pode ser sobre tornar os processos existentes mais ágeis, transparentes e centrados no cidadão.

No Brasil, por exemplo, a implementação de SLMs poderia transformar a gestão de dados em órgãos como Receita Federal, INSS ou prefeituras. Imagine um sistema de IA que, ao invés de enviar dados sensíveis para servidores remotos, processe informações localmente para agilizar a liberação de benefícios, identificar fraudes ou otimizar a alocação de recursos. A privacidade estaria preservada, a velocidade de resposta aumentaria e os custos operacionais diminuiriam. Essa é a promessa dos modelos menores: levar a inteligência artificial para onde ela é realmente necessária, sem os riscos associados aos grandes modelos centralizados.

Outro aspecto fundamental é a capacidade dos SLMs de operar em ambientes com recursos limitados. Muitas prefeituras brasileiras, por exemplo, ainda enfrentam dificuldades com infraestrutura de TI básica. Um modelo de linguagem pequeno pode ser executado em hardware modesto, sem depender de GPUs caras ou conexões de internet de alta velocidade. Isso democratiza o acesso à IA, permitindo que até mesmo municípios menores se beneficiem da tecnologia sem investimentos milionários. Além disso, a transparência desses modelos facilita auditorias e garante que as decisões automatizadas possam ser explicadas e contestadas, se necessário.

A questão da “alucinação” da IA é especialmente crítica no setor público, onde decisões erradas podem ter consequências graves. Os SLMs, ao trabalharem com bases de dados restritas e verificadas, reduzem significativamente esse risco. Por exemplo, um modelo treinado apenas com legislação brasileira e jurisprudência local terá muito menos probabilidade de inventar informações sobre leis estrangeiras ou casos não documentados. Essa precisão é vital para sistemas que auxiliam juízes, fiscais ou gestores públicos em suas atividades diárias.

A personalização dos modelos também permite que cada órgão desenvolva soluções sob medida. Uma secretaria de saúde poderia ter um SLM especializado em interpretar laudos médicos e protocolos clínicos, enquanto uma secretaria de educação usaria outro focado em legislação educacional e gestão de escolas. Essa abordagem setorial evita a tentação de adotar soluções genéricas que não atendem às necessidades específicas de cada área. Além disso, a manutenção desses modelos é mais simples, já que as atualizações podem ser feitas de forma controlada e auditável.