Um guia prático de chatbots com IA para o governo
Como criar, proteger e governar assistentes com tecnologia de IA
Quando me encontro com líderes de tecnologia de agências governamentais, eles frequentemente me dizem que a primeira ferramenta de IA generativa (GenAI) que implementaram é um chatbot de IA. De fato, em janeiro de 2025, 80% de todos os casos de uso documentados de GenAI no governo federal envolviam chatbots e assistentes virtuais com tecnologia de IA. A maioria das agências começou com chatbots internos voltados para funcionários para garantir que eles se sintam confortáveis com a tecnologia e satisfeitos com os resultados antes de criar chatbots externos voltados para clientes.
Atualmente, as agências governamentais estaduais e locais estão igualmente interessadas em implementar seus primeiros chatbots com tecnologia de IA. Enquanto isso, as agências federais que concluíram implantações internas estão planejando chatbots externos.
Esses chatbots de IA são diferentes dos chatbots tradicionais que têm sido usados há anos. Os chatbots tradicionais (baseados em regras) seguem scripts fixos e são excelentes para tarefas simples, mas falham com perguntas "fora do script". Os chatbots de IA (conversacionais) utilizam processamento de linguagem natural (PNL), aprendizado de máquina (ML) e grandes modelos de linguagem (LLMs) para entender a intenção, lidar com o contexto, aprender, aprimorar e integrar dados, a fim de fornecer respostas abrangentes a consultas complexas.
Os chatbots de IA podem fornecer respostas rápidas, consistentes e conformes, sem exigir intervenção humana. Mas eles podem ser difíceis de desenvolver, proteger e gerenciar. Para desenvolver um chatbot, primeiro é preciso encontrar um caso de uso que proporcione resultados rápidos e a experiência desejada, depois otimizar o design, escolher o LLM correto e integrar esse modelo com sucesso a fontes de dados devidamente selecionadas.
As agências também devem proteger o chatbot contra ataques e comportamentos maliciosos. Ao mesmo tempo, elas precisam estabelecer uma governança eficaz, garantindo que o modelo não forneça respostas imprecisas ou inadequadas, o que pode levar a tomadas de decisões falhas, facilitar fraudes, comprometer a conformidade regulatória e, por fim, corroer a confiança do usuário.
Apesar dos desafios, não há dúvidas de que as agências governamentais federais, estaduais e locais estão avançando com as implementações de chatbots de IA. Seguir quatro práticas recomendadas pode ajudar sua organização a maximizar o valor desses serviços com tecnologia de IA e, ao mesmo tempo, minimizar os riscos possivelmente graves.
1. Encontrar o caso de uso certo
A criação de chatbots de IA começa seguindo os mesmos princípios de outros aplicativos: entender o problema, projetar para os usuários e iterar com base no feedback. Para sua primeira implementação de chatbot de IA, concentre-se em resolver um problema específico, claramente definido e de alto volume, como responder a perguntas frequentes. Ao planejar esse primeiro projeto, examine os usos externos e internos. Considere também o uso de um chatbot para a triagem, a primeira linha de interação com o usuário que determina a melhor forma de resolver um problema.
Com o tempo, você pode incorporar recursos adicionais para dar suporte a problemas mais complexos. Por exemplo, você pode integrar recursos de tradução, oferecer compatibilidade com voz e texto e conexão com vários sistemas.
Casos de uso externos
Os chatbots externos voltados para clientes ou cidadãos podem abranger uma ampla gama de funções. Aqui estão apenas alguns exemplos:
Os Serviços de Cidadania e Imigração dos EUA implementaram o “EMMA”, um chatbot que auxilia com solicitações públicas relacionadas a serviços de imigração, green cards, passaportes, etc.
A Cidade de Atlanta aprimorou os serviços 311, fornecendo acesso 24 horas por dia à assistência não emergencial. Os moradores podem relatar buracos ou perguntar sobre os horários de coleta de lixo a qualquer momento.
O estado da Carolina do Sul está lançando um novo “assistente residente” com tecnologia de IA, apelidado de “Bradley”, que permite que usuários encontrem respostas para perguntas frequentes e obtenham assistência para pagar impostos, consultar contas de água e muito mais.
Os chatbots externos podem ser projetados para dar suporte consultas anônimas ou fornecer informações personalizadas. O chatbot do site de uma cidade pode fornecer informações gerais sobre alvarás para construção residencial ou eventos futuros, de forma anônima. Mas um site de uma agência trabalhista, tributária ou de veículos automotores pode fornecer respostas personalizadas com informações sobre as reivindicações específicas de um indivíduo, declarações de impostos ou veículos.
Casos de uso internos
A maioria dos líderes de TI do setor público com quem converso está se concentrando em chatbots internos voltados para funcionários. Os chatbots internos usam a geração aumentada de recuperação (RAG) para aproveitar os dados internos. Eles podem ajudar funcionários a encontrar informações e navegar por processos possivelmente complexos de forma rápida e independente, sem depender de colegas.
Assim como os chatbots externos, essas ferramentas internas podem ser construídas para fornecer respostas personalizadas ou informações mais genéricas. Por exemplo:
Um chatbot de RH pode orientar os funcionários durante a integração, como o Slackbot “Sra. Landingham”, lançado em 2015 pela Administração de Serviços Gerais (GSA). Um chatbot de RH também pode fornecer informações sobre benefícios, remuneração e férias personalizados para cada indivíduo.
Um chatbot de TI pode fornecer suporte técnico, ajudando os funcionários a resolver problemas comuns, como solicitações de redefinição de senha ou instalação de novos softwares.
Um chatbot de gerenciamento de casos pode ajudar os assistentes sociais e analistas de benefícios a consultar rapidamente as regras, resumir históricos de casos e extrair informações específicas de sistemas internos.
Os chatbots são excelentes na triagem, lidando com perguntas frequentes e determinando se os problemas devem ser encaminhados para um atendente humano. Eles podem aumentar a produtividade de qualquer central de atendimento ao cliente se forem projetados corretamente e podem reduzir significativamente o tempo de resposta para os usuários, o que é particularmente importante se o chatbot estiver oferecendo suporte a uma central de serviços de TI ou outra função crítica. Os agentes humanos podem, então, se concentrar em questões mais complexas, sutis e não rotineiras.
2. Montar tecnologias de base
Se sua organização está planejando desenvolver um chatbot externo ou interno, você precisa dos mesmos elementos fundamentais: um modelo, um conjunto de dados e um meio de recuperar dados.
LLM
A maioria das organizações do setor público opta por um LLM existente em vez de passar pelo processo caro e demorado de desenvolver um modelo por conta própria. Você pode selecionar um LLM comercial, como o ChatGPT da OpenAI, ou um LLM de código aberto, como o Llama da Meta.
Ao avaliar diferentes modelos, considere funcionalidade, segurança e custo. Por exemplo, talvez você queira um chatbot capaz de processar entrada e saída multimodal (como texto, images e áudio) em vez de apenas texto. Você pode selecionar um modelo de código aberto para hospedar o modelo em seu próprio ambiente controlado e, assim, maximizar a segurança. Um modelo de código aberto também permite que você evite taxas de assinatura e o preço, possivelmente caro, por token de provedores comerciais.
Conjunto de dados
Se você estiver tentando basear o chatbot em conhecimento específico, precisará de um conjunto de dados para o LLM consultar. Dependendo do caso de uso, esses dados podem incluir informações de registro de veículos de todos no estado, as políticas de RH dr sua agência ou um armazenamento de documentos que contenha os registros vitais de um município. Para dar suporte a um chatbot, os dados devem ser mantidos em um banco de dados vetorial, que é estruturado para permitir que os LLMs se lembrem de entradas anteriores.
RAG
Por fim, é necessário integrar o LLM a essa fonte de dados para que seu chatbot possa fornecer informações relevantes aos usuários. O RAG aprimora os prompts do usuário com informações dessa fonte de dados e, em seguida, consulta o LLM. O LLM sintetiza então uma resposta usando o novo contexto, em vez de confiar em seus dados de treinamento gerais.
3. Não apressar o projeto
O planejamento cuidadoso da interface do chatbot, a compatibilidade com diferentes plataformas e a integração com outros conteúdos serão essenciais para garantir sua adoção bem-sucedida. Comece com pesquisas com usuários e, em seguida, defina um escopo limitado para o chatbot, como os tópicos específicos que ele abordará ou um determinado modelo de perguntas e respostas. Colete dados e feedback para aprimorar continuamente o desempenho e a base de conhecimento do bot.
Para maximizar a utilidade e a inclusão, considere implementar chatbots em diversos canais, como seu site, seu aplicativo móvel e uma plataforma de mensagens de texto. Oferecer suporte a vários idiomas (inglês e espanhol são prioridades comuns) para aumentar a acessibilidade.
Lembre-se também de que o conteúdo do chatbot deve funcionar em conjunto com outros conteúdos de sites/perguntas frequentes. O chatbot é uma ferramenta para fornecer informações de uma forma que se aproxima das interações humanas. Ele não substitui a apresentação de informações de outras maneiras.
4. Fortalecer a segurança e a governança
Projetar e desenvolver um chatbot são apenas partes da jornada. Você também precisa de maneiras eficazes de proteger e gerenciar, e isso envolverá o controle dos dados que entram e saem do chatbot.
Controlar a entrada
É importante implementar restrições nos prompts dos usuários para evitar a manipulação do sistema de IA. Em particular, as equipes precisam proteger o modelo e monitorar os prompts em relação a ameaças importantes, como:
Injeção de prompts e jailbreaking: os usuários podem tentar substituir as regras do chatbot ou enganar o modelo para contornar as configurações de segurança inserindo código malicioso.
Prompts inapropriados: alguns usuários podem inserir intencionalmente discurso de ódio ou conteúdo explícito, tentando fazer com que o modelo interaja com material inapropriado. Fazer isso desperdiça recursos de computação e pode, em última análise, prejudicar a reputação da organização caso o chatbot responda com conteúdo igualmente inadequado.
Monitorar a saída
Você também precisa se preparar para resultados problemáticos, incluindo respostas imprecisas. Por exemplo, perguntaram ao chatbot MyCity da cidade de Nova York, voltado para pequenos empresários, se um restaurante poderia servir queijo mordiscado por um roedor. A resposta, obviamente incorreta, foi que um restaurante ainda poderia servir o queijo, desde que avaliasse a extensão dos danos causados pelo roedor e informasse os clientes.
Os chatbots também podem fornecer respostas inadequadas e tendenciosas que prejudicam a reputação da agência e diminuem a confiança pública. Em um exemplo bem divulgado de 2025, o Grok da xAI publicou retórica antissemita.
Um firewall de IA pode ajudar a proteger entradas e saídas, bloqueando injeção de prompts, envenenamento de modelo, uso excessivo e outras ameaças que as soluções de segurança tradicionais não conseguem resolver. Localizado na borda da rede, entre o usuário e o modelo, o firewall pode impedir que entradas maliciosas cheguem ao modelo e saídas inadequadas ou não compatíveis cheguem ao usuário. O firewall pode ser totalmente controlado pela agência governamental, utilizando políticas definidas pela própria agência.
Começar a construir, proteger e gerenciar.
A Cloudflare oferece diversas ferramentas que podem ajudar a otimizar o processo de implementação de chatbots de IA, tudo a partir de uma única plataforma unificada. Por exemplo, a Cloudflare permite que suas equipes criem o back-end para chatbots com um banco de dados vetorial, armazenamento de objetos global com taxa de saída zero e serviço para habilitar padrões RAG sem precisar gerenciar a infraestrutura.
Você pode então criar e implantar chatbots com tecnologia de IA na rede global da Cloudflare. Os serviços do AI Gateway permitem que os desenvolvedores incorporem vários LLMs em seus chatbots, obtendo um único ponto de controle e observabilidade para o tráfego de aplicativos de IA. A implementação de serviços do Firewall for AI in-line, integrado à rede global da Cloudflare, pode ajudar a proteger os prompts e as saídas.
Não há dúvida de que os chatbots podem ajudar a atender às expectativas dos usuários por um serviço imediato, ao mesmo tempo em que aderem ao crescente impulso atual em direção à eficiência governamental. Ainda assim, dedicar tempo para projetar cuidadosamente seu chatbot e implementar segurança e governança adequadas será fundamental para alcançar seus objetivos.
Este artigo é parte de uma série sobre as tendências e os assuntos mais recentes que influenciam os tomadores de decisões de tecnologia hoje em dia
Autoria
Dan Kent — @danielkent1
Field CTO para o setor público, Cloudflare
Principais conclusões
Ap ós ler este artigo, você entenderá:
Como identificar os melhores casos de uso de chatbot para sua organização
Quais tecnologias-chave você precisa selecionar e integrar
Estratégias para fortalecer a segurança e gerenciar chatbots
Recursos relacionados
Saiba mais sobre esse assunto
Saiba mais sobre como apoiar a implementação de serviços de IA, como chatbots, e manter a segurança em Ensuring safe AI practices: A CISO’s guide on how to create a scalable AI strategy.