Nova publicação orienta servidores públicos sobre o uso de sistemas com RAG, arquitetura que reduz respostas incorretas ao buscar informações em bases documentais do próprio órgão
O Ministério da Gestão e da Inovação em Serviços Públicos (MGI) divulgou, nesta quinta-feira (25/6), um novo guia para orientar servidores públicos sobre o uso de soluções de Inteligência Artificial (IA). O “Guia de introdução ao RAG no setor público” explica como funcionam sistemas de IA que consultam documentos institucionais antes de gerar respostas, arquitetura conhecida como RAG (Retrieval-Augmented Generation, ou Geração Aumentada por Recuperação). O material já está disponível no portal de Governo Digital.
“Este guia é para orientar o servidor a usar com mais segurança ferramentas de IA baseadas nessa arquitetura, reconhecer as suas limitações e falhas, e preservar a responsabilidade humana nas decisões administrativas”, explicou o secretário de Governo Digital, Rogério Mascarenhas. “Usamos uma linguagem simples, os servidores não precisam ter conhecimento prévio da tecnologia, mas é importante a leitura porque essas soluções estão sendo adotados em órgãos federais para consulta normativa, atendimento ao cidadão, apoio jurídico e auditoria de contratos”, acrescentou.
Ainda de acordo com Mascarenhas, a nova publicação vai trazer letramento digital ao servidor público federal. Para o secretário, o guia vai possibilitar que a pessoa use esses sistemas com mais consciência, ou seja, vai ajudar a verificar fontes, identificar alucinações, reconhecer quando a base de dados está desatualizada e entender que a responsabilidade pelo ato administrativo é sempre do agente público.
A nova publicação do MGI, é dividida em cinco seções:
– o que é RAG e como funciona;
– porque IA sem acesso a documentos confiáveis pode gerar respostas incorretas (alucinações);
– porque a governança de dados é importante: curadoria da base, vieses em documentos antigos e supervisão humana;
– proteção de dados pessoais segundo a LGPD; e
– riscos de segurança da informação.
O guia foi produzido pela Secretaria de Governo Digital (SGD) em parceria com o CPQD por meio do Projeto INSPIRE.
Outros guias
A SGD, por meio do Núcleo de IA, já fez a divulgação de outras publicações para orientar os servidores. Uma delas é o Guia de Prompt para IA Generativa, que tem a proposta de orientar servidores públicos sobre o uso eficaz e responsável das ferramentas de IA, além de auxiliar na criação de instruções, os chamados prompts, de forma clara e objetiva.
Já o Guia de IA Generativa, elaborado em parceria com o SERPRO, apresenta o funcionamento dos modelos de linguagem, os principais riscos associados ao uso de IA generativa (alucinações, vieses e vazamento de dados) e boas práticas para uso responsável no serviço público.
Mais informações estão disponíveis no gov.br/amplia
Fonte: Ministério da Gestão e Inovação em Serviços Público
